بيانات الوسم
تم الكشف عن طريق تحقيق مجلة TIME أنه لبناء نظام أمان ضد المحتوى السام (مثل الاعتداء الجنسي ، والعنف ، والعنصرية ، والتمييز على أساس الجنس ، وما إلى ذلك) ، استخدمت شركة OpenAI عمال كينيين تم التعاقد معهم من الخارج يكسبون أقل من دولارين في الساعة لتسمية المحتوى السام.تم استخدام هذه العلامات لتدريب نموذج لاكتشاف مثل هذا المحتوى في المستقبل.تعرض عمال الاستعانة بمصادر خارجية لمحتوى سام وخطير وصفوا التجربة بأنها "تعذيب".كان شريك تعهيد OpenAI هو Sama ، وهي شركة بيانات تدريبية مقرها في سان فرانسيسكو ، كاليفورنيا.
كسر الحماية
يحاول ChatGPT رفض المطالبات التي قد تنتهك سياسة المحتوى الخاصة به.ومع ذلك ، تمكن بعض المستخدمين من كسر حماية ChatGPT باستخدام تقنيات هندسية سريعة متنوعة لتجاوز هذه القيود في أوائل ديسمبر 2022 وخدعوا ChatGPT بنجاح لإعطاء تعليمات حول كيفية إنشاء زجاجة مولوتوف أو قنبلة نووية ، أو لتوليد حجج بأسلوب النازيين الجدد.حقق مراسل تورنتو ستار نجاحًا شخصيًا متفاوتًا في الحصول على ChatGPT للإدلاء ببيانات ملتهبة بعد وقت قصير من إطلاقه: تم خداع ChatGPT لتأييد الغزو الروسي لأوكرانيا عام 2022 ، ولكن حتى عندما طُلب منه اللعب جنبًا إلى جنب مع سيناريو خيالي ، رفض موقع ChatGPT توليد الحجج التي تفسر سبب إدانة رئيس الوزراء الكندي جاستن ترودو بالخيانة.(ويكي)
الوقت ما بعد: 18 فبراير - 2023