شركة OpenAI تنشر ورقة بحثية عن أوجه قصور بالنسخة الجديدة
نشرت شركة OpenAI ورقة بحثية تفيد بوجود أوجه قصور واضحة في طريقة تعامل نموذج GPT-4V الجديد مع الصور، فيجد صعوبة أحيانًا في إدراك محتوى الصور ويتحيز ضد الرجال أحياناً أخرى، وخلالها أوضحت أنها عملت على تقليل التحيزات الضارة في النموذج، لا سيما المتعلقة بمظهر الشخص وجنسه أو عرقه.
وقالت الشركة إنها اتخذت تدابير وقائية لمنع استخدام GPT-4V بطرق خبيثة، مثل تخطي اختبارات CAPTCHAs (أداة مكافحة الزيارات الروبوتية تُستخدم في العديد من مواقع الإنترنت)، وتحديد جنس الشخص أو تقدير عمره أو عرقه بناءً على معلومات غير موجودة في الصورة.
ومن مارس الماضي قدمت الشركة هذا النموذج على أنه متعدد الإمكانيات إذ يمكنه فهم الصوت والصور والنصوص والفيديوهات، إلا أنها قلصت من إمكانياته خوفاً من سوء استخدامه، فيما أعلنت الأسبوع الماضي إضافة قدرات النطق والسمع والرؤية إلى منصتها الذكية ChatGPT.
كذلك تضمنت الورقة البحثية أن «نموذج GPT-4V يواجه أحياناً صعوبة في إدراك الصور المعروضة، فعلى سبيل المثال، النموذج لا يمكنه قراءة تقارير التصوير الطبي، فإذا أدخل المستخدم صورة لأشعة سينية على أحد أجزاء الجسم، لا يمكن للنموذج فهم أن الجانب الأيمن في الصورة المعروضة هو الجانب الأيسر في الحقيقة، ما يتسبب في تقديم إجابات خاطئة على استفسارات المستخدم، وأحياناً لا يمكنه فهم معاني الإشارات الرمزية، وقد يتسبب ذلك في تورطه في إنتاج محتوى يدعم خطاب الكراهية ويشجع على أفعال مخالفة».
