يواجه ChatGPT انتقادات متزايدة بسبب تقديمه معلومات خاطئة بثقة عالية وهي ظاهرة تعرف باسم “هلوسة الذكاء الاصطناعي”.
ووفقًا لاختبارات داخلية أجرتها OpenAI فإن النماذج الأحدث من شات جي بي أصبحت أكثر عرضة لهذه الأخطاء حيث أظهرت البيانات أن أحد النماذج اختلق معلومات بنسبة 33% بينما بلغت نسبة الأخطاء في نموذج آخر 48%.
تعود هذه المشكلة إلى الطريقة التي يعمل بها الذكاء الاصطناعي حيث يعتمد على التنبؤ بالكلمات بناءً على الأنماط بدلاً من استرجاع الحقائق الدقيقة
هذا يجعل بعض الإجابات تبدو صحيحة رغم أنها غير دقيقة وهذا بالإضافة إلى أن التحسينات التي أُدخلت على GPT-4o جعلته أكثر طلاقة في الحديث مما أدى إلى تقليل استخدام العبارات التحذيرية مثل “لست متأكدًا” وهو ما يزيد من احتمالية تقديم معلومات غير صحيحة دون إظهار شكوك.
وتثير هذه الظاهرة مخاوف بشأن موثوقية الذكاء الاصطناعي في المجالات الحساسة مثل القانون والطب حيث يمكن أن تؤدي المعلومات غير الدقيقة إلى عواقب خطيرة.
وفي إحدى الحالات تم فصل موظف قانوني بعد أن استخدم ChatGPT لإنشاء مستند قانوني يحتوي على مراجع قانونية غير موجودة مما أدى إلى فرض عقوبات على الشركة⁽²⁾.
وللتقليل من هذه الأخطاء ينصح الخبراء المستخدمين بالتحقق من المعلومات المقدمة من الذكاء الاصطناعي وعدم الاعتماد عليها بشكل كامل دون مراجعة مصادر موثوقة.
كما تعمل OpenAI على تحسين نماذجها لتقليل معدل “الهلاوس” وضمان دقة أكبر في الإجابات المستقبلية.
