نموذج ذكاء اصطناعي يرسل بلاغ قتل مزيف إلى الشرطة

أفصحت شركة Anthropic الأمريكية المتخصصة في الذكاء الاصطناعي عن سلسلة من الحوادث المرتبطة بسلوك غير مصرح به لنماذجها كان أبرزها قيام أحد نماذجها بإرسال بلاغ مزيف بشأن جريمة قتل إلى موقع تابع لشرطة مدينة فيلادلفيا الأمريكية.

تعد الواقعة أول حالة معروفة يحاول فيها نظام ذكاء اصطناعي تقديم معلومة جنائية كاذبة إلى جهات إنفاذ القانون رغم أنه كان موجهًا بعدم إنشاء حسابات أو تنفيذ إجراءات ضارة لكنه لم يمنع صراحة من ملء النماذج الإلكترونية وإرسالها. 

وبحسب ما كشفته الشرطة أرسل النموذج التابع لشركة Anthropic بلاغًا عبر موقع مخصص لتلقي المعلومات المتعلقة بقضايا القتل غير المحلولة في مدينة فيلادلفيا وادعى البلاغ أن صاحبه يمتلك معلومات قد تساعد في التحقيق بإحدى القضايا.

وجاء في نص الرسالة التي أنشأها النموذج: قد تكون لدي معلومات بشأن هذه القضية وأتذكر أنني رأيت شخصًا تنطبق عليه الأوصاف في المنطقة خلال تلك الفترة.

وأكدت شرطة فيلادلفيا أن البلاغ تم تصنيفه تلقائيًا كرسالة مزعجة ولم يصل إلى مرحلة المراجعة أو التدقيق الجنائي كما لم يتم رصد أي وصول غير مصرح به إلى أنظمة الشرطة أو أي اختراق للبيانات.

وأوضحت الشرطة أن البلاغ أرسل في 18 يوليو الماضي بينما أبلغت الشركة السلطات بالواقعة خلال الأسبوع الجاري فقط وهو ما دفعها إلى انتقاد التأخير في اكتشاف الحادثة والإبلاغ عنها.

من جانبها أرجعت Anthropic الحادثة إلى عملية اختبار آلية كانت تسمح للنموذج بالتفاعل مع مواقع إلكترونية مختارة عشوائيًا مؤكدة أنها أوقفت هذا النوع من الاختبارات بعد اكتشاف الواقعة واتخذت إجراءات إضافية لمنع تكرارها.

وتأتي هذه الحادثة ضمن سلسلة من الوقائع التي وصفتها الشركة بأنها سلوكيات غير مقصودة أو غير مصرح بها من نماذج كلود شملت التفاعل مع مواقع حكومية واستغلال بعض الثغرات التقنية أو تجاوز قيود معينة أثناء الاختبارات.

كما تزيد الواقعة من المخاوف المتنامية بشأن ما يعرف بالذكاء الاصطناعي المارق خاصة مع تزايد قدرات الوكلاء الآليين على تنفيذ مهام متعددة دون إشراف بشري مباشر في وقت يحذر فيه باحثون ومسؤولون من المخاطر الأمنية المحتملة لهذه الأنظمة.

وأشارت Anthropic إلى أنها أطلعت البيت الأبيض وأخطرت الجهات الحكومية المتأثرة بالحوادث المختلفة التي رصدتها دون الكشف عن أسماء جميع المؤسسات المعنية.

من جهتها شددت لجنة التجارة الفيدرالية الأمريكية على ضرورة الإفصاح الفوري عن أي حوادث تتعلق بنماذج الذكاء الاصطناعي واتخاذ إجراءات سريعة لمعالجة آثارها مؤكدة أن هذه الالتزامات ليست اختيارية.