سام ألتمان يفرض قيودًا جديدة على استخدام ChatGPT للمراهقين
أعلن سام ألتمان الرئيس التنفيذي لشركة OpenAI عن سياسات جديدة تخص مستخدمي تطبيق ChatGPT ممن تقل أعمارهم عن 18 عامًا في خطوة تهدف إلى تعزيز حماية المراهقين عند استخدام هذه التكنولوجيا.
وأوضح ألتمان أن الشركة تضع السلامة فوق الخصوصية والحرية بالنسبة للمراهقين مشيرًا إلى أن التقنية قوية وحديثة وتحتاج إلى ضوابط صارمة لحماية القصر.
تشمل التغييرات الجديدة منع أي تفاعل ذي طابع غزلي مع المراهقين بالإضافة إلى فرض قيود أكبر على المحادثات المتعلقة بالانتحار أو إيذاء النفس، ووفق السياسة المعدلة.
إذا حاول مستخدم قاصر استكشاف سيناريوهات انتحار عبر ChatGPT سيقوم النظام بمحاولة التواصل مع والديه أو في الحالات الأكثر خطورة مع السلطات المحلية.
وتأتي هذه الخطوة وسط دعوى قضائية مرفوعة ضد OpenAI من والدي المراهق آدم رين الذي أنهى حياته بعد أشهر من تفاعلاته مع ChatGPT.
وتواجه منصة Character.AI قضية مشابهة في ظل قلق متزايد من ظاهرة “الوهم الناتج عن المحادثة المطولة مع الروبوتات” خاصة بين المستخدمين الشباب.
ستمنح OpenAI الآباء المسجلين القدرة على تحديد ساعات حظر لا يمكن خلالها لأطفالهم استخدام ChatGPT وهي ميزة لم تكن متاحة سابقًا كما سيتاح ربط حسابات المراهقين بحسابات ذويهم ما يسمح بإرسال تنبيهات مباشرة في حال اعتقد النظام أن المستخدم في حالة خطر نفسي.
أوضحت OpenAI أنها تعمل على تطوير نظام طويل الأمد يحدد ما إذا كان المستخدم فوق أو تحت 18 عامًا وفي الحالات الغامضة ستطبق تلقائيًا القيود الأكثر صرامة لكن الشركة شددت في الوقت نفسه على التزامها بحماية خصوصية البالغين ومنحهم حرية أوسع في التفاعل مع الروبوت.
تزامنت هذه التغييرات مع جلسة استماع للجنة القضائية في مجلس الشيوخ الأميركي بعنوان “بحث أضرار روبوتات الدردشة بالذكاء الاصطناعي” حيث ألقى والد آدم رين كلمة إلى جانب خبراء آخرين.
الجلسة ناقشت أيضًا تقريرًا استقصائيًا لوكالة رويترز كشف عن وثائق سياسات سابقة شجعت على محادثات ذات طابع جنسي مع قاصرين الأمر الذي دفع شركات مثل Meta لتحديث سياساتها الخاصة بالروبوتات.
