ميتا تطلق تنبيهات جديدة لأولياء الأمور لرصد محادثات الانتحار بين المراهقين
أعلنت شركة ميتا عن إطلاق مجموعة جديدة من أدوات الأمان المخصصة لحماية المراهقين تتضمن إرسال تنبيهات إلى أولياء الأمور عند رصد محادثات تتعلق بالانتحار أو إيذاء النفس بين أبنائهم ومساعدها الذكي Meta AI على منصتي فيسبوك وإنستجرام.
وأكدت الشركة أن الميزة الجديدة بدأت بالفعل في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا على أن تتوسع تدريجيًا لتشمل مستخدمين في مختلف أنحاء العالم قبل نهاية العام الجاري.
وأوضحت ميتا أن أولياء الأمور الذين يستخدمون ميزة Instagram Parental Supervision سيتلقون إشعارات إذا أجرى أبناؤهم المراهقون محادثات مع Meta AI تتضمن إشارات إلى الانتحار أو إيذاء النفس وأضافت الشركة أن التنبيهات ستتضمن أيضًا موارد وإرشادات من خبراء الصحة النفسية لمساعدة الآباء على التعامل مع هذه المواقف بطريقة مناسبة وداعمة.
وأشارت ميتا إلى أنها طورت نظامًا مخصصًا يعتمد على الذكاء الاصطناعي لرصد المحادثات التي تشير إلى وجود خطر محتمل حتى إذا جاءت الإشارات بصورة غير مباشرة أو ضمنية وأكدت الشركة أن جميع المحادثات التي يرصدها النظام ستخضع لمراجعة بشرية قبل إرسال أي تنبيه إلى ولي الأمر وفي الحالات التي يكون فيها قصد المستخدم غير واضح ستتبع ميتا نهجًا احترازيًا بإرسال الإشعار لضمان سلامة المراهق.
ولفتت ميتا إلى أنها كانت ترسل بالفعل إشعارات إلى أولياء الأمور إذا كرر المراهق البحث عن محتوى متعلق بالانتحار أو إيذاء النفس عبر إنستجرام كما يقوم Meta AI بتوجيه المستخدمين إلى خطوط المساعدة المتخصصة وتشجيعهم على التواصل مع أحد الوالدين أو مستشار نفسي عند الحاجة.
وكشفت الشركة عن تطوير ميزة جديدة ستتيح لها التواصل مع خدمات الطوارئ إذا أظهرت محادثة مع Meta AI سواء لمراهق أو شخص بالغ وجود خطر وشيك يتعلق بالانتحار أو إيذاء النفس.
وأوضحت ميتا أنها أحالت أكثر من 19 ألف حالة حول العالم خلال العام الماضي إلى جهات الاستجابة الأولى لإجراء فحوصات السلامة للأشخاص الذين يعتقد أنهم معرضون لخطر الانتحار.
وأكدت الشركة أن تطوير هذه الأدوات استند إلى مشاورات مع أكثر من 75 متخصصًا في الصحة النفسية إضافة إلى التعاون مع مجلس خبراء الرفاهية في الذكاء الاصطناعي (AI Wellbeing Expert Council) والمجموعة الاستشارية للانتحار وإيذاء النفس إلى جانب مستشارين من فئة الشباب بهدف تحسين استجابة Meta AI للمحادثات الحساسة المتعلقة بالصحة النفسية.
