تتجه شركة "ميتا" إلى تعزيز إجراءات السلامة الرقمية للمراهقين من خلال مجموعة تحديثات جديدة تعتمد على الذكاء الاصطناعي، بهدف اكتشاف المؤشرات المرتبطة بإيذاء النفس أو التفكير في الانتحار أثناء التفاعل مع روبوتات الدردشة على منصاتها، مع إشراك أولياء الأمور في الحالات التي تستدعي التدخل.
وتعتمد أبرز هذه التحديثات على إرسال إشعار فوري إلى ولي الأمر عندما يجري مراهق يستخدم حساباً مرتبطاً بخاصية الرقابة الأبوية على "إنستغرام" محادثة مع مساعد الذكاء الاصطناعي تتضمن عبارات أو تلميحات قد تشير إلى رغبته في إيذاء نفسه.
وجرى تطوير النظام بالتعاون مع مختصين في الصحة النفسية وعدد من أولياء الأمور، بحيث يتمكن من رصد الإشارات اللغوية الدقيقة التي قد تعكس وجود خطر، حتى وإن لم تكن التصريحات مباشرة أو صريحة.
وأكدت "ميتا" أن المحادثات التي يرصدها النظام ستخضع لمراجعة بشرية، فيما سيُرسل التنبيه إلى ولي الأمر في الحالات التي يصعب الجزم بها كإجراء احترازي. وأقرت الشركة بإمكانية صدور بعض التنبيهات غير الدقيقة، لكنها أوضحت أن النظام سيخضع للتطوير المستمر بهدف تحسين مستوى الدقة وتقليل الإنذارات الخاطئة.
وفي إطار خططها المستقبلية، تعمل الشركة أيضاً على تطوير ميزة تتيح التواصل المباشر مع خدمات الطوارئ عندما تكشف المحادثات عن خطر وشيك يهدد حياة المستخدم. وتتوفر هذه الآلية بالفعل في أنظمة رصد المحتوى على "فيسبوك" و"إنستغرام"، ويجري توسيع نطاقها لتشمل أدوات الذكاء الاصطناعي.
وسبق لـ"ميتا" أن اعتمدت على مراقبة عمليات البحث المتكررة عن المحتوى المرتبط بإيذاء النفس عبر "إنستغرام"، إلا أن التحديث الأخير يوسع نطاق الحماية ليشمل المحادثات مع أدوات الذكاء الاصطناعي على "إنستغرام" و"واتساب"، في خطوة تستهدف تسريع التدخل وتعزيز حماية المراهقين داخل البيئة الرقمية.