نظام الذكاء الاصطناعي الجديد

أعلنت شركة ميتا عن نظام جديد لتحليل محادثات المراهقين مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي على منصاتها، بهدف رصد أي مؤشرات تدل على إيذاء النفس أو التفكير في الانتحار. ويستهدف النظام المحادثات التي قد تحتوي على تلميحات غير مباشرة، وليس الكلمات الصريحة فحسب.

إبلاغ أولياء الأمور

عند اكتشاف أي خطر، يرسل النظام إشعارًا فوريًا إلى أولياء الأمور إذا كان حساب المراهق مرتبطًا بأدوات الرقابة الأبوية على تطبيق إنستغرام. كما تخضع جميع الحالات المكتشفة لمراجعة بشرية قبل اتخاذ أي إجراء، مع إرسال التنبيهات حتى في الحالات غير الواضحة كإجراء احترازي.

تطوير مستمر للحد من الأخطاء

أكدت ميتا أن النظام قد ينتج بعض الإنذارات الخاطئة، لكنها ستعمل على تطويره باستمرار لتحسين دقته وتقليل هذه الأخطاء. وفي خطوة إضافية، تعمل الشركة على تطوير أداة تتيح التواصل المباشر مع خدمات الطوارئ إذا اكتشف النظام خطرًا وشيكًا يهدد حياة المستخدم.

توسيع إجراءات الحماية

يمثل هذا التحديث توسعًا في سياسات ميتا لحماية المراهقين، إذ لم تعد الرقابة تقتصر على الكلمات الخطرة فحسب، بل تشمل أيضًا المحادثات مع روبوتات الذكاء الاصطناعي عبر إنستغرام وواتساب. كما شملت الإجراءات الأخرى إنشاء حسابات المراهقين بإعدادات خصوصية مشددة، والحد من تواصل الغرباء معهم، وتقليل ظهور المحتوى الحساس.

ضغوط متزايدة من الجهات التنظيمية

تعرضت شركات التكنولوجيا لضغوط متزايدة من الحكومات ومنظمات حماية الطفل لتشديد إجراءات السلامة على المنصات الرقمية، خاصة مع انتشار تطبيقات الذكاء الاصطناعي التفاعلي بين الأطفال والمراهقين.