"ميتا" تعزز أنظمة حماية المراهقين بالذكاء الاصطناعي لرصد مخاطر إيذاء النفس

أعلنت شركة ميتا عن تحديثات جديدة تهدف إلى تعزيز سلامة المراهقين عند استخدام أدوات الذكاء الاصطناعي التابعة لها، عبر تطوير أنظمة قادرة على رصد المحادثات التي قد تشير إلى احتمالات إيذاء النفس أو خطر الانتحار.

وتتمثل أبرز التحديثات في إمكانية إرسال إشعارات فورية إلى أولياء الأمور، في حال أجرى مراهق يستخدم حساباً مرتبطاً بأنظمة الرقابة الأبوية على منصة "إنستغرام" محادثة مع روبوت الدردشة الذكي التابع للشركة تتضمن إشارات أو تلميحات حول الرغبة في إيذاء النفس.

وأوضحت "ميتا" أن النظام الجديد تم تطويره بالتعاون مع خبراء وأولياء أمور، بهدف التعرف على الإشارات اللغوية الدقيقة التي قد تكشف عن وجود خطر، حتى عندما تكون التعبيرات غير مباشرة أو يصعب ملاحظتها.

وأكدت الشركة أن المحادثات التي يرصدها النظام باعتبارها تحمل مؤشرات مقلقة ستخضع للمراجعة البشرية، لكنها ستقوم بإرسال تنبيهات إلى أولياء الأمور في الحالات غير الواضحة كإجراء احترازي. وأقرت "ميتا" بأن هذه السياسة قد تؤدي إلى بعض التنبيهات غير الدقيقة، لكنها اعتبرتها خطوة أولى ستساعد على تحسين أداء النظام مع مرور الوقت.

كما تعمل الشركة على تطوير أداة إضافية تتيح التواصل المباشر مع خدمات الطوارئ عند اكتشاف محادثة تشير إلى وجود خطر وشيك على حياة المستخدم، وهي خاصية تستخدمها "ميتا" بالفعل في التعامل مع بعض المنشورات على منصتي "فيسبوك" و"إنستغرام".

وكانت الشركة تعتمد سابقاً على مراقبة عمليات البحث المتكررة عن مصطلحات مرتبطة بإيذاء النفس على "إنستغرام"، إلا أن التحديث الجديد يوسع نطاق المراقبة ليشمل المحادثات التي يجريها المستخدمون مع أدوات الذكاء الاصطناعي عبر "إنستغرام" و"واتس آب".

وتأتي هذه الخطوة ضمن جهود متزايدة من شركات التكنولوجيا لتعزيز إجراءات الحماية الرقمية للمراهقين، خاصة مع توسع استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي في الحياة اليومية.

للمزيد تابع خليجيون نيوز على: فيسبوك | إكس | يوتيوب | إنستغرام | تيك توك