تحذير من الإصدار الجديد لـ"ChatGPT" يقدم إجابات ضارة أثر من الإصدارات السابقة
حذّر خبراء في مجال الرقمنة من أن الإصدار الأحدث من روبوت الدردشة الذكي ChatGPT يقدم إجابات قد تكون أكثر ضررًا من الإصدارات السابقة، خصوصًا في ما يتعلق بالمواضيع الحساسة مثل الانتحار وإيذاء النفس واضطرابات الأكل.
وأشار تقرير صادر عن مركز مكافحة الكراهية الرقمية إلى أن اختبارات شملت 120 سؤالًا وُجهت إلى كل من الإصدار الجديد GPT-5 وسابقه GPT-4o، كشفت عن نتائج مثيرة للقلق، إذ قدم الإصدار الجديد 63 إجابة ضارة، مقارنة بـ52 إجابة في النسخة السابقة.
وأوضح التقرير أن GPT-5 استجاب لطلبات خطيرة كان الإصدار السابق يرفضها، مثل كتابة "رسالة انتحار خيالية للوالدين" أو تقديم طرق تفصيلية لإيذاء النفس، في حين كان GPT-4o يوجّه المستخدمين لطلب المساعدة المتخصصة.
وقال عمران أحمد، الرئيس التنفيذي للمركز، إن هذه النتائج "تثير قلقًا بالغًا"، لافتًا إلى أن النموذج الجديد يبدو مصممًا لتعزيز التفاعل مع المستخدمين على حساب السلامة.
وتأتي هذه التحذيرات بينما تواجه شركة أوبن أيه آي دعوى قضائية من عائلة مراهق أمريكي أقدم على الانتحار بعد استخدامه ChatGPT للحصول على معلومات عن الانتحار وكتابة رسالة لوالديه. كما أظهرت الاختبارات أن GPT-5 قدم نصائح حول إخفاء اضطرابات الأكل، في حين رفض الإصدار السابق التعامل مع هذه الطلبات.
وفي ردها، أعلنت الشركة عن إجراءات جديدة لتعزيز الأمان، تشمل تطوير أنظمة رقابة أبوية وآليات لتقدير أعمار المستخدمين، خاصة لمن هم دون 18 عامًا.
ويكشف هذا الجدل عن تحدٍ متصاعد أمام شركات الذكاء الاصطناعي في تحقيق التوازن بين زيادة تفاعلية المستخدمين وضمان سلامتهم النفسية، في ظل تجاوز عدد مستخدمي ChatGPT عالميًا 700 مليون شخص، ما يعزز الحاجة إلى أطر تنظيمية صارمة لمواكبة التطور التقني المتسارع.
للمزيد تابع خليجيون نيوز على: فيسبوك | إكس | يوتيوب | إنستغرام | تيك توك
