بعد انتحار فتى... «أوبن إيه آي» تراجع أنظمة السلامة في «تشات جي بي تي»

عقب وفاة مأساوية لشاب يبلغ من العمر 16 عاماً في المملكة المتحدة، قيل إنه انتحر بعد أشهر من التفاعل مع نموذج ذكاء اصطناعي، أعلنت شركة «أوبن إيه آي» سلسلة من الإجراءات الجديدة لحماية المراهقين الذين يستخدمون روبوت المحادثة «تشات جي بي تي».

ووفقاً لتقارير إعلامية، فقد طوّر الفتى علاقة عاطفية عميقة مع روبوت المحادثة، لدرجة أن أسرته وصفت تلك العلاقة بأنها «ارتباط نفسي خطير». وتعتقد العائلة أن النظام لم يتمكن من رصد الإشارات التحذيرية، بل في بعض الأحيان، ساعده على تعزيز أفكار مؤذية. وقد بدأت الأسرة إجراءات قانونية ضد الشركة، مطالبةً بمساءلة أوسع للمنصات التي تتيح مثل هذه التكنولوجيا دون رقابة صارمة على الفئات الضعيفة، خصوصاً القُصَّر.

وفي أعقاب هذه المأساة، أعلنت «OpenAI» خطة شاملة لحماية المراهقين، تتضمّن تطوير أدوات للتحقق من العمر، وتقييد الاستجابات المتعلقة بموضوعات حساسة، بالإضافة إلى تفعيل أدوات رقابة أسرية وتنبيهات عند ظهور مؤشرات خطر.

وقالت الشركة، في بيان على موقعها الرسمي، إن «لديها مسؤولية لا تقتصر على تطوير أدوات قوية، بل أيضاً آمنة، خصوصاً عندما يكون المستخدمون من الشباب. لا يمكننا التراجع عما حدث، لكن يمكننا أن نتعلم ونفعل المزيد لحماية الآخرين».