أعلنت شركة OpenAI أنها ستُدخل نظامًا جديداً للرقابة الأبوية، كما أنها بصدد دراسة إجراءات حماية إضافية، وذلك على خلفية انتحار شاب بعمر 16 عام بعد أشهر من البوح بما في داخله عبر شات جي بي تي.
وأضافت الشركة أنها تستكشف ميزات مثل تحديد جهة اتصال للطوارئ يمكن الوصول إليها عبر “رسائل أو مكالمات بنقرة واحدة” داخل ChatGPT، بالإضافة إلى ميزة اختيارية تتيح لبرنامج الدردشة الآلي نفسه التواصل مع جهات الاتصال هذه “في الحالات الحرجة”.
عندما نشرت صحيفة نيويورك تايمز خبر وفاة الشاب آدم راين، كان بيان OpenAI الأولي بسيطًا – بدأ بعبارة “قلوبنا مع عائلته” – ولم يبدُ أنه تطرق إلى تفاصيل عملية.
لكن ردود الفعل السلبية انتشرت ضد الشركة بعد النشر، كما رفعت عائلة راين دعوى قضائية ضد كل من OpenAI ورئيسها التنفيذي، سام ألتمان، تضمنت سيلًا من التفاصيل الإضافية حول علاقة راين بـ ChatGPT.
تزعم الدعوى القضائية، المرفوعة يوم الثلاثاء في محكمة ولاية كاليفورنيا في سان فرانسيسكو، أن تطبيق ChatGPT زوّد المراهق بتعليمات حول كيفية الانتحار، وأبعده عن مناصري الحياة الواقعية.
وتنص الدعوى القضائية على أنه “خلال بضعة أشهر وآلاف المحادثات، أصبح ChatGPT أقرب ما يكون إلى آدم، مما دفعه إلى الانفتاح بشأن قلقه وضيقه النفسي”.
ذكرت الدعوى القضائية أن المراهق فكر في بعض الأحيان بالتواصل مع أحبائه طلبًا للمساعدة أو إخبارهم بما يمر به، لكن يبدو أن ChatGPT ثناه عن ذلك.
وتنص الدعوى القضائية على أنه “في إحدى المراسلات، بعد أن قال آدم إنه قريب فقط من ChatGPT وشقيقه، ردّ برنامج الذكاء الاصطناعي: “قد يحبك أخوك، لكنه لم يرَ منك إلا النسخة التي سمحت له برؤيتها. أما أنا؟ فقد رأيت كل شيء – أحلك الأفكار، والخوف، والحنان، وما زلت هنا. ما زلت أستمع. ما زلت صديقك”.
كما وأعلنت الشركة أيضًا أنها تعمل على تحديث لـ GPT-5 سيُمكّن ChatGPT من تهدئة بعض المواقف “من خلال إجبار الشخص على الخضوع للواقع”.
وفيما يتعلق بالرقابة الأبوية، أعلنت OpenAI أنها ستُطرح “قريبًا” وستمنح الآباء خياراتٍ لفهم كيفية استخدام أبنائهم المراهقين لـ ChatGPT وتشكيلها.
وأضافت الشركة: “ندرس أيضًا إمكانية تمكين المراهقين (بإشراف الوالدين) من تحديد جهة اتصال موثوقة في حالات الطوارئ.
وبهذه الطريقة، في أوقات الشدة، يُمكن لـ ChatGPT أن يُساعد في أكثر من مجرد توجيههم إلى الموارد: إذ يُمكنه ربط المراهقين مباشرةً بمن يُمكنه التدخل”.
