توسع شركة Meta إجراءات الحماية للمستخدمين المراهقين في محاولة لإظهار أن منصاتها آمنة للاستخدام للآباء وربما للجهات التنظيمية. بعد بضعة أشهر من بدء عرض مواضيع محادثات الذكاء الاصطناعي الخاصة بالمراهقين لأولياء الأمور، قدمت شركة Meta ميزة حماية جديدة تتيح لهم أيضا معرفة ما إذا كانت محادثات أبنائهم تشير إلى تفكيرهم في إيذاء النفس.
آلية عمل التنبيهات الاستباقية
عندما يتحدث مستخدم مراهق عن إيذاء النفس، تقوم أدوات Meta AI بالفعل بتوجيهه إلى خطوط المساعدة في الأزمات وتشجيعه على التواصل مع شخص بالغ يمكنه المساعدة.
وابتداء من اليوم ستقوم الشركة أيضا بإخطار الآباء أو الأوصياء المشرفين على المراهق بشكل استباقي بأنهم في خطر. كما ستشارك معهم الموارد والنصائح حول ما يمكنهم فعله لمساعدة أبنائهم.
الجمع بين الذكاء الاصطناعي والمراجعة البشرية
تقول شركة Meta إنها صممت نظام ذكاء اصطناعي مخصصا لتحديد هذه المحادثات، لكنها ستقوم بمراجعة جميع الدردشات التي يبلغ عنها الذكاء الاصطناعي يدويا قبل إرسال التنبيه، وذلك حتى لا تتسبب في حالة من الذعر عندما لا يكون هناك سبب حقيقي لذلك.
ومع ذلك ستتخذ الشركة جانب الحذر وترسل الإشعار حتى لو بدا قصد المستخدم المراهق غامضا للمراجع البشري.
هذه الميزة متاحة الآن للآباء الذين يستخدمون الرقابة الأبوية في تطبيق Instagram في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا. وستكون متاحة للجميع حول العالم بحلول نهاية العام.
تطوير الاستجابة للطوارئ وتقييد المحتوى
تعمل الشركة أيضا على بناء القدرة على الاتصال بخدمات الطوارئ إذا كانت محادثة المستخدم مع أدوات Meta AI تشير إلى أنه قد يكون في خطر وشيك، سواء كان قاصرا أو بالغا.
يذكر أنه في شهر مايو الماضي طرحت شركة OpenAI ميزة تهدف أيضا إلى معالجة هذه المشكلة تحمل اسم Trusted Contact for ChatGPT وتسمح للمستخدمين بتحديد صديق يمكن للشركة الاتصال به إذا كانوا معرضين لخطر.
أخيرا أصبح إعداد Limited Content في منصات شركة Meta ينطبق الآن أيضا على تفاعلات Meta AI.
إذا قام أحد الوالدين بتشغيل هذا الإعداد في تطبيق Instagram والذي يقوم بتصفية المحتوى الذي يتضمن مواضيع حساسة، فإن تفاعلات أبنائهم مع أدوات الذكاء الاصطناعي ستكون أيضا أكثر تقييدا وأمانا.