قالت شبكة إنستغرام Instagram أنها ستعمل على تحذير المستخدمين الذين سيقومون بكتابة عبارات مسيئة مخالفة في الوصف الخاص بالمنشورات على المنصة والتي قد تكون صور أو مقاطع فيديو.
كما وأضافت الشبكة أن ذلك سيتم بمساعدة أداة جديدة تعمل بخوارزميات الذكاء الاصطناعي من تطوير الشركة نفسها، وستكون تلك الأداة قادرة على تحديد المحتوى المخالف أثناء كتابته وقبل نشره.
وعند اكتشاف مثل تلك العبارات المسيئة، فإن التطبيق سيرسل رسالة منبثقة إلى صاحب الحساب لإعلامه بأن ما يكتبه قد سبق وتم الإبلاغ عنه على أنه محتوى مسيء، وستقترح الرسالة على صاحب الحساب تعديل الوصف الخاص بمنشوره.
لكن هذا الأمر سيكون مجرد اقتراح، وسيكون باستطاعة صاحب الحساب تجاهل تلك الرسالة والمتابعة إلى نشر المنشور مع الوصف الخاص به ولن تمنعه إنستغرام من القيام بذلك.
ويبدو أن الأداة الجديدة هي نسخة مطوّرة من الأداة التي كشفت عنها الشركة في وقت سابق من هذا العام من أجل تحديد المحتوى المسيء والعبارات المخالفة التي يمكن أن يكتبها المستخدمون في التعليقات.
وقالت الشركة في وقت لاحق بعد إطلاق ميزة كشف التعليقات المسيئة أن الأداة قدّمت نتائج واعدة واستطاعت إقناع الكثير من المستخدمين بالتراجع عن استخدام الكلمات والعبارات المسيئة في تعليقاتهم.
الأمر الذي دفعها إلى تطوير الأداة لتعمل أيضاً عند كتابة الوصف الخاص بالمنشور والذي قد يحتوي هو الآخر على عبارات وكلمات لا يجب أن تتواجد على المنصة.
لكن على عكس آلية عمل الأداة السابقة فإن الأداة الجديدة تعتمد على المستخدمين أنفسهم من أجل تحديد المحتوى المخالف، وذلك من خلال الاعتماد على المنشورات السابقة التي تم الإبلاغ عنها على أنها مخالفة.
كما وتُعد الأداة الجديدة هي الجهد الأحدث من إنستغرام من أجل مكافحة التنمّر والسخرية واستخدام العبارات المسيئة على المنصة التي تسعى فيسبوك Facebook إلى المحافظة عليها قدر الإمكان.
الأداة الجديدة بدأت بالعمل منذ أيام في بلدان مختارة من أجل اختبارها على أن يتم توسيع دائرة عملها لتشمل المزيد من المناطق، من دون توافر معلومات رسمية فيما إذا كانت ستدعم لغات أخرى غير الإنكليزية.