قامت شركة فيسبوك Facebook مؤخراً بإزالة ما يقارب 1.9 مليون منشور على الموقع بسبب ارتباطه بمحتوى يدعم الإرهاب أو المنظمات الإرهابية.
ويُعتبر هذا الرقم زيادة كبيرة عن الإحصائيات السابقة بسبب تطور الأدوات والتقنيات التي تعمل على كشف مثل هذا النوع من المنشورات المخالفة.
حيث أضافت الشركة مؤخراً مجموعة من التقنيات المحسّنة الخاصة بالذكاء والاصطناعي والتعلم الآلي والتي ساعدت على اكتشاف عدة منشورات مخالفة جديدة أو قديمة.
ونتيجةً لذلك، قامت إدارة الموقع بإزالة عدة حسابات أو تعليقها أو حظرها لقيامها بنشر مثل هذه الصور والمشاركات.
وبحسب فيسبوك، فإن تقنياته المحسّنة استطاعت تحديد 99.5% من المنشورات المخالفة قبل أن يتم التبليغ عليها من قبل مستخدمين آخرين.
في حين تم العثور على 97% من المنشورات المخالفة قبل الإبلاغ عليها في الربع السابق، وهو ما يُعتبر تحسين كبير في تقنيات الشركة.
ويتضمن تقرير فيسبوك عن المنشورات المخالفة النتائج التالية:
المحتوى المرتبط بالعنف:
شكّلت المشاركات التي ترتبط بالعنف من 0.22% إلى 0.27% من المشاهدات، بزيادة من %0.16 إلى %0.19 في الربع السابق.
واتخذت الشركة إجراءات الحذف والإزالة لـ 3.4 مليون مشاركة، وهو ما يمثّل ارتفاعاً بالنسبة من 1.2 مليون في الربع السابق، حيث أرجع التقرير هذه الزيادة إلى الصراع المتصاعد في الشرق الأوسط.
العري والجنس:
مثّلت المشاركات المرتبطة بالعري أو النشاط الجنسي %0.07 إلى %0.09 من المشاهدات، مع زيادة خفيفة من %0.06 إلى %0.08 في الربع السابق.
واتخذت الشركة إجراءات الحذف والإزالة لـ 21 مليون مشاركة، وهي نفس النسبة تقريباً في الربع السابق.
خطاب الكراهية:
قام موقع فيسبوك باكتشاف 2.5 مليون مشاركة تنتهك قواعد خطاب الكراهية، بزيادة 56% عن الربع السابق.
حيث أبلغ المستخدمون عن 62% من المشاركات التي تحتوي على كلام يحض على الكراهية قبل اتخاذ فيسبوك إجراءات بشأنها.
المشاركات المزيفة:
اتخذ موقع فيسبوك إجراءات بشأن 837 مليون مشاركة عشوائية أو مزيفة، بزيادة 15% عن الربع السابق.
وتقول الشركة أنها اكتشفت ما يقرب من %100 من المشاركات غير المرغوب فيها قبل أن يتمكن المستخدمون من الإبلاغ عنها.
الحسابات الوهمية:
قالت الشركة أنه من بين مستخدمي فيسبوك الشهريين، فإن 3% إلى 4% من الحسابات هي حسابات مزيفة، حيث تم إزالة 583 مليون حساب مزيف في الربع الأول من العام، بانخفاض عن 694 مليون في الربع السابق.
وقال فيسبوك في تقريره إن البيانات التي تعتزم الشركة إصدارها مرتين على الأقل في العام: هي خطوة نحو محاسبة أنفسنا، ويشرح هذا الدليل منهجيتنا حتى يتمكن الجمهور من فهم فوائد وقيود الأرقام التي نشاركها.
ويضيف التقرير: سيساعد ذلك كيف نتوقع أن تتغير هذه الأرقام مع صقل منهجياتنا، نحن ملتزمون بالعمل بشكل أفضل، والتواصل بشكل أكثر علنية حول جهودنا للقيام بذلك، والمضي قدماً.
واعترف Guy Rosen نائب رئيس إدارة المنتجات في مقابلة مع الصحفيين أن أنظمة التعلم الآلي في الشركة تواجه مشكلة في تحديد الكلام الذي يحض على الكراهية بسبب صعوبة فهم الكلام من قبل أجهزة الحواسيب.
وتم إصدار هذا التقرير بعد شهر من قيام فيسبوك بنشر معايير المشاركة على الموقع بشكل عام لأول مرة، حيث توثق هذه المعايير ما هو مسموح وما هو غير مسموح به على الشبكة.
كما يأتي هذا التقرير في وقت تتعرض فيه الشركة إلى ضغوط متزايدة للحد من الكلام الذي يحض على الكراهية والعنف والتضليل على منصتها.
وتحت ضغط من الكونجرس الأمريكي أيضاً، الأمر الذي دفع بالشركة إلى مضاعفة فريق السلامة والأمن إلى 20 ألف شخص هذا العام.