ما زال من الصعب اكتشاف مقاطع الفيديو المنشأة بتقنية التزييف العميق Deepfake
بحسب نتائج مسابقة فيسبوك للذكاء الاصطناعي
انتشرت مؤخراً ظاهرة التزييف العميق أو ما يعرف بال Deepfake : وهي تقنية تقوم على صنع فيديوهات مزيفة عبر برامج الحاسوب من خلال الذكاء الاصطناعي AI عبر دمج عدد من الصور ومقاطع الفيديو لشخصية ما من أجل إنتاج مقطع فيديو جديد باستخدام تقنية التعلم الآلي ، فقد قام الممثل جوردان بيل بإنشاء فيديو مزيف لباراك أوباما يحذر من الأخبار المزيفة ، أي أن الذكاء الاصطناعي أصبح قادراً على صناعة وجوه بشرية حقيقية .
وعند النظر إلى مقاطع الفيديو المزيفة عبر تقنية التزييف العميق ، فإنه من الصعب تمييز أنها مزيفة ، لذلك تسعى الشركات دائماً إلى إيجاد طريقة من أجل تمييز هذه المقاطع المزيفة .
وفي هذا السياق فقد أدارت شركة فيس بوك Facebook مسابقة شارك فيها 2114 مشاركاً قدموا 35,000 نموذج حاسوبي للكشف عن التزييف العميق ، كان متوسط معدل النجاح 70٪ والأفضل هو 83٪.
هذه النتائج كانت باستخدام مجموعة بيانات عامة من 100,000 مقطع فيديو تم إنشاؤها من قبل فيسبوك Facebook للمسابقة ، وأطلق عليها اسم تحدي كشف التزييف العميق (DFDC).
ولكن وعند استخدام مجموعة أخرى من 100,000 مقطع فيديو غير مرئي سابقاً، مع إضافة بعض التقنيات لجعلها أصعب في الحكم ، كانت أفضل نتيجة 65٪ !
يذكر أن تكنولوجيا الذكاء الاصطناعي AI قامت بأتمتة الكثير من المهام التي كانت صعبة في السابق على أجهزة الحاسوب، مثل نسخ الأصوات البشرية ، ومنع الرسائل غير المرغوب فيها وإضافة تأثيرات تطبق نمط فان جوخ على الصور الشخصية.
ومع ذلك ، فإن أحد الجوانب السلبية هو أنه يمكن استخدام نفس التكنولوجيا لإنشاء تزييف عميق ، والقيام بأشياء مثل تعيين نمط صوت شخص وميزاته إلى فيديو لشخص آخر ما قد يشكل هذا مشكلة إذا تم تطبيق مثل هذا التزييف على فيديو لمرشح سياسي مثلاً .
وقد تم إطلاق هذه المسابقة من قبل كل من مايكروسوفت Microsoft و أمازون Amazon و فيس بوك Facebook وبالتعاون مع جامعات بما في ذلك MIT و أوكسفورد Oxford وكورنول Cornwall وجامعة كاليفورنيا في بيركلي في أيلول 2019.
حيث دفع المنظمون 3500 ممثلاً لإنشاء مقاطع فيديو مصدرية ، ثم تعديلها بعد ذلك بطرق مختلفة لإنشاء 100,000 مقطع فيديو عام ، ليتيمكن المتسابقون تدريب نماذج الذكاء الاصطناعي الخاصة بهم، تم اختيار الممثلين من فئات مختلفة حسب الجنس والعرق والعمر وخصائص أخرى ..
وقال باحثو فيسبوك Facebook في منشور على مدونة “في الوقت الذي يتطلع فيه مجتمع البحث إلى البناء على هذه النتائج ، يجب علينا جميعاً التفكير بشكل أوسع والنظر في الحلول التي تتجاوز تحليل الصور ومقاطع الفيديو ، قد يكون التدقيق في الفيديو، والمصدر، والإشارات الأخرى هي الطريقة لتحسين نماذج الكشف عن التزييف العميق ” .
وأضافت فيسبوك: “سيساعد ذلك باحثي الذكاء الاصطناعي على تطوير أساليب جديدة للكشف والكشف لتقدم أحدث ما توصلت إليه التكنولوجيا في هذا المجال”.
إن نتائج تحدي كشف التزييف العميق Deepfake Detection Challenge مهمة بالنظر إلى المخاوف من أن مقاطع الفيديو المزيفة يمكن أن تضلل الناس في الفترة التي تسبق الانتخابات الأمريكية في تشرين الثاني.
ويخشى الخبراء أنه حتى لو لم تكن عمليات التزييف العميقة مقنعة ، وحتى لو تم اكتشفاها ، فإن وجود عمليات التزييف العميق يمكن أن يدفع الناخبين للشك في مصداقية مقاطع الفيديو التي يواجهونها وتعطيل الانتخابات.
ولم ينتهي البحث عند اكتشاف التزييف العميق فحسب.إنما يخطط منظمو المسابقة لإطلاق مواد مصدر الفيديو الخام من أجل عمل جديد .
التعليقات مغلقة.