ما زال من الصعب اكتشاف مقاطع الفيديو المنشأة بتقنية التزييف العميق Deepfake

انتشرت مؤخراً ظاهرة التزييف العميق أو ما يعرف بال Deepfake : وهي تقنية تقوم على صنع فيديوهات مزيفة عبر برامج الحاسوب من خلال الذكاء الاصطناعي AI عبر دمج عدد من الصور ومقاطع الفيديو لشخصية ما من أجل إنتاج مقطع فيديو جديد باستخدام تقنية التعلم الآلي ، فقد قام الممثل جوردان بيل بإنشاء فيديو مزيف لباراك أوباما يحذر من الأخبار المزيفة ، أي أن الذكاء الاصطناعي أصبح قادراً على صناعة وجوه بشرية حقيقية .

وعند النظر إلى مقاطع الفيديو المزيفة عبر تقنية التزييف العميق ، فإنه من الصعب تمييز أنها مزيفة ، لذلك تسعى الشركات دائماً إلى إيجاد طريقة من أجل تمييز هذه المقاطع المزيفة .

وفي هذا السياق فقد أدارت شركة فيس بوك Facebook مسابقة شارك فيها 2114 مشاركاً قدموا 35,000 نموذج حاسوبي للكشف عن التزييف العميق ، كان متوسط ​​معدل النجاح 70٪ والأفضل هو 83٪.

هذه النتائج كانت باستخدام مجموعة بيانات عامة من 100,000 مقطع فيديو تم إنشاؤها من قبل فيسبوك Facebook للمسابقة ، وأطلق عليها اسم تحدي كشف التزييف العميق (DFDC).

ولكن وعند استخدام مجموعة أخرى من 100,000 مقطع فيديو غير مرئي سابقاً، مع إضافة بعض التقنيات لجعلها أصعب في الحكم ، كانت أفضل نتيجة 65٪ !

يذكر أن تكنولوجيا الذكاء الاصطناعي AI قامت بأتمتة الكثير من المهام التي كانت صعبة في السابق على أجهزة الحاسوب، مثل نسخ الأصوات البشرية ، ومنع الرسائل غير المرغوب فيها وإضافة تأثيرات تطبق نمط فان جوخ على الصور الشخصية.

ومع ذلك ، فإن أحد الجوانب السلبية هو أنه يمكن استخدام نفس التكنولوجيا لإنشاء تزييف عميق ، والقيام بأشياء مثل تعيين نمط صوت شخص وميزاته إلى فيديو لشخص آخر ما قد يشكل هذا مشكلة إذا تم تطبيق مثل هذا التزييف على فيديو لمرشح سياسي مثلاً .

وقد تم إطلاق هذه المسابقة من قبل كل من مايكروسوفت Microsoft و أمازون Amazon و فيس بوك Facebook وبالتعاون مع جامعات بما في ذلك MIT و أوكسفورد Oxford وكورنول Cornwall وجامعة كاليفورنيا في بيركلي في أيلول 2019.

حيث دفع المنظمون 3500 ممثلاً لإنشاء مقاطع فيديو مصدرية ، ثم تعديلها بعد ذلك بطرق مختلفة لإنشاء 100,000 مقطع فيديو عام ، ليتيمكن المتسابقون تدريب نماذج الذكاء الاصطناعي الخاصة بهم، تم اختيار الممثلين من فئات مختلفة حسب الجنس والعرق والعمر وخصائص أخرى ..

وقال باحثو فيسبوك Facebook في منشور على مدونة “في الوقت الذي يتطلع فيه مجتمع البحث إلى البناء على هذه النتائج ، يجب علينا جميعاً التفكير بشكل أوسع والنظر في الحلول التي تتجاوز تحليل الصور ومقاطع الفيديو ، قد يكون التدقيق في الفيديو، والمصدر، والإشارات الأخرى هي الطريقة لتحسين نماذج الكشف عن التزييف العميق ” .

وأضافت فيسبوك: “سيساعد ذلك باحثي الذكاء الاصطناعي على تطوير أساليب جديدة للكشف والكشف لتقدم أحدث ما توصلت إليه التكنولوجيا في هذا المجال”.

إن نتائج تحدي كشف التزييف العميق Deepfake Detection Challenge مهمة بالنظر إلى المخاوف من أن مقاطع الفيديو المزيفة يمكن أن تضلل الناس في الفترة التي تسبق الانتخابات الأمريكية في تشرين الثاني.

ويخشى الخبراء أنه حتى لو لم تكن عمليات التزييف العميقة مقنعة ، وحتى لو تم اكتشفاها ، فإن وجود عمليات التزييف العميق يمكن أن يدفع الناخبين للشك في مصداقية مقاطع الفيديو التي يواجهونها وتعطيل الانتخابات.

ولم ينتهي البحث عند اكتشاف التزييف العميق فحسب.إنما يخطط منظمو المسابقة لإطلاق مواد مصدر الفيديو الخام من أجل عمل جديد .

مقالات قد تعجبك

مراجعة ومواصفات هاتف سامسونج جالاكسي Samsung Galaxy M21
خدمة جوجل ستاديا Google Stadia أصبحت تعمل على معظم هواتف أندرويد
مراجعة ومواصفات وسعر لابتوب شاومي مي نوت بوك 14 (Xiaomi Mi Notebook 14)
كيفية اكتشاف الفيديو المزور ببرمجية Deep Fake لاستبدال الأوجه
كيفية مشاهدة فيديوهات يوتيوب بالتزامن مع أصدقائك
لم لا يجب العودة من ويندوز 10 إلى ويندوز 8.1؟

موقع LinkedIn تجاهل باحث فلسطيني قد اكتشف ثغرة في الموقع

لعلكم سمعتم من قبل باسم خليل شريتح المبرمج الفلسطيني الذي اكتشف ثغرة أمنية في فيس بوك Facebook في عام 2013 ولكن وبسبب عدم تجاوب برنامج فيس بوك لكشف الثغرات الأمنية معه وتجاهل تنبيهه فقد قام بكشف الثغرة من خلال الكتابة على حائط مؤسس فيس بوك مارك زوكربرغ .

هذا المبرمج العربي عاد من جديد واكتشف ثغرة في موقع لينكد إن LinkedIn منذ الشهر الماضي ، وقام بمراسلة الموقع ولكن الموقع تجاهل هذه المراسلة كما فعل فيس بوك Facebook من قبل ,

لذلك فقد لجا شريتح إلى الموقع التقني الشهير زي فيرج The Verge من أجل شرح وتسليط الضوء حول هذه الثغرة .

وبحسب شريح فإن هذه الثغرة تتم من خلال دمج كود معقد داخل الصور المستضافة من قبل الموقع وذلك من خلال تبديل القيمة المصدرية للصورة المنشورة ، ويمكن للمهاجم عن طريق هذه الثغرة أن يقوم بتنفيذ سكريبتات عن بعد حالما يقوم المستخدم بالضغط على الصورة ، وفي حالات أخرى يستطيع المهاجم الخبير أن يظهر ذلك الكود على أنه مصادق من قبل الموقع مما قد يخدع المستخدم ويجبره على مشاركة كلمة المرور الخاصة به .

وتصيب هذه الثغرة الحسابات التي تحوي الكثير من المتابعين كما يمكن أن تصل من خلال بريد إلكتروني إيميل

موقع LinkedIn قام بإغلاق هذه الثغرة بعد أن تم التواصل معه من قبل موقع زي فيرج The Verge

وبحسب الموقع LinkedIn فإن الثغرة لم يتم استغلالها بأي هجوم سابقا ,

يذكر أن المبرمج خليل شريتح كان قد ربح العديد من الجوائز كمكافأة له على اكتشاف 10 ثغرات على الأقل في موقع فيس بوك Facebook

تطبيق صراحة يعاني من مشاكل أمنية خطيرة

تلبية لفضول البشر في معرفة ماذا يُقال عنهم بصراحة ، فقد حقق تطبيق صراحة Sarahah الشهير عبر فيس بوك Facebook انتشاراً واسعاً و خاصة في صفوف المراهقين .

و لطالماً ما أثار هذا التطبيق مخاوف أمنية من العديد من المختصين في مجال الأمن و الحماية حيث كان آخرهم الباحث سكوت هيلم Scott Helme .

و بحسب الباحث السابق فإن المخاوف الأمنية تركزت على نسخة الويب من تطبيق صراحة و ليس تطبيق الموبايل .

و وصف الباحث أن نظام الحماية CSRF الخاص بتطبيق صراحة تعتبر سهلة التجاوز . حيث يعتبر بحد ذاته شكل خطير من الهجوم و الذي يمكن أن يؤدي إلى تصرفات سيئة على حساب الفيس بوك Facebook للشخص الذي سجل من خلاله في خدمة صراحة ، حيث أشار الباحث إلى أن المهاجم يمكن أن يستغل هذا الأمر من أجل إجبار الحساب على تفضيل منشورات معينة .

كما أشار إلى أنه و في شهر آب المنصرم قام باحث آخر يدعى روني داس Rony Das من معهد Defencely باكتشاف ملفات XSS ( سكريبت عبر الموقع ) قابلة للإصابة و التي يمكن من خلالها القيام و بشكل عدائي برفع محتويات تكون بشكل خاص بصيغة أتش تي إم إل HTML و جافا  سكريبت JavaScript و التي يمكن أن يتم إستدعاؤها و تنفيذها ضمن المتصفح و بالتالي فإنه يمكن عبر هذا النوع من الهجوم القيام بإعادة تحويل المستخدم إلى مواقع أخرى و التي يمكن أن تحوي على برمجيات خبيثة مثل الفايروسات أو برامج التجسس .

الباحث هيلم Helme اكتشف أيضاً مشاكل خطرة مع نظام الحماية و الذي يمنع الموقع من استخدام بروتوكول إتش إس تي إس HSTS  و الذي يُستخدم بشكل متزايد من أجل حماية المستخدمين من اختراق الكوكيز و هجمات البروتوكول منخفض الحماية .

يملك تطبيق صراحة نظام تصفية ( فلترة ) و الذي يستطيع من خلاله استبعاد منشورات بالاعتماد على الكلمات المستخدمة .و بحسب هذا النظام فإن كلمة سكريبت “script” ضمن الكلمات المستبعدة و من المحتمل أن تكون هذه ” طريقة بلهاء ” من أجل تجنب هجمات XSS  كون هناك الكثير الكثير من الطرق من أجل إدخال الجافاسكريبت الخاص بالمهاجم دون استخدام وسم أو تاغ سكريبت script .

و اكتشف الباحث أيضاً افتقار تطبيق صراحة لأي نوع من التقييد سامحا للمستخدم بإمكانية إرسال الكثير من الرسائل سوية. و هي مشلكة تتعلق بقضايا الحماية و معايير المجتمع و ذلك بسبب أن هذا يسبب إزعاج الضحية بعدد لا نهائي من الرسائل المزعجة و ذلك فقط من خلال كتابة سكريبت  بسيط ..

كما يفتقر تطبيق صراحة إلى وظيفة حذف متعدد للرسائل و هو ما يجبر الضحية على قراءة الرسالة أو على الأقل إلقاء نظرة سريعة على كل الرسائل المزعجة التي تتلقاها .

كما عبر الباحث عن مخاوفه من الطريقة التي يتعامل فيها الموقع مع إعادة تعيين كلمة السر في حالة نسيانها و محاولات الدخول المعتمدة على التخمين . حيث يمكن أن يستخدم بطريقة مزعجة .

فمن أجل إعادة تعيين كلمة السر في تطبيق الصراحة فلا يطلب منك سوى عنوان البريد الإلكتروني المرتبط بالحساب ثم سيقوم الموقع بإنشاء ذاتي لكلمة سر جديدة يتم إرسالها إلى ذلك الإيميل و هذا أيضاً لا يقيد بعدد محدد و بالتالي يمكن كتابة سكريبت من أجل تغيير كلمة السر كل ثلاثين ثانية و هذا لن يؤدي إلى ملء صندوق الوارد للضحية فحسب إنما سيجعل من الصعب لهم الدخول إلى حسابهم

و نفس السكريبت السابق يمكن أن يستخدم من أجل منع المستخدم من الدخول إلى حسابهم بطريقة تسجيلات الدخول الخاطئة حيت يتم بعد عشر محاولات خاطئة قفل الحساب لفترة عشوائية من الزمن .

وقال الباحث أن مشكلته الأكبر مع التطبيق هي النقص الواضح في الاحترافية ، حيث قدم لهم ما وجده قبل أشهر من أجل تنبيههم على هذه القضايا الأمنية ، و بعد أشهر من المتابعة دون جدوى قام بكشف هذه القضايا عبر مدونته الشخصية .