أضافت شركة OpenAI أداة جديدة لاكتشاف ما إذا كانت الصورة قد تم إنشاؤها باستخدام منشئ الصور بالذكاء الاصطناعي DALL-E، بالإضافة إلى طرق جديدة لوضع العلامات المائية لتحديد المحتوى الذي تنشئه بشكل أكثر وضوحًا.
وأعلنت الشركة في منشور عبر مدونتها عن بدء تطوير طرق جديدة لتتبع المحتوى وإثبات ما إذا كان قد تم إنشاؤه بواسطة الذكاء الاصطناعي.
يتضمن ذلك مصنفًا جديدًا للكشف عن الصور يستخدم الذكاء الاصطناعي لتحديد ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي، بالإضافة إلى علامة مائية مقاومة للتلاعب يمكنها وضع علامة على محتوى ما مثل الصوت بإشارات غير مرئية.
ويتنبّأ المُصنّف باحتمالية إنشاء الصورة بواسطة DALL-E3، وتدعي OpenAI أن المُصنّف يعمل حتى إذا تم اقتصاص الصورة أو ضغطها أو تغيير تشبع الألوان فيها.
وتستطيع الأداة اكتشاف ما إذا كانت الصور قد تم التقاطها باستخدام DALL-E3 بدقة تبلغ حوالي 98 بالمائة، إلا أنّ أداءها في معرفة ما إذا كان المحتوى من نماذج الذكاء الاصطناعي الأخرى ليس جيدًا، حيث يتم تمييز 5 إلى 10 بالمائة فقط من الصور من مولدات الصور الأخرى.
وكانت شركة OpenAI قد أضافت مسبقًا بيانات اعتماد المحتوى إلى البيانات الوصفية للصورة C2PA.
وتُعد بيانات اعتماد المحتوى علامات مائية تتضمن معلومات حول من يملك الصورة وكيفية إنشاءها، وتعتمدها كل من OpenAI و Microsoft و Adobe.
وبدأت شركة الذكاء الاصطناعي أيضًا في إضافة علامات مائية إلى المقاطع من Voice Engine، منصة تحويل النص إلى كلام الخاصة بها والتي تخضع حاليًا للمعاينة المحدودة.