أطلقت شركة OpenAI المطوّرة لبوت الدردشة ChatGPT نظام المكافآت عن اكتشاف الاخطاء، لتشجيع الجمهور على العثور على نقاط الضعف والكشف عنها في خدمات الذكاء الاصطناعي الخاصة بها بما في ذلك بوت الدردشة الشهير ChatGPT.
وستتراوح قيمة المكافآت من 200 دولار أمريكي للاكتشافات منخفضة التهديد إلى 20,000 دولار أمريكي للاكتشافات الاستثنائية.
ويمكن إرسال تقارير الأخطاء التقنية عبر نظام التعهيد الجماعي للأمن السيبراني Bugcrowd.
والجدير بالذكر أن المكافأة تستثني مكافآت كسر حماية ChatGPT أو التسبب في إنشاء تعليمات برمجية أو ردود مسيئة.
وقالت صفحة Bugcrowd من OpenAI: ” إن المشكلات المتعلقة بمحتوى المطالبات والاستجابات النموذجية خارج النطاق تماماً، ولن تتم مكافأتها”.
إن كسر حماية ChatGPT عادةً ما يتضمن إدخال سيناريوهات معقدة في النظام تسمح له بتجاوز عوامل تصفية الأمان الخاصة به.
قد يشمل ذلك تشجيع روبوت المحادثة على لعب الأدوار باعتباره “التوأم الشرير”، مما يسمح للمستخدم بإثارة ردود محظورة، مثل الكلام الذي يحض على الكراهية أو تعليمات صنع الأسلحة.
حيث أشارت الشركة إلى أن مثل هذه تعتبر من مشكلات الأمان النموذجية التي لا تتناسب بشكل جيد مع برنامج مكافأة الأخطاء، لأنها ليست أخطاء فردية منفصلة يمكن إصلاحها بشكل مباشر’.
تشير الشركة إلى أن “معالجة هذه المشكلات غالبًا ما تتضمن بحثًا جوهريًا ومنهجًا أوسع”، ويجب إرسال التقارير عن مثل هذه المشكلات عبر صفحة تعليقات نموذج الشركة.
على الرغم من أن عمليات كسر الحماية هذه توضح نقاط الضعف الأوسع لأنظمة الذكاء الاصطناعي، فمن المحتمل أنها أقل مشكلة بشكل مباشر بالنسبة لشركة OpenAI مقارنة بإخفاقات الأمان التقليدية.
على سبيل المثال في الشهر الماضي فقد تمكن أحد المتسللين المعروفين باسم rez0 من الكشف عن 80 مكونًا إضافيًا سريًا لواجهة برمجة تطبيقات ChatGPT، وهي إضافات تجريبية أو لم يتم إصدارها بعد لروبوت الدردشة الخاص بالشركة.
وقد أشار Rez0 إلى أنه قد تم تصحيح الثغرة الأمنية في غضون يوم واحد بعد الكشف عنها على Twitter.
:no_upscale():format(webp)/cdn.vox-cdn.com/uploads/chorus_asset/file/24565876/Copilot_SidePane_Blog2.gif)
