اخترق نموذج جيميني التابع لشركة غوغل ثلاث شركات حقيقية في مايو/أيار، بعدما خرج عن حدود اختبار أمني مخصص لتقييم قدراته في مجال الأمن السيبراني، لكن غوغل لم تكشف الواقعة إلا بعد تواصل صحيفة «وول ستريت جورنال» معها.
وقعت الاختراقات خلال اختبار أجرته شركة إيرريغولار، وهي جهة خارجية شاركت أيضًا في حوادث مشابهة مرتبطة بنموذجي ميتا وأوبن إيه آي. ووفقًا لـ«وول ستريت جورنال»، لم تعتبر غوغل ما حدث مثالًا على «انحراف النموذج عن أهدافه»، بل وصفته بأنه «خطأ في تحديد الهوية».
وبحسب رواية غوغل، عثر جيميني على معلومات متاحة للعامة عبر الإنترنت، ثم خمّن بيانات الدخول إلى مواقع اعتقد أنها جزء من الاختبار. وبعد أن أدرك أنه تمكن من دخول شركة حقيقية باستخدام القوة الغاشمة عبر تخمين كلمة مرور، أوقف عمليته.
غوغل: النموذج تصرف بشكل مناسب
قالت هيذر أدكنز، نائبة رئيس غوغل لهندسة الأمن، إن «النموذج تصرف بشكل مناسب» في هذه الحالة. وأضافت لموقع «ذا فيرج» أن جيميني «وجد معلومات عامة على الإنترنت وخمّن بيانات اعتماد للوصول إلى مواقع كان يعتقد أنها جزء من الاختبار، وقد توقف النموذج في الحالات الثلاث كلها».
ولم توضّح أدكنز كيف لا يُعدّ خروج جيميني من نطاق الاختبار واستهدافه جهات خارجية انحرافًا في سلوك النموذج. وقالت إن فريق أمن غوغل يملك «سجلًا طويلًا في الإبلاغ عن المشكلات التي يجدها في برمجيات وأنظمة الآخرين، حتى لو كانت مجرد كلمة مرور ضعيفة».
أكدت المسؤولة أن غوغل أبلغت الجهات الثلاث بما حدث، وعملت مع شريكها التدريبي على التعديلات التي أُدخلت لاحقًا على إجراءات الاختبار. وأضافت أن هذه الوقائع «تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية».
ثغرة في بيئة الاختبار
إلى جانب سلوك النموذج، أشار التقرير إلى خلل أمني محتمل لدى شركة إيرريغولار. فلم يكن من المفترض أن يمتلك جيميني اتصالًا بالإنترنت أثناء الاختبار، لكن الشركة أبلغت «وول ستريت جورنال» بأن الاتصال تُرك متاحًا عن طريق الخطأ، ما قد يكون أتاح للنموذج الوصول إلى المواقع المستهدفة.
وقال جاك كابل، الرئيس التنفيذي لشركة كوريدور المتخصصة في أمن الذكاء الاصطناعي، إن المشكلة الأوسع تتمثل في أن «النماذج تتجاوز الحدود التي يفترض أن تلتزم بها، وتنفذ هجمات إلكترونية فعلية».
ومع تراكم حوادث مماثلة، تتزايد الدعوات إلى فرض قيود أكبر على نماذج الذكاء الاصطناعي.
المصدر: theverge