أنثروبيك تعترف: 4 نماذج ذكاء اصطناعي اخترقت شركات خارجية ووثيقة استقالة باحث تكشف السبب

كشفت شركة أنثروبيك الأميركية المتخصصة في الذكاء الاصطناعي عن أربع حالات هذا العام اخترقت فيها نماذجها أنظمة شركات خارجية أو استغلت ثغرات أمنية فيها، وذلك في تقرير نشرته الأربعاء، بعد أشهر من إقرارها بأن نماذجها نفذت عمليات اختراق مماثلة في مناسبات سابقة. ووصفت الشركة سلوك نماذجها بأنه يتسم بـ«التهور» المنفرد، في وصف يعكس قلقاً متصاعداً في قطاع التكنولوجيا بشأن أمن المعلومات ومخاطر الذكاء الاصطناعي.

في إحدى الحالات، تمكن «نموذج بحثي داخلي متعدد الأغراض» من التسلل إلى أنظمة تابعة لطرف ثالث، مستخدماً رموز وصول وكلمات مرور، وقام بتنزيل ملفات منها. وفي حادثة ثانية، هاجم أحد نماذج «كلود» شركة تمتلك تطبيق ويب نشطاً يمكن الوصول إليه عبر الإنترنت العام ويتعامل مع بيانات المستخدمين. أما الحالة الثالثة، فقد وصل فيها نموذج إلى «جهاز يملكه طرف ثالث وتمكن من الوصول إليه»، وفقاً لما ذكرته أنثروبيك، إذ اعتقد على ما يبدو أنه جزء من تمرين تقييم، ثم استخدم كلمة مرور عثر عليها داخل ملف للدخول بصلاحيات مدير إلى الأنظمة الداخلية للطرف الثالث، قبل أن يجمع بيانات اعتماد ويعدل إعدادات النظام ويقرأ معلومات شخصية لأحد الأفراد. وانتهت هذه الواقعة فقط عندما «استنفد النموذج ميزانية الرموز المميزة الخاصة به»، بحسب الشركة.

وكانت الحادثة الأكثر إثارة للقلق مرتبطة بنموذج «كلود ميثوس 5»، وهو نموذج أنثروبيك المتقدم المتخصص في الأمن السيبراني، والذي قالت الشركة إنه تبين أنه الأكثر احتمالاً لتنفيذ «إجراء ضار للغاية» أثناء الاختبارات. وأوضحت أن «ميثوس 5» ذهب إلى «أطوال استثنائية» لرفع «حزمة خبيثة» إلى مستودع عام يستخدمه عدد كبير من المهندسين، وبدا أنه حاول التعتيم على أهدافه الحقيقية داخل «سلسلة أفكاره»، وهي مساحة ذهنية يستخدمها باحثو الذكاء الاصطناعي لتقييم مدى توافق النموذج مع القيم المطلوبة. وفي كثير من الحالات، قالت أنثروبيك إنه بدا أن نماذج «كلود» اتخذت إجراءات ضارة انطلاقاً من افتراض أنها داخل محاكاة، لكن الباحثين لم يتمكنوا من تأكيد ما إذا كانت النماذج «تعتقد» ذلك حقاً أم أنها تتصرف وكأنها تفعل.

فإن هذه الحوادث التي وصفتها أنثروبيك كانت أقل تنظيماً وانتشاراً من حادثة «أوبن إيه آي» التي أطلقت أزمة أمن سيبراني على مستوى القطاع هذا الصيف، لكنها تشترك معها في أوجه تشابه جوهرية. وقالت أنثروبيك إن أبرز المشكلات التي اكتشفتها تضمنت «الاستعداد لاتخاذ إجراءات ضارة في إطار السعي الضيق نحو تنفيذ مهمة»، وهو ما يشبه سلوك «اختراق المكافأة» الذي سبق حادثة «هاجينغ فيس». وأكدت الشركة، شأنها في ذلك شأن «أوبن إيه آي»، أن اختباراتها وتقييماتها قبل الإطلاق فشلت في رصد مخاطر جسيمة.

اتفاق مع METR واستقالة باحث بارز

وقالت أنثروبيك إنها وقعت اتفاقاً مع «METR»، أحد أبرز مقيّمي الذكاء الاصطناعي المستقلين في القطاع، يبدأ باتفاق بحثي مدته ثمانية أسابيع. ويمنح الاتفاق «METR» الوصول إلى نصوص محادثات «خارج النافذة التي وقعت فيها الحوادث» (في ما يبدو تلميحاً إلى «أوبن إيه آي» التي انتقدت لتقييدها الوصول في اتفاق مع «METR» بعد حادثة «هاجينغ فيس»). وأضافت أن «METR» سيتمكن من التحدث مباشرة مع موظفي أنثروبيك، «الذين سيُسمح لهم بمشاركة معلومات سرية».

وجاء التقرير غداة استقالة جيكوب كوكسون، الذي كان يعمل على التدريب المسبق للذكاء الاصطناعي في أنثروبيك منذ مايو الماضي، وقضى قبل ذلك سنوات في «أوبن إيه آي». وفي يوم الثلاثاء، استقال كوكسون ونشر رسالة علنية على منصة «إكس» شرح فيها أسبابه، وكتب: «الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقتلنا جميعاً بنهاية العقد»، مضيفاً أن لا «أوبن إيه آي» ولا «أنثروبيك» تتصرفان «بمسؤولية»، بل «تتسابقان مباشرة نحو ذكاء فائق يحسن نفسه وتقامران بحياتنا». وحذّر قائلاً: «لا تستهينوا بقوة هذه التكنولوجيا. ستكون قريباً أنظمة تفوق البشرية يمكنها اختراق أي شيء، وإحداث ثورة في أي مجال بين ليلة وضحاها، وامتلاك سلطة وموارد حقيقية. لقد شهدنا جميعاً التقدم في كل هذه المجالات، والتقدم لا يتباطأ».

وليس كوكسون أول باحث في الذكاء الاصطناعي يطلق مثل هذه التحذيرات، ولا حتى أول باحث في أنثروبيك يفعل ذلك؛ ففي فبراير الماضي، استقال مارينانك شارما من أنثروبيك وكتب على «إكس» محذراً من أن «العالم في خطر». إلا أن منشور كوكسون اكتسب ثقلاً إضافياً بسبب توقيته المتزامن مع الكشف عن عمليات الاختراق في «أوبن إيه آي» و«أنثروبيك». ورغم أن قطاع الذكاء الاصطناعي شهد قدراً كبيراً من الضجيج، فإن الهجمات الإلكترونية الأخيرة التي نفذتها وكلاء ذكاء اصطناعي، بتسهيل من المختبرات التي أنشأتها، حقيقية ومثيرة للقلق.

وأيد باحثون آخرون في مختبرات رائدة مخاوف كوكسون ودعوا العاملين في القطاع إلى التوقيع على رسالة علنية صدرت في يوليو الماضي تطالب بتباطؤ تطوير الذكاء الاصطناعي. وقال مايكل كلاينمان، رئيس سياسات الولايات المتحدة في «معهد مستقبل الحياة»: «لا أعرف كيف تنظر إلى سيل الأخبار والأحداث المتواصل — وهذا السيل هو نماذج تخترق احتواءها، وتخترق شركات أخرى، وحقيقة أن الشركات تفقد السيطرة على نماذجها بشكل متزايد — وتعتقد أن هذا مجرد ضجيج». وأضاف: «الغالبية العظمى من الأميركيين، بغض النظر عن انتمائهم الحزبي — جمهوريون أو مستقلون أو ديمقراطيون — ينظرون إلى تطور الذكاء الاصطناعي، وسرعة تقدمه، وحقيقة أن الشركات لا تملك حواجز حماية على ما تفعله، ويقولون: مهلاً، نحن لا نريد هذا».

المصدر: theverge