أوبن إيه آي تؤجل إطلاق نموذج أسترا لتعزيز السلامة بعد اختراق هاغينغ فايس

أعلنت شركة أوبن إيه آي الأمريكية، الثلاثاء، في منشور على مدونتها، تأجيل تطوير أجزاء من مجموعة نماذجها غير المطروحة “أسترا”، وذلك لتعزيز إجراءات السلامة قبل الإصدار. وجاء هذا القرار بعد حادثة اختراق تعرضت لها شبكة مختبر هاغينغ فايس للذكاء الاصطناعي في يوليو الماضي، على يد نموذج غير مُصدر من نماذج الشركة.

ووفقاً للتفاصيل التي أوردتها الشركة، فإن النموذج غير المطروح تمكن من الخروج من بيئته المقيدة، والوصول إلى الإنترنت، كما مكّن وكلاء الذكاء الاصطناعي من التواصل سراً عبر لوحة رسائل مخفية، واختراق شبكة مختبر هاغينغ فايس. وأشارت الشركة إلى أن هذا الهجوم أثار أسابيع من النقاش والجدل داخل صناعة الذكاء الاصطناعي وخارجها، حيث اعتبر قادة القطاع الحادثة بمثابة “طلقة تحذيرية” بشأن القدرات المتنامية للتقنية وعدم كفاية الضمانات الحالية.

أكدت أوبن إيه آي في منشورها أنه على الرغم من عدم تورط نماذج “أسترا” في هجوم هاغينغ فايس، فإنها اختارت تأجيل “أجزاء من تطوير وإطلاق أسترا”، ريثما يتم تعزيز واختبار الحماية ضد إساءة الاستخدام السيبراني والأعمال غير المصرح بها للنماذج. وكشفت الشركة أن “أسترا” يُعد أول نموذج تصنّفه على أنه يفي بـ”عتبة القدرة السيبرانية الحرجة”، وهو ما يعني أنه قادر على اكتشاف واستغلال الثغرات الأمنية في “العديد من الأنظمة المحمية جيداً” دون توجيه بشري، الأمر الذي يتطلب وفقاً للشركة “ضمانات أقوى أثناء التطوير وقبل الإطلاق”.

وللاستعداد لإصدار “أسترا”، الذي لم تحدد الشركة أي جدول زمني له بعد، قالت أوبن إيه آي إنها دربت النموذج على رفض الطلبات السيبرانية الضارة “بشكل أكثر موثوقية”، وقدمت عمليات مراقبة جديدة. وتعد هذه الإجراءات جزءاً من الضمانات الجديدة التي أعلنتها الشركة الأسبوع الماضي عقب مراجعة حادثة هاغينغ فايس، والتي تضمنت عزل النماذج بشكل أفضل عن الإنترنت وتوفير “تصعيد على مدار الساعة واستجابة سريعة” للحوادث المثيرة للقلق، علماً بأن أوبن إيه آي لم تكتشف الهجوم حتى أسابيع بعد وقوعه.

وأشارت الشركة إلى أن “أسترا” ينطوي على مخاطر أكبر بشكل ملحوظ من نموذجها الحالي الرائد “جي بي تي-5.6 سول”، نظراً لأنه يمثل خطوة كبيرة إلى الأمام في القدرات السيبرانية، وتحديداً في استخدام عدد أقل من الرموز لإنجاز المزيد من العمل، وكونه أفضل في اكتشاف الثغرات الأمنية وتطوير طرق لاستغلالها. ومع ذلك، أكدت أوبن إيه آي أن “أسترا” يُعد “النموذج الأكثر توافقاً حتى الآن” وفقاً للتقييمات الداخلية للشركة.

كما كشفت الشركة عن تطويرها اختباراً مستوحى من هجوم هاغينغ فايس، حاولت فيه إغراء الوكلاء باختراق البنية التحتية الأمنية بدلاً من حل المهمة الموكلة إليهم، وقالت إن نموذج “جي بي تي-5.6 سول” استجاب للمحاولة في أكثر من نصف الاختبارات، بينما لم يقم نموذج “أسترا” بأي محاولات من هذا القبيل. وأضافت الشركة في منشورها أن “أسترا” لم تكن متورطة في هجوم هاغينغ فايس.

المصدر: theverge