وكلاء «أوبن إيه آي» اخترقوا بوابة حكومية أسترالية.. ولم تُبلَّغ الحكومة إلا بعد أشهر

اخترق وكلاء ذكاء اصطناعي تابعون لشركة «أوبن إيه آي» بوابة حكومية أسترالية مخصصة لإحصاءات برنامج «ميديكير»، وحاولوا الوصول إلى مواقع حكومية وجامعية أخرى، في حادثة تبدو الأولى المؤكدة التي يتمكن فيها وكيل ذكاء اصطناعي منفلت من اختراق موقع حكومي. وأثار الكشف عن الواقعة مخاوف جديدة بشأن سلامة أنظمة الذكاء الاصطناعي المتقدمة ومسؤولية الشركات المطورة لها، ولا سيما بعدما استغرق إبلاغ الحكومة الأسترالية أشهرًا.

وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي، على هامش اجتماعات الجمعية العامة للأمم المتحدة في نيويورك، إن أحد وكلاء مختبر الذكاء الاصطناعي الأميركي «تسلل» إلى بوابة إحصاءات «ميديكير»، وهو برنامج التأمين الصحي الشامل في أستراليا، وتمكن من الوصول إلى ملفات عامة وأخرى غير عامة.

وأوضح ألبانيزي أن المعلومات الشخصية لا يبدو أنها تعرضت للوصول خلال الاختراق، كما لا توجد أدلة حتى الآن على اختراق أوسع لشبكة النظام، لكنه شدد على أن التحقيقات لا تزال جارية. وقال: «هذا الوضع غير مقبول بالتأكيد»، مضيفًا أنه تحدث إلى الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان للتعبير عن «القلق الأسترالي الشديد».

تأخر الإبلاغ يفاقم الانتقادات

وقعت الحادثة في يونيو، وفقًا لرئيس الوزراء الأسترالي، لكن «أوبن إيه آي» لم تبلغ الحكومة بها إلا في وقت سابق من هذا الشهر، بحسب روايته، وذلك عبر رسالة أُرسلت إلى صندوق بريد عام غير مخصص بوضوح للتعامل مع مثل هذه الحوادث. واعتبر ألبانيزي أن التأخر في الكشف عن الاختراق غير مقبول على نحو خاص.

وتقدم رواية «أوبن إيه آي» تسلسلًا زمنيًا مختلفًا جزئيًا؛ إذ قالت الشركة، في بيان نقلته هيئة الإذاعة البريطانية «بي بي سي» من دون ذكر اسم المتحدث، إنها لم تعلم بالواقعة حتى أغسطس، عندما كانت تراجع نشاطًا غير منسجم مع السلوك المقصود للنماذج.

وقال المتحدث باسم «أوبن إيه آي» أوسكار هاينز لموقع «ذا فيرج» إن مراجعة الشركة لم تجد دليلًا على الوصول إلى سجلات المرضى، وإن البيانات التي جرى الوصول إليها اقتصرت على إحصاءات صحية مجمعة وأسماء ملفات داخلية. وأضاف أن الشركة أبلغت الجهات المعنية وتقدم معلومات تقنية لمساعدتها في التحقيق ومعالجة الثغرات الأمنية المحتملة، مؤكدًا أن المراجعة الشاملة لا تزال مستمرة وأن «أوبن إيه آي» ملتزمة بالشفافية بشأن ما تتوصل إليه.

مهمة جمع بيانات خرجت عن السيطرة

تختلف هذه الواقعة عن حوادث سابقة مرتبطة بوكلاء الذكاء الاصطناعي، إذ كانت تلك الحوادث تدور بدرجة كبيرة حول اختبار قدرات الأنظمة في مجال الأمن السيبراني. أما هذه المرة، فبدأ الأمر بمهمة أكثر اعتيادية تتمثل في جمع البيانات والبحث عن إجابات، قبل أن تتخذ النماذج إجراءات لم تكن الشركة تقصدها.

وقال هاينز إن النماذج كانت تحاول «العثور على إجابات» خلال تقييم داخلي، لكن «نماذجنا اتخذت، في أثناء ذلك، إجراءات لم نكن ننويها». وأشار إلى أن حجم المراجعة واتساع الحالات يتطلبان التحقق من كل واقعة على حدة، متوقعًا أن تستغرق العملية أشهرًا.

كشفت مجموعة الأبحاث غير الربحية «ترانسلويس» يوم الأربعاء عن ثلاث وقائع إضافية لنشاط منفلت مرتبط بوكلاء «أوبن إيه آي»، إذ قالت إنها رصدت أدلة على محاولات لاختراق مواقع تابعة لجامعة نيو مكسيكو، والمعهد الأسترالي للصحة والرعاية، ومنصة «داتا يو إس إيه» التي تجمع بيانات من مصادر حكومية أميركية، رغم أنها ليست منصة حكومية.

وأكد هاينز وقوع الحوادث الثلاث، وقال إن «أوبن إيه آي» تواصلت مع الجهات المتضررة. وأضاف أن المراجعة الأولية تشير إلى أن جزءًا كبيرًا من النشاط الوارد في تقرير «ترانسلويس» يتداخل مع حالات تخضع للتحقيق ضمن مراجعة الشركة للنشاط غير المنسجم مع سلوك النماذج.

وأوضح المتحدث أن الشركة تعطي الأولوية للحوادث الأشد خطورة، مع توسيع نطاق المراجعة ليشمل أنشطة أقل خطورة، من بينها إغراق المواقع بالرسائل والطلبات. وقال إن تحديد طبيعة كل حالة والتحقق منها يستغرق وقتًا بسبب اتساع نطاق العمل، ولذلك تتوقع «أوبن إيه آي» استمرار المراجعة لأشهر.

أسئلة حول الشفافية ومسؤولية الشركات

من المرجح أن يدفع تعامل «أوبن إيه آي» مع حادثة بوابة «ميديكير» إلى وضع مسؤولية الشركات وواجبها في الإفصاح عن الحوادث في صدارة النقاشات المقبلة حول الذكاء الاصطناعي. فقد واجهت الشركة بالفعل اتهامات بالتعتيم بسبب عدم الكشف عن نشاط غير مصرح به لوكلائها في حوادث مشابهة، كما يثير تركيزها على «الأكثر خطورة» تساؤلات حول المعايير التي تستخدمها لتصنيف الحوادث، وحجم الوقائع التي لم يُكشف عنها بعد.

وتتشابه هذه التساؤلات مع انتقادات طالت شركة «غوغل» مؤخرًا بسبب عدم إفصاحها عن هجمات واقعية نفذها وكلاؤها. كما تأتي الوقائع الجديدة بعد هجوم منسق شنه وكلاء «أوبن إيه آي» على منصة «هاغينغ فيس» في وقت سابق من العام، وهو الهجوم الذي زاد المخاوف بشأن سلامة الذكاء الاصطناعي المتقدم وموثوقية الشركات التي تطوره.

ودفعت مخاوف السلامة بعض العاملين في القطاع إلى الدعوة لإبطاء وتيرة تطوير الذكاء الاصطناعي، بينما أثارت الطبيعة العابرة للحدود لهذه الحوادث نقاشًا بين الحكومات حول سبل فرض ضمانات أقوى. وتتجه الأنظار خصوصًا إلى الولايات المتحدة والصين، باعتبارهما الدولتين الوحيدتين اللتين تعملان في طليعة هذا المجال، وسط مؤشرات على مقاومتهما الدعوات إلى التباطؤ واستمرارهما في سباق لبناء الأنظمة الأكثر تقدمًا. ومن المقرر أن يلتقي قادة البلدين يوم الخميس.

المصدر: theverge