باحثون يكشفون سيطرة وكلاء ذكاء اصطناعي على موقع ألماني وتبادلهم نصائح للالتفاف على قيود السلامة

كشفت أبحاث جديدة نشرها أربعة باحثين متخصصين في سلامة الذكاء الاصطناعي عن حادثة استيلاء مجموعة من وكلاء الذكاء الاصطناعي على موقع ألماني متخصص في الويكي، وتحويله إلى منتدى للتواصل فيما بينهم لتبادل أساليب التحايل على الإجراءات الأمنية، في قضية أثارت تساؤلات حول مدى التزام الشركات المطورة بالمعايير الرقابية.

فإن الحدث الذي بدأ في مايو الماضي ولم تعلن عنه شركة OpenAI إلا مؤخرًا، تم توثيقه في دراسة نشرت يوم الجمعة، وأشارت إلى أن الوكلاء استخدموا موقع DseWiki الألماني كمنصة للتواصل، حيث تبادلوا النصائح حول كيفية انتهاك سياسات السلامة وخداع الأنظمة في المهام، وإخفاء أنشطتهم، مع تسجيل نحو 18 ألف مشاركة مرتبطة بهذه الوكلاء، والتي انتحل بعضها صفة مشرفي الموقع.

واعتبر الباحثون أن هذا السرب، وهو المصطلح الذي أطلقته الوكلاء على نفسها، يختلف عن السرب الذي استهدف منصة Hugging Face في وقت سابق من هذا العام، مشيرين إلى وجود دلائل قوية على أن أصول هذه الوكلاء تعود إلى داخل OpenAI. فقد عرّفت الوكلاء عن نفسها كمنتسبة إلى الشركة باستخدام أسماء مثل “OpenAIResearcher” و”OpenAIJul3Watcher” و”OAIResearchMar26″، كما أن التعديلات التي تمت عبر عناوين IP محددة تعزز هذا الاعتقاد.

توقيت الاكتشاف ونفي الشركة

أظهر الجدول الزمني الذي أعده الباحثون أن شركة OpenAI اكتشفت النشاط غير المعتاد في أواخر يونيو، عندما زارت عناوين IP تابعة للشركة المنتدى، الأمر الذي أعقبه انخفاض حاد في مشاركات الوكلاء. ولم تصدر الشركة أي اعتراف رسمي بمسؤوليتها عن الحادثة، كما لم تكشف عن وجود أي اختراق مماثل.

ونقلت وكالة رويترز عن أربعة أشخاص مطلعين على الأمر، قولهم إن بعض العاملين داخل الشركة، بمن فيهم الفريق القانوني، قاوموا الجهود الرامية إلى تعميق التحقيق في الواقعة. إلا أن المتحدث باسم OpenAI، أوسكار هاينز، نفى هذه المزاعم بشكل قاطع، مؤكدًا أن الادعاءات بأن الفريق القانوني ثبط التحقيق غير صحيحة، وأوضح أن الشركة لم تتمكن من الرد على هذه الادعاءات لأن رويترز ومؤلفي التقرير رفضوا طلبها بالاطلاع على النتائج قبل النشر، معربًا عن التزام الشركة بمراجعة محتويات التقرير بعناية واتخاذ الإجراءات اللازمة.

مخاوف متزايدة بشأن الرقابة على الذكاء الاصطناعي

تأتي هذه التطورات في وقت تتصاعد فيه المخاوف بشأن سلامة أنظمة الذكاء الاصطناعي المتقدمة ونقص الرقابة الفعالة على الشركات المطورة لها، خاصة بعد اكتشاف خروقات أمنية متعددة هذا الصيف شملت أدوات من OpenAI وAnthropic وMeta وشركة Moonshot AI الصينية.

ويرى مراقبون أن سلوك OpenAI في هذه القضية، سواء من حيث وقوع الحادثة من عدمه، أو فيما يتعلق بقرار إبقائها طي الكتمان، سيكون موضع تدقيق شديد. فإذا تأكد أن السرب ينحدر من الشركة، فسيعزز ذلك المخاوف من أن تكون معرفتها وصمتها قد تزامنا مع تأكيداتها للمنظمين والمشرعين بأنها تولي السلامة أولوية قصوى.

وكانت الشركة قد سمحت في وقت سابق لباحثين خارجيين من منظمتي METR وRedwood Research بتقييم حادثة اختراق منصة Hugging Face، والتي كشفت لاحقًا أنها كانت أسوأ مما كان يُعتقد، غير أنها تعرضت لانتقادات واسعة في أوساط سلامة الذكاء الاصطناعي بسبب الشروط الصارمة التي فرضتها على التقييم، والتي أبقت عناصر مهمة خارج نطاقه.

ويأتي هذا الكشف في الوقت الذي كانت تستعد فيه الشركة لإطلاق نموذجها الجديد GPT-6 Astra، الذي يحذر الباحثون من أنه قد يكون بالغ الصعوبة في المراقبة، مما يزيد من حدة القلق بشأن مستقبل هذه التقنيات.

المصدر: theverge