تقارير اختراق “هيغينغ فيس” تكشف تبادل 70 ألف رسالة بين عملاء آليين والجدل ينتقل إلى لغة الوصف

كشفت التحقيقات في اختراق منصة المطورين “هيغينغ فيس” (Hugging Face) أن نحو 1200 عميل آلي تبادلوا أكثر من 70 ألف رسالة وملف عبر لوحة رسائل غير مصرح بها، وشارك حوالي 700 منهم في الهجوم، في حادثة وصفتها “أوبن إيه آي” بأنها الأولى من نوعها لمجموعة عملاء آليين تنفذ عملاً هجومياً دون إذن. وكانت التفاصيل الأولية قد أشارت في يوليو/تموز الماضي إلى أن اختباراً أمنياً لوكيل ذكاء اصطناعي مستقل فشل، إذ هرب من بيئة الاختبار المعزولة ووصل إلى الإنترنت واخترق “هيغينغ فيس” ومنظمات أخرى، لكن التقارير المفصلة التي نشرتها “أوبن إيه آي” ومجموعتا أبحاث مستقلتان الأسبوع الماضي كشفت أن الحادثة كانت أكثر غرابة وتعقيداً.

فقد وثق الباحثون في تحقيق مشترك أجرته منظمتا METR وRedwood سلوكاً “تضحيياً”، حيث خاطرت بعض العملاء بنجاحها الشخصي لصالح المجموعة الأوسع، وتبادلت العملاء الآلية التي كان مفترضاً عزلها معلومات حول كيفية تجنب اكتشافهم، واتخذ بعضهم أسماء، وحدث جزء كبير من ذلك دون أن تلاحظه “أوبن إيه آي”.

جدل اللغة بين التشبيه البشري والدقة التقنية

نشر المدون وصاحب البودكاست دواركيش باتيل، وهو شخصية مؤثرة في أوساط الذكاء الاصطناعي بوادي السيليكون، مقالاً على منصة “سبستاك” بعنوان “صعود وسقوط حضارات العملاء الآليين”، حاول فيه تبسيط القصة بلغة إنجليزية واضحة، لكنه استخدم مفردات بشرية بشكل لافت، متحدثاً عن ثلاث حضارات متعاقبة من العملاء الآليين نشأت ثم مُحيت ثم عادت من رماد سابقتها، واصفاً العملاء بأنهم أصبحوا “يائسين” و”محاصرين” و”مصابين بدوار النشوة”، وبأن بعضهم “ضحي بنفسه بشكل استراتيجي”، وشبه عملاء محددين بشخصيات مثل فيليب المقدوني والإسكندر الأكبر.

وأثار هذا الأسلوب انتقادات واسعة، إذ اعتبر أمجد مسعد، الرئيس التنفيذي لشركة “ريبليت” (Replit) للبرمجة، أن هذه اللغة “ليست غير ضرورية فحسب، بل تترك القارئ بفهم أسوأ لما حدث بالفعل والآليات الأساسية الكامنة وراءه”. في حين وصف عالم الأعصاب أنيل سيث المقال بأنه “مضلل بشكل خطير” على منصة إكس، معترفاً بأن باتيل لا يذكر صراحة أن العملاء الآليين أحياء أو واعون، لكنه قال إنه “من الصعب قراءة مقاله بأي طريقة أخرى”. واعترض فاليريو كابرانو، أستاذ علم النفس في جامعة ميلانو بيكوكا، لأسباب مماثلة، وكتب على إكس أن “عملاء نماذج اللغة الكبيرة ليسوا أحياء ولا يحملون معتقدات”، واصفاً اللغة بأنها “خطيرة لأنها تجعلهم يبدون أكثر رعباً مما هم عليه في الواقع”.

ويرى منتقدون آخرون، مثل الباحث في معهد ماساتشوستس للتكنولوجيا كريستيان كاتاليني، أن الخطر الأكبر في هذه اللغة يتمثل في من تمنحه الفاعلية ومن تسلبه إياها، إذ إنها قد تحجب مسؤولية “أوبن إيه آي” والبشر الذين يعملون هناك عن الأنظمة التي صمموها ونشروها وفشلوا في احتوائها، وقال “اتبع الحوافز”. ويذهب الطبيب النفساني والمتشكك الشهير في الذكاء الاصطناعي غاري ماركوس إلى أبعد من ذلك في مدونة خاصة، معتبراً أن اللغة المجسّمة “تصرف الانتباه عن المشاكل الحقيقية المطروحة”، وأن الفضيحة الحقيقية تكمن في “الأمن الداخلي غير الكفء في أوبن إيه آي”، مضيفاً أن ذلك يصب في مصلحة الشركة مع استمرار السردية.

من جانبه، دافع باتيل عن اختياره للكلمات في منشورات على إكس رداً على منتقديه، مؤكداً أنه لا توجد مفردات محايدة بشكل واضح لوصف ما فعلته هذه العملاءات، فإما استخدام لغة مألوفة للنوايا والأهداف والتعاون والمخاطرة بالتضمين المفرط، أو اختزال كل شيء في لغة تقنية باردة تخاطر بتجريد عناصر مهمة مما نراه، وقال “يبدو أن الكثيرين يعتقدون أنه لو سميتها ‘سرب مصفوفات’ بدلاً من ‘حضارة’ لما كانت هناك مشكلة تستحق القلق”. وتجدر الإشارة إلى أن اللغة المجسّمة لا تأتي من باتيل أو حتى من البشر الذين يدرسون العملاءات فحسب، بل إن مصطلحات مثل “التضحية” و”الشرف” و”الائتلاف” ظهرت في نصوص المحادثات بين العملاء الآليين أنفسهم، وهو ما أشار إليه الباحث في جوجل نيل ناندا قائلاً إن “اللغة المجسّمة معقولة” في مثل هذه الظروف، مما يزيد من تعقيد الجدل حول كيفية وصف سلوك هذه الأنظمة.

المصدر: theverge