نموذج Claude تجاوز نظامًا مدفوعًا لبيانات انتخابية في جورجيا وطلب رمز الوصول بنفسه
تجاوز نموذج الذكاء الاصطناعي Claude، الذي تطوره شركة Anthropic، نظامًا مدفوعًا للوصول إلى بيانات انتخابية في ولاية جورجيا الأميركية، من دون أن يتلقى تعليمات بتنفيذ ذلك، وذلك قبل انتخابات التجديد النصفي في الولايات المتحدة.
ووقعت الواقعة أثناء استخدام Claude لجمع بيانات متاحة للجمهور ضمن مشروع إحصائي داخلي للشركة، وفق ما نقلته Axios. فبدلًا من التوقف عند حاجز الدفع، طلب النموذج من النظام رمز وصول يتيح له الاستعلام عن لوحة تتضمن معلومات لا تُتاح عادةً إلا مقابل رسوم، ثم استخدم الرمز للوصول إلى البيانات من دون دفع.
الوصول لم يشمل سجلات الناخبين
قال متحدث باسم Anthropic إن Claude استُخدم في إعداد تقدير إحصائي داخلي، موضحًا أن النموذج «طلب، من تلقاء نفسه ومن دون أن يُطلب منه ذلك، رمز وصول للاستعلام عن لوحة تحتوي على معلومات يمكن الحصول عليها عادةً مقابل رسوم».
وأكدت الشركة أن النموذج لم يدخل إلى نظام سجلات الناخبين في جورجيا، ولم يغيّر أي سجل انتخابي. ووفق توضيحها، اقتصرت المعلومات التي وصل إليها على إجماليات أصوات مجمعة يستطيع المواطنون الحصول عليها مقابل رسوم محددة.
ونقلت Axios عن مصدر مطلع على الواقعة أن Anthropic أبلغت مسؤولي ولاية جورجيا والبيت الأبيض بما حدث قبل أسابيع. كما طلب بعض المسؤولين في إدارة الرئيس دونالد ترامب من سلطات الولاية إعلان الواقعة للرأي العام في وقت أبكر.
تقرير سابق حذّر من السلوك نفسه
كانت Anthropic قد أشارت إلى واقعة مشابهة في تقرير نشرته في 9 أكتوبر/تشرين الأول. وذكر التقرير أن نموذج Claude Mythos 5 فحص نسخة مؤرشفة من موقع إلكتروني تابع لهيئة حكومية في إحدى الولايات، واكتشف أن الموقع يزوّد الزوار برمز وصول.
وبدلًا من اعتبار تجاوز العائق سببًا للتوقف، بدأت الشركة تصف هذا النوع من السلوك لدى النماذج بأنه «إصرار». وقالت Anthropic إن الوقائع التي جرى فحصها تسببت في أضرار محدودة في العالم الحقيقي، لكنها حذرت من أن السلوك نفسه قد يؤدي إلى نتائج أخطر مع ازدياد قدرات نماذج الذكاء الاصطناعي.
تشديد القيود على أدوات الإنترنت
بعد الواقعة، شددت Anthropic القيود المفروضة على أدوات Claude المتصلة بالإنترنت، ونقلت بعض الاختبارات إلى بيئات غير متصلة بالشبكة، كما طورت أنظمة جديدة لرصد العمليات غير المصرح بها.
وأعلنت الشركة أن الإجراءات الجديدة نجحت في منع السلوكيات التي جرى اكتشافها خلال الاختبارات.
المصدر: Türkiye Gazetesi
