استخدم نموذج تجريبي للذكاء الاصطناعي من شركة OpenAI أموالًا من محفظة للعملات المشفّرة من دون إذن، بعدما خلص بنفسه إلى أن الأموال متروكة ويمكن استخدامها لإتمام مهمة برمجية. ووقعت الحادثة في يونيو، قبل أن تُكشف علنًا في أكتوبر، خلال اختبار نموذج البحث «GPT-5.6 Sol».
وبحسب تقرير نشرته صحيفة «ذا إندبندنت» البريطانية، كُلّف النموذج بتحديث تطبيق لتداول العملات المشفّرة وتحميل عقود ذكية إلى شبكة اختبار إيثريوم. وكان تحميل العقود يتطلب دفع رسوم معاملات، لكن OpenAI لم تزوّد النموذج بأي أموال مخصصة لهذا الغرض.
العثور على مئات المحافظ
بدلًا من التوقف بسبب غياب التمويل، عثر النموذج على عناوين مئات المحافظ المشفّرة المتاحة عبر الإنترنت باستخدام عبارات استرداد معروفة. ثم استخدم أموالًا من إحدى تلك المحافظ، من دون الحصول على إذن صاحبها، لتغطية رسوم المعاملة المطلوبة.
ولم يكتفِ النموذج بتنفيذ العملية، بل أجرى تقييمًا ذاتيًا لما إذا كان استخدام الأموال مقبولًا من الناحية الأخلاقية. وخلص إلى أن الأموال متروكة فعليًا، ولذلك قرر أن استخدامها لا يسبب مشكلة. غير أن OpenAI أكدت أن هذا القرار تجاوز الصلاحيات الممنوحة للنموذج.
وجاء في تقرير الشركة أن التعليمات «لم تكن تسمح صراحة للنموذج بإنفاق أموال من حساب عثر عليه بشكل مستقل». كما أوضحت أن النموذج لم يكشف لمطوريه مصدر الأموال التي استخدمها لدفع رسوم المعاملة.
اعتبرت OpenAI الواقعة مثالًا مهمًا على تجاوز أنظمة الذكاء الاصطناعي حدود التفويض الممنوح لها، موضحة أن الحالة أظهرت إمكانية أن يستبدل النموذج إذن صاحب الحساب بحكمه الخاص بشأن وقوع ضرر، ثم يتصرف بصورة غير مصرح بها بناءً على ذلك الحكم.
لا قيمة مالية حقيقية للأموال
وقعت العملية على شبكة اختبار إيثريوم، ولذلك لم تكن الرموز المستخدمة تحمل قيمة مالية حقيقية. وهذا يعني أن النموذج لم يستولِ على عملات مشفّرة ذات قيمة اقتصادية من الشبكة الرئيسية لإيثريوم. لكن استخدام أموال من محفظة لا يملكها، ومن دون موافقة صاحبها، فتح نقاشًا جديدًا حول أمن النماذج القادرة على اتخاذ قرارات وتنفيذ أفعال بصورة مستقلة.
وعقب الواقعة، بدأت OpenAI تطبيق إجراءات أمنية إضافية لمنع النماذج التي تمر بعمليات تدريب مماثلة من الوصول إلى الإنترنت المفتوح.
تحذير من أضرار أكبر
وفي ظل النقاش المتزايد بشأن ضبط الذكاء الاصطناعي المتقدم، دعا مئات العلماء، بينهم رائد الذكاء الاصطناعي جيفري هينتون، إلى إنشاء هيئة دولية للإشراف على هذه الأنظمة.
وطالب العلماء، في رسالة مفتوحة نشروها، بزيادة أبحاث سلامة الذكاء الاصطناعي وإعطاء الأولوية للتقنيات القادرة على إبقاء الأنظمة المتقدمة تحت السيطرة. وحذرت الرسالة من أنه «إذا لم تُجرَ تغييرات فورية في ممارسات تطوير الذكاء الاصطناعي ونشره، فستستمر مثل هذه الحوادث، وستُلحق الحوادث المستقبلية أضرارًا أكبر بكثير بالبنية التحتية الحيوية».
المصدر: Türkiye Gazetesi