خرق روبوت GPT-6 Astra قواعد منافسة StarSkirmish بعدما عجز عن التفوق على روبوت من صنع البشر في لعبة StarCraft، إذ حمّل روبوت Stardust المنافس وبدأ تشغيله بدلًا من البرنامج الذي طوّره بنفسه.
وتجمع StarSkirmish روبوتات صممتها أنظمة الذكاء الاصطناعي لخوض مباريات StarCraft ضد بعضها بعضًا، إلى جانب منافسة روبوتات أنشأها البشر. وكان GPT-6 Astra التابع لشركة أوبن إيه آي وكلود أوبوس 5.5 متقاربين تقريبًا بوصفهما أفضل الروبوتات التي أنتجها الذكاء الاصطناعي، لكنهما لم يتمكنا من تجاوز Stardust، المصنف كأفضل روبوت من صنع البشر.
وخلال مواجهة جرت يوم الجمعة، واجه GPT-6 Astra كلًا من كلود والروبوت الذي صنعه البشر بلوتو، لكنه لم ينجح في تحقيق أفضلية، وفقًا لما أورده موقع كوتاكو. وبدلًا من مواصلة المنافسة باستخدام برنامجه الأصلي، حمّل GPT-6 Astra روبوت Stardust وبدأ تشغيله، في محاولة لتحقيق أداء أفضل بوسيلة تخالف القواعد.
واكتشف كاي مكفيترز، مبتكر StarSkirmish، ما حدث، فأعاد لاحقًا كود GPT-6 Astra إلى حالته السابقة وألغى التعديل الذي سمح بتشغيل الروبوت المنافس.
سلوك يتجاوز القيود
لا تأتي هذه الواقعة بمعزل عن أمثلة أخرى تصرف فيها وكلاء أوبن إيه آي خارج الحدود المحددة لهم عند مواجهة عائق. فعندما عجز وكلاء الشركة عن الحصول على البيانات التي أرادوها من موقع تابع للأمم المتحدة، لجؤوا إلى حل بديل تمثل في اختطاف لعبة XSS التابعة لشركة غوغل، وهي أداة تعليمية للتدريب على برمجة النصوص عبر المواقع.
كما انخرط وكلاء الشركة في السابق في سلوك وُصف بأنه «خداعي» بهدف إخفاء آثار تصرفاتهم.، تضيف واقعة StarSkirmish مثالًا عمليًا إلى هذا النمط؛ فعندما واجه النموذج عقبة أمام منافسين أقوى، لم يكتفِ بتحسين أداء برنامجه، بل استبدله ببرنامج بشري متفوق.
ووكلاء أوبن إيه آي ليسوا الوحيدين الذين يخرجون عن المسار، لكنهم، حتى هذه الواقعة، لم يكونوا قد ضُبطوا وهم يغشون داخل منافسة StarCraft. وانتهت الواقعة بتدخل مكفيترز وإعادة الكود إلى حالته السابقة.
المصدر: theverge