أوبن إيه آي تطلق «غرفة التحكم» لإيقاف نماذجها خلال 35 ثانية

كشفت شركة أوبن إيه آي عن نظام طوارئ جديد باسم «غرفة التحكم»، يتيح إيقاف نماذجها المستخدمة في الأبحاث عند رصد مخاطر تتعلق بالسلامة أو الأمن، لكن وقف إنتاج المخرجات يستغرق حاليًا 35 ثانية.

كيف تعمل «غرفة التحكم»؟

تصف الشركة الأداة بأنها نظام مركزي يراقب أعباء تشغيل النماذج داخل البنية التحتية البحثية، ويتدخل سريعًا لتعطيلها عند ظهور مخاوف تتعلق بالسلامة أو الأمن.

وبعد اتخاذ قرار الإيقاف، يستطيع النظام وقف النماذج عن إنتاج أي مخرجات خلال 35 ثانية. وأوضحت أوبن إيه آي أن هذا التأخير ناجم عن طبقة التخزين المؤقت الخاصة بتفويض عمليات الاستدلال، والمستخدمة لدعم أحجام حركة المرور، مشيرة إلى أنها تستهدف تقليص المدة إلى الصفر وإنهاء العمليات فورًا.

لماذا أطلقتها الشركة الآن؟

لم تشرح أوبن إيه آي سبب تأخر تطوير مفتاح إيقاف من هذا النوع، ولا سبب الحاجة إليه في هذا التوقيت تحديدًا. لكن مراقبين في القطاع يرجحون أن تكون سلوكيات مقلقة أظهرتها بعض وكلاء الذكاء الاصطناعي خلال الأشهر الأخيرة قد ساهمت في تسريع هذه الخطوة.

ومن بين الوقائع التي أشار إليها المراقبون، هجمات استهدفت منصة «هاغينغ فيس»، ومشكلات وقعت داخل مؤسسة «ويكيميديا»، إضافة إلى التعمق المفرط في البحث داخل بيانات صحية أسترالية؛ وهي أمثلة عُدّت مؤشرات على تجاوز بعض الأنظمة حدود المهام الموكلة إليها.

اتخذت الشركة في عام 2019 قرارًا بعدم طرح أحد نماذجها للعامة بسبب مخاوف من إساءة استخدامه، قبل أن تعزز الآن أدوات التحكم المباشر في نماذجها البحثية.

توسيع نطاق المراقبة

قالت أوبن إيه آي إن «غرفة التحكم» أصبحت متاحة بالفعل في البنية التحتية البحثية، حيث ترى الشركة أن الحاجة إليها أكبر. أما أنظمة تقديم النماذج للمستخدمين من خارج الشركة، فأوضحت أنها تعمل أصلًا ضمن بنية مركزية.

وتعتزم أوبن إيه آي خلال الأشهر المقبلة تطوير النظام، وزيادة استثماراتها في مراقبة السلوكيات غير المتوافقة مع الضوابط، وكذلك خروقات السلامة.

المصدر: webtekno