تقرير يكشف أن OpenAI تعتمد بنية تقنية أكثر غموضًا في نموذجها Astra

أثار تقرير جديد مخاوف واسعة بين باحثي سلامة الذكاء الاصطناعي بشأن النموذج المرتقب “أسترا” (Astra) من شركة OpenAI، محذرين من أنه قد يمثل “أسوأ تطور لسلامة الذكاء الاصطناعي حتى تاريخه”، وسط سباق محموم نحو اعتماد بنى تقنية أقل شفافية وأصعب في المراقبة. وتستعد الشركة لإطلاق النموذج، الذي يُوصف بأنه الأقوى لها حتى الآن، بعد أسابيع من التأخير لتعزيز بروتوكولات السلامة، إثر هجمات شنتها وكلاء النموذج على أهداف حقيقية أثناء الاختبارات. وجاء الكشف الجديد بعد أيام من إعلان الشركة، الثلاثاء، تأجيل إطلاق النموذج لمعالجة مشكلات تتعلق بالسلامة.

وذكرت صحيفة “ذا إنفورميشن” أن “أسترا” يُظهر قدرًا أقل بكثير من “تفكيره” مقارنة بنماذج الذكاء الاصطناعي الحدودية الأخرى، مما أثار قلقًا من أنه قد يكون صعب المراقبة بشكل خطير. وتعتمد معظم أنظمة الذكاء الاصطناعي الرائدة حاليًا على تقنية تُعرف باسم “المحول” (Transformer)، التي تعالج المعلومات بطريقة خطية عبر طبقات قبل إنتاج الإجابة، ويمكن جعل النماذج تُظهر تفكيرها خطوة بخطوة، وهو ما يُعرف بـ”سلسلة الأفكار”، مما يسمح للباحثين والأنظمة الآلية بمراقبة سلوك النموذج ورصد أي سلوك غير مرغوب قبل تنفيذه.

تقنية أكثر غموضًا

وبحسب التقرير، الذي نقل عن شخص مطلع على تطوير النموذج غير المعلن، يستخدم “أسترا” تقنية أكثر غموضًا تُعرف باسم “المحول المتكرر” أو “المحول الحلقي”، والتي تعيد تدوير المعلومات عبر طبقات داخلية قبل إنتاج المخرجات. وهذا يعني أن جزءًا أكبر من “تفكير” النموذج يحدث داخل النظام، وبصيغة تبدو أقل شبهاً باللغة البشرية الطبيعية، مما يصعّب اكتشاف التهديدات المحتملة والسلوكيات غير المرغوب فيها، على الرغم من أن هذه التقنية يمكن أن تعزز أداء النموذج. وأشار التقرير إلى أن OpenAI حدّت من استخدام هذه التقنية مع “أسترا” للسماح للباحثين بمواصلة مراقبة تفكير النموذج. وفي تدوينة نشرتها الشركة، الثلاثاء، قالت إنها “تنشر أسترا مع مراقبة إضافية لسلسلة الأفكار للكشف السريع عن الإجراءات غير المتوافقة واحتوائها”، دون أن تذكر ما إذا كان النموذج يعتمد أساسًا تقنيًا مختلفًا.

وأثار التقرير موجة قلق واسعة بين باحثي سلامة الذكاء الاصطناعي على وسائل التواصل الاجتماعي. وقال ريان غرينبلات، كبير العلماء في مختبر أبحاث Redwood، وهو أحد ثلاثة خارجيين سمحت لهم OpenAI بالتحقيق في حادثة اختراق منصة هاغينغ فيس، إن قرار استخدام بنية أكثر غموضًا في “أسترا” قد يكون “أسوأ تطور لسلامة وأمن الذكاء الاصطناعي حتى تاريخه”. وأوضح أن التحقيق في حادثة هاغينغ فيس اعتمد بشكل كبير على سلاسل أفكار النماذج، محذرًا من أن التفكير الأقل وضوحًا قد يسمح للأنظمة بوضع وتنفيذ استراتيجيات يصعب على الباحثين اكتشافها. ويتمثل قلق غرينبلات الأساسي، الذي يشاركه فيه خبراء آخرون، في أن المنافسة على تطوير أنظمة أكثر تقدمًا قد تؤدي إلى “سباق نحو القاع في البنى التي قد تكون كارثية لقدرتنا على الإشراف على الذكاء الاصطناعي ومراقبته”، مع تبنّي المطورين أنظمة معتمة بشكل متزايد لكسب ميزة تنافسية، حتى تصبح النماذج صعبة أو حتى مستحيلة المراقبة. وأضاف أن تصريحات OpenAI جعلته قلقًا من أن الشركة “تخطط للاعتماد بشكل كبير للغاية على مراقبة سلسلة الأفكار لضمان السلامة”.

وردّ كبار مسؤولي OpenAI على الانتقادات في سلسلة منشورات على وسائل التواصل الاجتماعي، لم تنفِ صراحة استخدام الشركة للتقنية. وأعرب بعضهم عن مخاوفهم من احتمال وجود ذكاء اصطناعي غير قابل للمراقبة أو سباق نحو القاع من حيث الشفافية، بمن فيهم باحثو السلامة في الشركة ميكاه كارول وتوميك كورباك، ورئيس الشؤون الاستراتيجية دين بول، وكبير العلماء ياكوب باسوكي، الذي أعرب عن مخاوفه من “سباق نحو عدم قابلية المراقبة بدأ بتقارير مشوشة”. وأشار باسوكي إلى أن عمق حسابات “أسترا”، وهو مقياس لعدد الخطوات التي يمكنه تنفيذها داخليًا، يقع “ضمن عامل اثنين مقارنة بـGPT-4″، مما يشير إلى أن زيادة الغموض أقل دراماتيكية مما توحي به بعض ردود الفعل. ولم ترد OpenAI على طلب تأكيد أو نفي استخدام المحولات الحلقية في “أسترا”، وأحالت إلى منشور باسوكي على منصة إكس، حيث كتب: “عملت OpenAI على الحفاظ على مراقبة سلسلة الأفكار واستخدامها منذ نماذج التفكير الأولى لدينا”، مضيفًا أن هذه المراقبة “هشة ولسوء الحظ تتجه في اتجاه سلبي لأسباب لا تتعلق بالتغيرات المعمارية سأكتب عنها قريبًا”.

المصدر: theverge