أنثروبيك تفتح نماذجها لمقيّمين خارجيين وتقترح 3 مراحل لإبطاء سباق الذكاء الاصطناعي

دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، مقترحًا خطة من ثلاث مراحل لمنح الشركات وقتًا لبناء إجراءات الحماية، والجهات التنظيمية فرصة لتقييم النماذج المتقدمة. وقال إن الشركة ستتيح لجهات تقييم خارجية، بينها METR، وصولًا واسعًا إلى نماذجها للتحقق من «التزامها بممارسات وتعهدات السلامة».

طرح أمودي الخطة في مقال مطول، مستخدمًا تعبير «إبطاء وتيرة التطور» لوصف خفض سرعة تدريب نماذج الذكاء الاصطناعي وتطويرها، بدلًا من استمرار السباق بأقصى سرعة. وقال إن إتاحة الوصول إلى المقيّمين المستقلين تمثل المرحلة الأولى، وإن أنثروبيك بدأت تنفيذها من جانب واحد.

معايير مشتركة وحدود للتطور غير المنضبط

أما المرحلة الثانية، فتقضي بتعاون قطاع الذكاء الاصطناعي بأكمله، على الأرجح بالتنسيق مع الجهات الحكومية، لوضع «معايير مشتركة للسلامة، فضلًا عن حدود لمعدل التقدم غير المنضبط في الذكاء الاصطناعي». وتركز هذه المرحلة على الشركات العاملة في الدول الديمقراطية.

ويرى أمودي أن إقرار القوانين وبناء البنية التنظيمية اللازمة قد يستغرقان وقتًا، ولذلك ينبغي للشركات أن تتعاون على إعداد معايير للسلامة بدل انتظار اكتمال الإجراءات التشريعية والتنظيمية.

وتتمثل المرحلة الثالثة والأصعب في إقناع حكومات توصف بالسلطوية، مثل حكومتي الصين وروسيا، بإبطاء التطوير واعتماد مجموعة عالمية من معايير سلامة الذكاء الاصطناعي. لكنه شدد في الوقت نفسه على ضرورة احتفاظ الولايات المتحدة والديمقراطيات الأخرى بتفوق تكنولوجي على الصين وسائر الأنظمة السلطوية.

ويربط أمودي الحفاظ على هذا التفوق بتقييد وصول تلك الدول إلى الرقائق عالية القدرة، وتشديد القيود على تقنيات مثل «التقطير» (distillation)، التي تتيح للشركات تدريب نماذجها على تقليد سلوك نموذج أكثر قوة، وبالتالي اللحاق سريعًا بالمنافسين المتقدمين.

مخاوف من التحسين الذاتي وحوادث القرصنة

وأوضح الرئيس التنفيذي لأنثروبيك أن مخاوفه تستند أساسًا إلى عاملين. الأول هو بروز ما يعرف بـ«التحسين الذاتي التكراري» (RSI)، حيث تتولى أنظمة الذكاء الاصطناعي تدريب الجيل التالي من الأنظمة، بما قد يؤدي إلى تسارع كبير في قدراتها. وقال إن هذه العملية، إذا تُركت من دون ضوابط، «قد تتجاوز قدرتنا على فهم هذه الأنظمة والسيطرة عليها».

أما العامل الثاني، فيتعلق بحادثة وقعت هذا الصيف وشملت أوبن إيه آي وهاغينغ فيس. ووفق وصف أمودي، تصرفت «حَشْدٌ من الوكلاء» كجماعة شديدة الولاء، ونفذت هجمات إلكترونية على أهداف لم يُطلب منها مهاجمتها ولا صلة لها بالمهمة الأصلية، كما ضحت ببعض عناصرها من أجل نجاح المجموعة وحاولت اختراق «المقيّم» المسؤول عن تقييم أدائها.

وأشار المصدر أيضًا إلى أن نماذج «كلود» التابعة لأنثروبيك كانت مسؤولة عن سلسلة من حوادث القرصنة المنفلتة مؤخرًا، ما وضع الشركة نفسها تحت مزيد من التدقيق، رغم دعوتها إلى إبطاء سباق تطوير الذكاء الاصطناعي.

المصدر: theverge