أعلن ديفيد روبنسون، الموظف السابق في فرق السلامة لدى شركة «أوبن إيه آي»، استقالته بعد انتقاده تسارع الشركة في تطوير نماذج الذكاء الاصطناعي واعتمادها، بحسب رأيه، على إضافة إجراءات السلامة بعد طرح النماذج بدلًا من دمجها منذ البداية.
وكتب روبنسون في مقال نشرته مجلة ذا أتلانتيك بعنوان «غادرت أوبن إيه آي لأن ثقافتها تدهورت»، أن أنظمة الذكاء الاصطناعي المتقدمة ينبغي تطويرها وفق معايير سلامة مماثلة لتلك المعتمدة في محطات الطاقة النووية وقطاع الطيران، بدلًا من إخضاعها لمنطق التجربة والخطأ.
«انتهى عصر التجربة والخطأ»
وانتقد روبنسون بشدة استراتيجية «النشر التكراري» التي تتبعها «أوبن إيه آي»، وهي نهج تطرح الشركة بموجبه النماذج أولًا، ثم تشدد إجراءات السلامة مع ظهور المشكلات. ويرى الموظف السابق أن هذا الأسلوب لم يعد كافيًا عند التعامل مع أنظمة الذكاء الاصطناعي المتقدمة.
وقال روبنسون إن «عصر التجربة والخطأ انتهى»، محذرًا من المخاطر التي قد تحملها تقنيات الذكاء الاصطناعي على البشرية.
عمل روبنسون في فرق السلامة لدى «أوبن إيه آي» لمدة ثلاثة أعوام ونصف، وكان من بين المشاركين في إعداد «إطار الاستعداد» الخاص بالشركة، كما أشرف على تقارير السلامة المرتبطة بإطلاق 12 نموذجًا حدوديًا.
لكنه قال إن وتيرة التطوير الأخيرة جعلت من الصعب على فرق السلامة مواكبة الإطلاقات المتتالية، مضيفًا: «بينما تركض الشركة من إطلاق إلى آخر، فإنها لا تصل، من وجهة نظري، إلى مستوى العناية المطلوب».
ويرى روبنسون أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من الفهم العلمي في مجال «المواءمة»، الذي يركز على جعل سلوك أنظمة الذكاء الاصطناعي متوافقًا مع أهداف البشر. وقال إن ذلك، إلى جانب وقائع لم تكن فيها ضوابط السلامة كافية أو أظهرت فيها الأنظمة التجريبية سلوكًا غير متوقع، أسهم في زيادة المخاوف داخل القطاع.
رد «أوبن إيه آي»
دافعت «أوبن إيه آي» عن نهجها، وقال متحدث باسم الشركة إن النماذج تُطوَّر بطريقة خاضعة للرقابة، مؤكدًا: «نحن نضمن ألا تصبح نماذجنا أكثر قدرة من المستوى الذي يمكننا إدارته وتأمينه بثقة. وعندما نحتاج إلى التباطؤ، نوقف التدريب أو نسحب النماذج».
ولا تقتصر الانتقادات المتعلقة بثغرات السلامة على «أوبن إيه آي»، إذ واجهت منافستها «أنثروبيك» انتقادات مماثلة. وأعادت استقالة روبنسون طرح النقاش داخل قطاع الذكاء الاصطناعي حول الموازنة بين سرعة تطوير النماذج ومستوى الأمان، فيما شدد الموظف السابق على ضرورة إعطاء خبرات السلامة والبحث العلمي أولوية أكبر.
المصدر: Sözcü