كاليفورنيا تطرح «مفتاح إيقاف» لنماذج الذكاء الاصطناعي مع تعثر تحرك الكونغرس

أصدر حاكم كاليفورنيا غافين نيوسوم، الجمعة، أمرًا تنفيذيًا يدفع الولاية إلى تصدر جهود الرقابة على الذكاء الاصطناعي، ويفتح الباب أمام بحث إلزام الشركات بإضافة «مفتاح إيقاف» إلى نماذج الذكاء الاصطناعي المتقدمة، في وقت تبدو فيه فرص تحرك الكونغرس الأميركي قبل انتخابات منتصف الولاية محدودة.

وينص الأمر على تشكيل مجموعة من الخبراء لتقديم توصيات خلال شهرين بشأن سبل تعزيز إجراءات سلامة الذكاء الاصطناعي في قوانين الولاية. ويطلب نيوسوم من المجموعة بحث إمكان إلزام شركات الذكاء الاصطناعي بالسماح لجهات تحقق مستقلة بالعمل داخل مواقعها وإجراء عمليات تدقيق دورية.

تدقيق مستقل ومفتاح إيقاف قابل للاختبار

كما ستبحث المجموعة إخضاع تقارير الشفافية وتقييمات المخاطر التي تقدمها الشركات لمعايير يضعها مدققون مستقلون، وإنشاء «مفتاح إيقاف» يجري التحقق بانتظام من فعاليته.

ويوجه الأمر التنفيذي الشركات أيضًا إلى الإبلاغ عن «حوادث فقدان السيطرة» باعتبارها حوادث خطيرة تمس السلامة، ومن أمثلتها الهجوم الذي استهدف منصة هاغينغ فيس، ونُسب إلى شركة أوبن إيه آي.

وجّه نيوسوم إحدى وكالات الولاية إلى تسريع تنفيذ قانونين حديثين وقّعهما؛ يضع أولهما إطارًا لعمل جهات التحقق المستقلة في تقييم سلامة الذكاء الاصطناعي، فيما ينشئ الثاني سجلًا لمدققي أنظمة الذكاء الاصطناعي.

تحرك كاليفورنيا في غياب تشريع اتحادي

وجاء الأمر بعدما شهد الكونغرس نقاشات مكثفة بشأن عدد من مشاريع القوانين، عقب منشور للباحث السابق في شركة أنثروبيك، جاكوب كوكسون، حذّر فيه من أن احتمال أن يتسبب الذكاء الاصطناعي في «قتل جميع البشر» خلال عقد يتجاوز 10 في المئة.

لكن فرص إقرار قانون اتحادي جوهري تبدو ضعيفة في الوقت الراهن؛ إذ إن مجلس النواب في عطلة حتى نوفمبر/تشرين الثاني، فيما تجعل انتخابات منتصف الولاية المرتقبة تمرير تشريع كبير في مجلس الشيوخ أمرًا غير مرجح بالقدر نفسه.

في المقابل، قال الرئيس الأميركي دونالد ترامب إن الذكاء الاصطناعي لا يحتاج إلى أي ضوابط أو «حواجز حماية» سوى «رئيس قوي وذكي، يتمتع بمعدل ذكاء مرتفع»، مضيفًا أن الولايات المتحدة تملك هذا النوع من القيادة «بوفرة».

ويطرح نيوسوم أمره التنفيذي نموذجًا للتحرك على المستوى الاتحادي، داعيًا الكونغرس وترامب إلى «مراجعة إطار الولاية واعتماده»، أو استخدام تنظيماتها الرائدة «حدًا أدنى لا سقفًا» لمصلحة جميع الأميركيين وسلامتهم.

وقال نيوسوم في بيان إن «الفشل الذريع للحكومة الاتحادية في إنشاء أي شكل من أشكال الرقابة أو المساءلة الفعالة عن الذكاء الاصطناعي يجب أن يثير قلق كل أميركي»، لا سيما أن رؤساء شركات الذكاء الاصطناعي أنفسهم يطالبون بالتنظيم. وأضاف أن كاليفورنيا لن تنتظر، وستسرّع العمل على رقابة «جوهرية ومسؤولة» على الذكاء الاصطناعي، مؤكدًا أن الولاية ستتحرك بتأنٍ، لكن بوتيرة عاجلة، لأن المخاطر كبيرة جدًا بحيث لا تسمح بتأجيل التحرك.

ولا يبدو أن الأمر التنفيذي سيكون آخر تحرك للولاية في هذا الملف. فقد طرح نيوسوم، خلال مقابلة مع موقع «بوليتيكو» الأربعاء، احتمال دعوة المشرعين في كاليفورنيا إلى عقد جلسة تشريعية خاصة لمناقشة الذكاء الاصطناعي، بالتوازي مع احتمال اتخاذ إجراءات تنفيذية إضافية.

المصدر: theverge