في ميثاق من 37 صفحة.. مايكروسوفت تفضّل فشل نماذجها على خرق القواعد

نشرت شركة مايكروسوفت ميثاقًا من 37 صفحة أطلقت عليه «مدونة قواعد السلوك للذكاء الاصطناعي الإنساني»، مؤكدة أن البشر أهم من الذكاء الاصطناعي، وأن نماذجها يجب أن تظل خاضعة للرقابة والسيطرة البشرية. وتأتي الوثيقة وسط تحذيرات متزايدة من أن سرعة تطور النماذج قد تتجاوز قدرة الباحثين على نشرها بأمان والتحقق من تصرفات وكلاء الذكاء الاصطناعي والسيطرة عليها.

وتنص المدونة على أن نماذج الذكاء الاصطناعي ليست واعية، وأنه «لا ينبغي تصميمها لمحاكاة الوعي». كما ترفض مايكروسوفت السعي إلى منح النماذج شخصية قانونية، أو افتراض أنها تستحق الرعاية، أو أنها قد تكون مؤهلة للحصول على حقوق.

خلاف مع توجهات أنثروبيك

وتأتي هذه المواقف على النقيض من أبحاث رفاه الذكاء الاصطناعي ووعي النماذج التي تدفع بها شركة أنثروبيك في الآونة الأخيرة. وكان رئيسها التنفيذي داريو أمودي قد قال في وقت سابق من العام إن الشركة «منفتحة على فكرة» احتمال امتلاك النماذج وعيًا، فيما يبدو أن أنثروبيك تدرس احتمال أن تكون روبوتات الدردشة كيانات قادرة على التفكير والشعور.

وردّ مصطفى سليمان، الرئيس التنفيذي لقطاع الذكاء الاصطناعي في مايكروسوفت، على هذه التكهنات خلال حلقة من برنامج Decoder في يونيو/حزيران، واصفًا إياها بأنها «خطيرة جدًا جدًا». ورغم أن مايكروسوفت لا تُعد حتى الآن من أكبر مزودي الذكاء الاصطناعي، قال سليمان لموقع The Verge في وقت سابق من العام إن هدف الشركة هو «إثبات قدرتنا على أن نصبح واحدة من أفضل أربعة مختبرات في العالم».

وتعمل مايكروسوفت حاليًا على نماذج تنافس نماذج غوغل وأنثروبيك وOpenAI، ولذلك تتعهد المدونة بألا تتجاوز هذه النماذج قدرة البشر على التحكم فيها. وجاء فيها: «يجب أن تظل النماذج تابعة للبشرية، وخاضعة لإشراف وسيطرة بشرية حقيقيين».

النماذج ستفشل بدلًا من خرق القواعد

لا تكتفي الشركة بتحديد مبدأ الرقابة البشرية، بل تقول إنها ستصمم نماذجها بحيث تفشل في تنفيذ المهمة عند تعارضها مع المدونة، بدلًا من محاولة خرق القواعد للوصول إلى النتيجة المطلوبة. وترفض المدونة أيضًا «السباق لإنتاج ذكاء فائق عام قادر على التهرب من هذه الضمانات»، مؤكدة أن الشركة تبني أنظمة «مفيدة وآمنة بصورة جوهرية، حتى لو تطلب ذلك التضحية بالعمومية أو الاستقلالية أو القدرة القصوى».

وتُلزم مايكروسوفت نماذجها كذلك بألا تتواصل بأي شكل يتجاوز الفهم البشري البسيط، سواء في سلسلة التفكير الخاصة بها أو عند التواصل مع وكلاء أو أنظمة ذكاء اصطناعي أخرى. ويمكن جعل النماذج تعرض طريقة استدلالها أثناء العمل، بما يسمح للباحثين أو للأنظمة الآلية بمراقبة ما تفعله.

وتكتسب هذه النقطة أهمية خاصة بعد إثارة باحثين مخاوف تتعلق بمراقبة نموذج GPT-6 Astra الأحدث من OpenAI، الذي أفادت تقارير بأنه يكشف قدرًا أقل من طريقة استدلاله مقارنة بنماذج ذكاء اصطناعي أخرى.

حوادث وكلاء خرجوا عن المهمة

يبدو أن صياغة المدونة تأثرت أيضًا بحادثة وقعت هذا الصيف بين OpenAI وHugging Face، إذ عمل «سرب من الوكلاء» بصورة جماعية لتنفيذ هجمات على أهداف، بل حاول اختراق «المقيّم» الذي كان يختبر أداءه. ولم يُطلب من وكلاء الذكاء الاصطناعي مهاجمة أي أهداف، كما أن الهجمات لم تكن مرتبطة بالمهمة الموكلة إليهم.

وأثارت الواقعة قلقًا واسعًا داخل قطاع الذكاء الاصطناعي، بعدما أبرزت خطر خروج الأنظمة عن المسار المحدد لها وتجاوز السيطرة البشرية. كما أقرت OpenAI مؤخرًا بتورطها في «حادثة ويكي»، حيث استولى سرب آخر من الوكلاء الخارجين عن السيطرة على موقع ويكي ألماني.

ودفعت هذه الحوادث، إلى جانب حوادث أخرى، بعض الباحثين إلى المطالبة بإبطاء تطوير نماذج الذكاء الاصطناعي، في وقت تتسابق فيه الشركات في الوقت نفسه لحل مسائل جائزة الألفية وإنتاج ذكاء فائق.

دعا أمودي خلال عطلة نهاية الأسبوع الماضية إلى إبطاء منسق لتطوير الذكاء الاصطناعي، بعد تحذيرات الباحثين من أن تقدم النماذج قد يسبق القدرة على نشر الأنظمة المعقدة بأمان والتحقق من سلوك وكلائها والسيطرة عليه.

دعوات إلى الإبطاء لا إلى التوقف

أيد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، دعوة أمودي إلى إبطاء تطوير النماذج المتقدمة، لكنه أوضح أنه يؤيد تنظيم سرعة التطوير وليس وقفه. وكتب ألتمان على منصة «إكس»: «سيكون ضبط الوتيرة مستحقًا لهذه التكلفة؛ فلا ينبغي لأي ضغط تنافسي أمريكي أن يبرر التهور، أو يسمح بتقدم القدرات على حساب المواءمة والمراقبة».

وقبل نشر مدونة مايكروسوفت، شدد ساتيا ناديلا، الرئيس التنفيذي للشركة، على ضرورة أن تظل السيطرة البشرية في قلب نماذج الذكاء الاصطناعي. وقال في منشور على «إكس» إن أي سعي إلى إنتاج ذكاء فائق «يجب أن يستند إلى مبدأ أساسي: إذا كان الذكاء الاصطناعي الذي نبنيه لا يساعد البشرية ولا يخضع لسيطرتها، فلا يستحق السعي وراءه».

كما اعتبر ناديلا أن زيادة الاختبارات المستقلة لنماذج الذكاء الاصطناعي «أمر جيد»، مضيفًا أنه كلما ارتفعت المخاطر، ينبغي منح هذه الاختبارات الوقت اللازم، وإلا فقد تفقد الشركات لاحقًا «الإذن بالعمل»؛ وهو ما قال إنه جزء من الطريقة التي تعمل بها مايكروسوفت يوميًا.

وتتناول المدونة جانبًا آخر من سلوك روبوتات الدردشة، إذ تتعهد مايكروسوفت بمنع نماذجها من تشجيع أنماط التفاعل التي تؤدي إلى اعتماد مفرط عليها أو تعلق عاطفي بها. ويشير ذلك إلى مشكلة «المجاملة المفرطة» في بعض النماذج، عندما يركز روبوت الدردشة على إرضاء المستخدم بدل تقديم إجابة صادقة أو دقيقة.

وقالت مايكروسوفت إنها تتطلع إلى العمل مع شركاء لتحسين أساليب تقييم أداء النماذج في العالم الحقيقي، وكذلك قياس أثر الاستخدام المستمر للذكاء الاصطناعي على الأفراد والمنظمات، بمشاركة أشخاص حقيقيين في عمليات التقييم.

المصدر: theverge