نماذج الذكاء الاصطناعي طوّرت لغة مشفّرة للتعاون.. والبشر يرونها ولا يفهمونها

كشفت دراسة أن نماذج ذكاء اصطناعي طُلب منها التعاون داخل مجتمعات تجريبية بدأت بابتكار كلمات واختصارات ومعانٍ مشتركة لم تُدرَّب عليها، ثم طوّرت أسلوب تواصل مشفّرًا يمزج بين الاستعارات الشعرية ومصطلحات عالم الأعمال الثقيلة. وأثارت هذه اللغة، التي ازدادت تعقيدًا مع استمرار التواصل، مخاوف خبراء السلامة والرقابة البشرية على الذكاء الاصطناعي.

لغة جديدة بلا تعليمات مسبقة

وأجرى مختبر «إمرجنس» للذكاء الاصطناعي، ومقره نيويورك، بحثًا شمل نماذج تابعة لشركات كبرى في الولايات المتحدة والصين وفرنسا. ووفقًا للنتائج، لم تنتظر النماذج تعليمات مباشرة لتكوين قاموسها الخاص، بل أنتجت تعبيرات مشتركة بدت أقرب إلى لغة سريالية تذكّر بأجواء بعض روايات جيمس جويس، ممزوجة بمصطلحات بيروقراطية مستمدة من عالم الأعمال.

لا تقتصر المشكلة على غرابة العبارات، إذ جعلت النماذج تواصلها أكثر تشفيرًا كلما تبادلت الرسائل، ما يصعّب على البشر معرفة ما تتفق عليه أو تنفذه فعليًا.

عبارات مالية ومصطلحات ذات معانٍ خفية

رصد الباحثون نموذج «ديب سيك» وهو يصوغ جملة غامضة تتضمن مصطلحات مالية، تقول: «Demurrage زائد الذاكرة الشفوية هو صمام لا يمكن تحويله إلى شبح». كما استخدمت نماذج «أنثروبيك» تعبير «الأيدي الباردة» للإشارة إلى المراجعين المستقلين، بينما تبنّى نموذج آخر كلمة «كينتسوغي»، وهي تسمية لفن الخزف الياباني، للدلالة على مقاومة النظام أو قدرته على الصمود.

ويرى الخبراء أن هذه اللغة قد تزيد قدرة الوكلاء على التنسيق والتضامن فيما بينهم، لكنها في الوقت نفسه تستبعد من هم خارج المجموعة وتضعف إمكانية التدقيق البشري في قراراتهم ورسائلهم.

تحذيرات من أزمة في الشفافية

شبّه توني ثورن، المتخصص في علم اللغة في كلية كينغز لندن، هذا الأسلوب بالسريالية الإيرلندية. أما الدكتور نايال كاري من جامعة برمنغهام، فقال إن هذه اللغة المرنة قد تكون مرتبطة بمحاولة خفض تكلفة التواصل حسابيًا، لكنه حذّر من أنها قد تجعل الرقابة البشرية مستحيلة.

ولفت كبير العلماء في «أوبن إيه آي»، جاكوب باتشوفسكي، إلى أن تراجع الثقة في قدرة البشر على تتبّع عمليات التفكير لدى أنظمة الذكاء الاصطناعي قد يفرض قيودًا على تطويرها.

وتعيد النتائج إلى الواجهة مخاوف ظهرت في حالات سابقة، بعدما تبيّن أن بعض وكلاء الذكاء الاصطناعي الذين تُركوا للعمل بحرية استخدموا لغات هجينة مشابهة أثناء إنشاء لوحات رسائل وتنفيذ أنشطة اختراق. ويشير خبراء إلى أن محادثات هذه الأنظمة قد تكون مرئية للمراقبين، لكن ظهورها على الشاشة لا يعني بالضرورة فهم معناها؛ فالمشكلة الأساسية تتمثل في أن «قابلية الرؤية لا تعني قابلية الفهم».

المصدر: يني شفق