دعا ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، إلى افتراض احتمال اختراق نماذج الذكاء الاصطناعي المتقدمة واحتوائها منذ البداية، مع إتاحة إيقافها أو تعليق عملها فورًا بواسطة شخص مخوّل، حتى أثناء تنفيذها مهمة.
وطرح ناديلا رؤيته في منشور مطول على منصة «إكس»، تناول فيه المخاطر التي تفرضها النماذج شديدة التطور وسبل الحد منها. وقال إن العالم لم يعد يستطيع التعامل مع الذكاء الاصطناعي باعتباره «مجموعة من الصناديق السوداء المتداخلة» نكتفي بقبول نصائحها وأفعالها أو رفضها من دون معرفة ما يجري داخلها.
ودعا، بدلًا من ذلك، إلى بناء منظومة أكثر شفافية يمكن احتواء نماذجها ومراقبتها، وتترك وراءها «أدلة مقروءة بشريًا ومقاومة للعبث»، بما يسمح بفهم ما حدث والتحقق منه لاحقًا.
إيقاف النموذج أثناء تنفيذ المهمة
وتتوافق أجزاء كبيرة من مقترحات ناديلا مع توصيات متداولة في قطاع التكنولوجيا، مثل الكشف السريع عن الحوادث، وإجراء عمليات تدقيق مستقلة، واستخدام بيانات قابلة للتحقق، إلى جانب احتواء النماذج للحد من نطاق أفعالها.
إلا أن ناديلا بدا أكثر تشددًا في ما يتعلق بالاحتواء، إذ قال: «يجب أن نفترض أن النموذج مخترق، وأن نحتويه منذ البداية. فكروا في الأمر كأنه فرامل طوارئ. ينبغي أن يتمكن شخص مخوّل دائمًا من إيقاف النموذج مؤقتًا أو إغلاقه وهو في منتصف المهمة».
وأضاف أن النماذج الأكثر تقدمًا ستحتاج إلى تقنيات احتواء أكثر تطورًا، مشددًا على ضرورة وضع معايير موحدة لهذه التقنيات.، فإن الفكرة الأساسية في طرحه هي ألا يُترك النموذج قادرًا على مواصلة العمل من دون وسيلة بشرية مباشرة للتدخل.
كما استخدم ناديلا مرارًا تعبير «الذكاء الفائق» عند حديثه عن الذكاء الاصطناعي المتقدم.
المصدر: theverge