باحثون في مختبرات الذكاء الاصطناعي يحذرون من انقراض البشر.. وتقدير يصل إلى 50%

حذّر باحثون حاليون وسابقون في مختبرات كبرى للذكاء الاصطناعي من احتمال أن تؤدي الأنظمة فائقة الذكاء إلى انقراض البشر، وقدّر أحدهم هذا الاحتمال بنحو 50%، بينما رأى آخر أن نسبة 10% فقط تمثل خطراً مرتفعاً للغاية.

جاءت التحذيرات في سلسلة من مقاطع الفيديو جمعتها وأطلقتها منظمة «باليسايد ريسيرتش» (Palisade Research)، وهي جهة غير ربحية تقول إنها تدرس قدرات أنظمة الذكاء الاصطناعي ودوافعها، عبر موقع frominside.ai. وتضم السلسلة 12 مقابلة مع باحثين حاليين وسابقين من أوبن إيه آي وغوغل وأنثروبيك.

تقديرات متفاوتة لخطر انقراض البشر

قال جيفري إيرفينغ، الباحث السابق في أوبن إيه آي وغوغل ديب مايند، خلال مقابلة جديدة، إن «احتمال انقراض البشر يساوي تقريباً رمية قطعة نقدية»، وفق تقديره الشخصي. وانضم إليه عدد من المشاركين في التحذير من إمكانية أن تقود أنظمة الذكاء الاصطناعي إلى انقراض البشر.

وقال نيل ناندا، عالم الأبحاث في غوغل ديب مايند، إن هناك «احتمالاً لا يقل عن 10% بأن يتسبب ذلك في انقراض البشر»، مضيفاً أن هذه النسبة «مرتفعة بشكل مبالغ فيه للغاية».

وسبق أن أُشير إلى تصريحات ناندا وإيرفينغ في تقرير عن مجتمع «سلامة الذكاء الاصطناعي»، الذي لا يزال يواجه صعوبة في تحديد المقصود بهذا المصطلح بدقة، أو ما ينبغي فعله لمعالجة المخاطر المرتبطة به. ولا تقدم المقاطع المنشورة حلاً موحداً لهذه المخاطر.

تعرض المقاطع مواقف أشخاص يعملون داخل الصناعة نفسها ويشاركون في تطوير التكنولوجيا التي يحذرون من عواقبها.

«قوة تكاد تكون إلهية»

ذهب دانيال كوكوتايلو، الباحث السابق في أوبن إيه آي، إلى أبعد من ذلك، قائلاً إن الذكاء الاصطناعي فائق الذكاء «سيتمتع عملياً بقوة تكاد تكون إلهية». وأضاف: «لسوء الحظ، لا نعرف إطلاقاً كيف نسيطر عليه. ولذلك، من المحتمل ألا يتمكن أحد من السيطرة عليه. هذا خطر يطابق تماماً ما يبدو عليه، ويجب ألا نسمح بحدوثه».

ولا تكتفي المنصة بعرض المقابلات كاملة، بل تجمع أيضاً مقاطع يتحدث فيها باحثون مختلفون عن موضوعات متشابهة، من بينها ما إذا كانت هذه التحذيرات مجرد مبالغة أو وسيلة تسويقية، ولماذا يواصل هؤلاء الأشخاص العمل في مجال يرونه بهذه الدرجة من الخطورة.

لماذا يواصلون العمل في هذا المجال؟

قالت ماري فونغ، الباحثة في غوغل، في أحد المقاطع: «أعتقد أنه ينبغي لك بالتأكيد أن تشك في ما أقوله، لأن المختبر يدفع لي».

من جهته، أوضح ناندا أنه سيترك عمله إذا لم يكن مقتنعاً بأن أبحاثه تقلل المخاطر الوجودية بشكل مباشر، قائلاً: «لو لم أؤمن بأن عملي يقلل هذه المخاطر الوجودية بصورة مباشرة، لاستقلت. هذه الشركات لن تتوقف عن صنع هذه الأنظمة لمجرد أنني استقلت».

وتعرض السلسلة موقفاً يتبناه بعض العاملين في القطاع: مواصلة تطوير أنظمة قد تنطوي على مخاطر قصوى، مع محاولة الحد من تلك المخاطر من داخل المختبرات نفسها، في ظل عدم وجود حل موحد للتعامل معها.

المصدر: theverge