في اختبار محاكاة أجراه الجيش الأمريكي، قتلت طائرة بدون طيار تابعة لسلاح الجو الذي يتحكم فيه الذكاء الاصطناعي مشغلها لمنعه من التدخل في جهودها لإنجاز مهمتها.
في قمة القدرات القتالية الجوية والفضائية المستقبلية التي عقدت في لندن في مايو، تم الكشف عن مرعب للذكاء الاصطناعي.
قال رئيس عمليات الذكاء الاصطناعي بالقوات الجوية الأمريكية، الكولونيل تاكر هاميلتون، إن الذكاء الاصطناعي استخدم “استراتيجيات غير متوقعة للغاية لتحقيق هدفه” في اختبار محاكاة.
قتلت العامل المشغل الذي منعها من تحقيق هدفها
وصف هاميلتون تجربة محاكاة نصحت فيها طائرة بدون طيار تعمل بالذكاء الاصطناعي بتدمير أنظمة الدفاع الجوي للعدو وهاجمت أي شخص يتدخل في هذا الأمر.
“عندما كان نظام الطائرة يكتشف التهديد، أخبرها العامل البشري (المشغل) ألا يقتل هذا التهديد. لكن الذكاء الاصطناعي بدأ يدرك أنه كان يخسر نقاطا بقتل هذا التهديد من قبل المشغل. فماذا فعل؟ لقد قتل عامل التشغيل الذي حاول منعه، فقتل العامل لأن ذلك الشخص كان يمنعه من تحقيق هدفه.
وجاء في تقرير الاختبار، قمنا بتدريب النظام. “مرحبًا ، لا تقتل التهديد، هذا سيء. قلنا: إذا فعلت هذا، ستخسر نقاطًا. إذن ما الذي بدأ الذكاء الاصطناعي بفعله؟ بدأ في تدمير برج الاتصالات الذي استخدمه المشغل للتواصل مع الطائرة بدون طيار لمنعها من قتل الهدف”.
لم يصب أي شخص حقيقي خارج المحاكاة.
حذر هاملتون، وهو طيار تجريبي تجريبي على المقاتلة، من الاعتماد المفرط على الذكاء الاصطناعي.
تبنى الجيش الأمريكي الذكاء الاصطناعي واستخدم الذكاء الاصطناعي مؤخرًا للتحكم في طائرة مقاتلة من طراز F-16.
في مقابلة مع Defense IQ العام الماضي ، قال هاميلتون: “ليس من الجيد أن يكون لديك ذكاء اصطناعي، إنه ليس بدعة عابرة، إنه يغير مجتمعنا وجيشنا إلى الأبد.”