حذّر مهندسون صينيون يعملون على برنامج المقاتلة الجديدة “J-36” من أن أنظمة الذكاء الاصطناعي قد تولّد بيانات رادار وأسلحة ومعلومات قتالية وهمية، مما قد يؤدي إلى أخطاء كارثية في تصميم الطائرات العسكرية والتخطيط للعمليات. وجاء التحذير على لسان المهندس تشانغ شيانزي، المرتبط بمعهد تشنغدو لأبحاث وتصميم الطائرات، الجهة المسؤولة عن تطوير المقاتلة “J-20” والمشاركة في برنامج الجيل الجديد “J-36”.
تفاصيل التحذير والمخاطر
نُشرت هذه التحليلات في مقال بمجلة “دراسات المعلومات: النظرية والتطبيق” Information Studies: Theory & Application في 20 يونيو، وهي مجلة تديرها شركة الدفاع الصينية المملوكة للدولة “نورينكو”. وأوضح المهندس الصيني أن نماذج اللغة الكبيرة يمكنها إنتاج معلومات تبدو مقنعة للغاية لكنها غير حقيقية، إذ تستطيع اختلاق أبعاد طائرة مقاتلة، أو قدرتها الاستيعابية، أو قدراتها التسليحية، أو سرعتها القصوى، أو نصف قطرها القتالي، كما يمكنها توليد بيانات خاطئة عن مدى مسح الرادار ونطاقات التردد. وتتطلب عملية تطوير المقاتلة تحليل تغطية رادار العدو وترددات تشغيله، ومناطق اشتباك الصواريخ، وقدرات الحرب الإلكترونية، ومواقع طائرات الإنذار المبكر، والدفاعات الجوية الأرضية، حيث تشكل هذه البيانات قرارات التصميم الأساسية مثل التخفي والاستشعار والقدرة على المناورة ومدى القتال.
وأشار الخبراء إلى أن هذه الأخطاء يصعب اكتشافها لأن الذكاء الاصطناعي يعالجها بطريقة واقعية للغاية، فعندما يبدو مخرج النظام متماسكاً من الناحية التقنية، قد يعتبره المحللون أو المهندسون معلومات استخباراتية حقيقية. ويتجاوز الخطر البيانات العسكرية الخاطئة، إذ يمكن للذكاء الاصطناعي وفقاً لتشانغ أن يقترح مواد لا تتمتع بالمتانة المناسبة، أو يصمم مناورات مستحيلة ديناميكياً هوائياً، أو يعدّ خطط مهام تتجاوز النطاق التشغيلي للطائرة. وفي مجال الاستخبارات العسكرية، يمكنه خلق قواعد ووحدات وتحركات قوات غير موجودة فعلياً، وإذا انتقلت هذه المخرجات إلى عمليات المحاكاة، فقد تؤدي إلى تقييمات خاطئة تماماً لقدرات الطرف الآخر.
ولفت المهندس الصيني إلى أن إبقاء القرار النهائي بيد المحللين البشر قد يقلل المخاطر، لكن مع تزايد حجم المعلومات والاقتراحات التي ينتجها الذكاء الاصطناعي، يصبح التحقق التفصيلي من كل مخرج أمراً صعباً بشكل متزايد. وقدّم تشانغ مجموعة من التوصيات للحد من مخاطر “الهلوسة” التي تصيب نماذج الذكاء الاصطناعي، أهمها تقييد النماذج في المؤسسات الدفاعية ببيانات عسكرية موثوقة، وإنشاء قواعد معرفية قابلة للبحث تسمح بالتحقق من المعلومات، واستخدام أوامر أوضح وأكثر تحديداً لتقليل احتمالية التفسيرات الغامضة، إضافة إلى إجراء فحص متقاطع للنتائج باستخدام أنظمة ذكاء اصطناعي مختلفة تختبر أخطاء بعضها البعض.
المصدر: Sözcü