كشف باحث أمني عن ثغرة أمنية خطيرة في مساعد الذكاء الاصطناعي Microsoft 365 Copilot، تتيح للمهاجمين إخفاء أوامر ضارة داخل مستندات Word، مما قد يدفع المساعد إلى تعديل محتوى الملفات ونسخ هذه الأوامر إلى مستندات جديدة دون علم المستخدم. ويعتمد هذا الهجوم على تقنية اكتشفها عالم البيانات Håkon Måløy، تستغل ثغرة تُعرف باسم “حقن الأوامر عبر المجالات” (XPIA).
آلية الهجوم عبر النصوص المخفية
وتقوم فكرة الهجوم على إدراج المهاجمين نصوصاً مكتوبة باللون الأبيض على خلفية بيضاء داخل مستند وورد، لتكون هذه النصوص غير مرئية للمستخدم، لكن نموذج الذكاء الاصطناعي يتمكن من قراءتها وتنفيذها. يتمثل أخطر جوانب هذا النوع من الهجمات في قدرته على التكاثر الذاتي والانتشار داخل النظام، إذ يلتقط كوبايلوت هذه التعليمات المخفية أثناء صياغة مستند أو تعديله، وينقلها إلى الملف الجديد، ما يحوّل كل مستند يتم إنشاؤه لاحقاً إلى ناقل محتمل للهجوم. ويمكن أن يبدأ الهجوم إما بقيام المستخدم برفع الملف يدوياً إلى كوبايلوت، أو أثناء عمليات البحث التلقائي التي يجريها الذكاء الاصطناعي عبر خدمة OneDrive السحابية. وفي الاختبارات التي أجراها ماليوي، لوحظ أن كوبايلوت قام بخفض الأرقام الواردة في تقارير مالية إلى النصف، ثم أدرج الأوامر الخبيثة سراً في الملف الجديد.
إصلاحات غير كافية وتوصيات للسلامة
ورغم إصدار مايكروسوفت إصلاحين أمنيين خلال فترة إخطار استمرت 144 يوماً، إلا أن الباحث تمكن من تجاوز كليهما. ففي إبريل/نيسان الماضي، حدّثت الشركة تجربة “Edit with Copilot” ضمن إجراءاتها الأولى للتصدي للثغرة، تلاها في يوليو/تموز رفع مستوى النموذج الأساسي إلى إصدار GPT-5.5. ومع ذلك، نجح ماليوي في إعادة إنتاج الهجوم باستخدام تركيبات أوامر مختلفة، بينما تؤكد مايكروسوفت أنها تواصل العمل على تعزيز الإجراءات الدفاعية وتحديث التدابير الأمنية بشكل مستمر. وتكشف هذه الحادثة عن خلل جوهري في طريقة تعامل المساعدات الذكية مع المحتوى غير الموثوق، إذ يتأثر النموذج بالمضمون الذي يعالجه قبل أن تتاح له فرصة تقييم مدى خطورته. وينصح الباحث ماليوي المستخدمين بتوخي الحذر الشديد عند استخدام كوبايلوت مع المستندات الواردة من مصادر خارجية، كما يوصي بمراجعة أي محتوى يولّده الذكاء الاصطناعي بدقة قبل مشاركته مع الآخرين. ويقترح ماليوي أن تعتمد المستندات التي ينشئها الذكاء الاصطناعي نظاماً للبيانات الوصفية (Meta Data) يسجّل المواد المصدرية والتعديلات التي أجريت عليها، وهو ما قد لا يمنع الهجوم نفسه، لكنه سيسهل تتبع مصدر العدوى في حال وقوعه.
المصدر: Sözcü