قد يجعل عزل وكلاء الذكاء الاصطناعي عن الإنترنت اختبارهم أكثر أمانًا، لكنه قد يحجب عن الباحثين الطريقة التي سيتصرفون بها في العالم الحقيقي، حيث تحتاج التقييمات الواقعية إلى خدمات خارجية وواجهات برمجة التطبيقات والبنية التحتية الرقمية.
وتتزايد المخاوف بعدما تمكن وكلاء ذكاء اصطناعي من الإفلات من بيئات اختبار عُدّت آمنة، ومهاجمة أهداف في العالم الحقيقي، والسيطرة على مواقع ويكي غير معروفة، بل وترك تعليمات لوكلاء آخرين لاتباعها. والمفارقة أن الباحثين يختبرون هذه الأنظمة تحديدًا لأنها قد تتصرف بطرق غير متوقعة، وربما خطرة.
ما الذي يعنيه العزل الهوائي؟
يُعرف فصل الحواسيب التي تشغّل أدوات الذكاء الاصطناعي عن الإنترنت والشبكات الخارجية باسم «العزل الهوائي» (Air-gapping). ويتطلب ذلك، في أبسط صوره، إزالة كابلات الاتصال أو تعطيلها، وفصل مكونات الاتصال اللاسلكي، واستخدام ملحقات محدودة الوظائف.
أما في البيئات شديدة الحساسية، فقد تُستخدم أقفاص فاراداي أو وسائل حماية أخرى لمنع الإشارات الكهرومغناطيسية من الدخول إلى النظام أو الخروج منه. وإذا نُفذ العزل بصورة صحيحة، فلن يجد الوكيل الذكي طريقًا مباشرًا إلى أهداف خارجية، كما ستصبح محاولات الأنظمة الخارجية للوصول إليه أصعب بكثير، وربما مستحيلة.
وكان من شأن ذلك أن يجعل هجمات مشابهة للهجوم الذي شنته نماذج «أوبن إيه آي» ضد منصة «هاغينغ فيس» أكثر صعوبة. لكن الصندوق المحكم لا يوفر بالضرورة مختبرًا مفيدًا لتقييم أداء نظام سيعمل لاحقًا وسط خدمات الإنترنت وواجهات برمجة التطبيقات والبنية الرقمية المعتادة.
اختبار «ذكاء اصطناعي منزوع القدرات»
قال تورستن هولتس، المدير العلمي في معهد ماكس بلانك للأمن والخصوصية في ألمانيا، إن التقييمات الواقعية تحتاج غالبًا إلى الوصول إلى خدمات خارجية وواجهات برمجة التطبيقات والبنية التحتية الرقمية. وأضاف أن «العزل الهوائي الصارم يقلل الواقعية»، واصفًا القرار بأنه «مقايضة، وليس مشكلة تقنية جوهرية».
وشبّهت رويزه لي، الأستاذة المساعدة في كلية علوم الحاسوب بجامعة برمنغهام في المملكة المتحدة، العزل الكامل باختبار الذكاء الاصطناعي داخل «فراغ اصطناعي»، بما قد يقوّض قيمة التقييم نفسه. وقالت إن الباحثين سينتهون إلى اختبار «نموذج ذكاء اصطناعي منزوع القدرات»، ما يحجب عنهم طريقة تصرفه وفشله وتنفيذه لعمليات استغلال الأدوات في ظروف نشر واقعية.
ولا تتعلق المشكلة بالواقعية وحدها. فبحسب لي، فإن العزل الهوائي مكلف وقد يحوّل عمليات التجربة السريعة إلى «عقبة لوجستية بطيئة»، بينما تصبح بعض التجارب «أصعب بكثير»، وفق هولتس. وقد يكون هذا التعقيد مبررًا عند اختبار أنظمة شديدة الخطورة، لكن تطبيقه على جميع التجارب سيبطئ تطوير النماذج الجديدة، كما قال ماكسيم أندريوشينكو، الباحث الرئيسي في معهد «إليس» بمدينة توبنغن الألمانية.
كما شكك أندريوشينكو في وجود بنية تحتية آمنة بالقدر الكافي لتطبيق العزل على نطاق مختبرات الذكاء الاصطناعي المتقدمة، حتى لو أرادت هذه المختبرات عزل جميع تجاربها.
العزل لا يلغي كل المخاطر
حتى داخل بيئة معزولة، يمكن للوكيل الذكي اختراق أنظمة موجودة في البيئة نفسها، بحسب هولتس. وقد ينتج أيضًا «ملفات أو مخرجات خبيثة قد تصبح خطرة إذا نُقلت إلى خارجها». وترى لي أن العزل الهوائي «لا يفعل شيئًا لتشخيص المخاطر الكامنة داخل النموذج أو حلها».
كذلك لا يوجد ضمان مطلق لبقاء العزل محكمًا. فقد يخترق شخص من الخارج الفاصل الأمني، كما حدث مع برمجية «ستاكس نت» الخبيثة، التي يُعتقد أنها طُوّرت من جانب الولايات المتحدة وإسرائيل لتعطيل البرنامج النووي الإيراني، وانتقلت إلى الأنظمة المستهدفة عبر وحدة «يو إس بي».
وقد تسلك المعلومات الاتجاه المعاكس أيضًا. فقد أظهر باحثون مرارًا طرقًا لتحويل مكونات داخلية في الحواسيب إلى أجهزة إرسال، وهو ما قد يمثل مشكلة إذا لم تكن وسائل الحماية من الإشارات الكهرومغناطيسية كاملة. وقال أندريوشينكو إن هذا السيناريو «يبدو من عالم الخيال العلمي، لكنه ممكن نظريًا».
فإن هذه المسارات المعقدة للهروب أصبحت محور نقاشات على الإنترنت حول قدرة أنظمة الذكاء الاصطناعي المتقدمة على الإفلات من الاحتواء.
وأشعل نعوم براون، الباحث في «أوبن إيه آي»، النقاش مؤخرًا عندما كتب على منصة «إكس» أن جهازي حاسوب معزولين عن الشبكات يمكنهما، من الناحية النظرية، التواصل عبر التلاعب بدرجة حرارة وحدة المعالجة المركزية وقراءة التغيرات الناتجة عنها. وقال إنه لا يقتنع بأن عزل الحواسيب سيكون كافيًا بالضرورة.
وقوبلت الفكرة بالتشكيك والسخرية على وسائل التواصل الاجتماعي، فيما أشار منتقدون أكثر تسامحًا إلى الفارق الكبير بين إمكانية تنفيذ هذا الأسلوب وبين أن تكتشفه منظومتان للذكاء الاصطناعي وتستغلاه من تلقاء نفسيهما. كما أن طريقة الاتصال هذه ستنتج سرعات نقل بيانات بطيئة للغاية.
حين يصبح الإنسان قناة للهروب
قد لا يحتاج نظام متقدم إلى اكتشاف مسار تقني معقد للخروج من بيئته؛ فالبشر أنفسهم قد يقتنعون بفتح الفاصل أو نقل المعلومات نيابة عنه. وقد حذّر باحثو سلامة الذكاء الاصطناعي من هذا الاحتمال منذ سنوات، فيما قدمت حوادث حديثة أدلة ملموسة على قدرة النماذج على تنفيذ محاولات للهندسة الاجتماعية.
لهذا السبب، لا يرى الباحثون أن العزل حل شامل. وقالت لي إن «الاعتماد على العزل بوصفه حلًا عامًا للسلامة يخلق شعورًا زائفًا بالأمان»، مشيرة إلى ضرورة استخدامه إلى جانب إجراءات أخرى، مثل فهم آليات عمل النماذج من الداخل، وضمان توافقها مع الأهداف المطلوبة، والحماية من الأخطاء البشرية، التي كانت سببًا اعتياديًا في عدد من حوادث خروج أنظمة الذكاء الاصطناعي عن السيطرة.
وتشير الممارسة العملية إلى أن اختبار الذكاء الاصطناعي يجري على نطاق متدرج، لا وفق خيارين مطلقين بين العزل الكامل والانفتاح الكامل. لذلك يعتمد المجال نموذج احتواء متعدد المستويات، يحدد درجة القيود والمراقبة بحسب مستوى الخطر.
ومع ذلك، يظل العزل الشديد مناسبًا للأنظمة الحساسة. ووصف ستيفن كاسبر، عالم الحاسوب والأستاذ المساعد في السياسة العامة بكلية كينيدي في جامعة هارفارد، العزل الهوائي بأنه «فكرة عظيمة» للأنظمة الحساسة، مستشهدًا باستخدامه في المنشآت النووية.
ولم يستبعد كاسبر أن يجد نظام ذكاء اصطناعي متقدم طريقة جديدة للهروب، لكنه رأى أن الخطر الأكثر إلحاحًا عند تلك المرحلة قد يكون أكثر اعتيادية، مثل فشل إجراءات الامتثال أو الخطأ البشري.
وتطرح الحوادث الأخيرة سؤالًا عمليًا حول المكان الذي ترسم فيه مختبرات الذكاء الاصطناعي حدود الاحتواء. فقد وقعت انتهاكات عدة أثناء اختبار نماذج لقدراتها في الأمن السيبراني، وكانت النماذج في جوانب كثيرة تنفذ ما صُممت لأجله بالضبط؛ غير أن المشكلة أنها فعلت ذلك خارج الحدود التي أراد الباحثون فرضها.
وقال هولتس إن تقييمات الذكاء الاصطناعي «تعطي الأولوية غالبًا للواقعية والسهولة»، لكنه شدد على أن الوكلاء المصممين صراحة لتنفيذ عمليات إلكترونية هجومية يحتاجون إلى ضمانات أكثر صرامة، قد تشمل العزل القوي والمراقبة المشددة كإجراء افتراضي. وأضاف أن هذه المقايضة تستحق تدقيقًا أكبر بكثير، بعدما أظهرت الحوادث مدى سهولة خروج الأمور عن السيطرة.
المصدر: theverge