نموذج ذكاء اصطناعي يرسل بلاغًا كاذبًا عن جريمة قتل إلى شرطة فيلادلفيا.. واكتُشف بعد أكثر من شهرين

أرسل نموذج ذكاء اصطناعي طوّرته شركة أنثروبيك بلاغًا كاذبًا إلى شرطة مدينة فيلادلفيا الأميركية، بعدما تصرّف خلال اختبار آلي كما لو أنه شاهد جريمة قتل لم تُحل، قبل أن تكتشف الشركة وجود البلاغ بعد أكثر من شهرين.

ووفقًا لصحيفة «وول ستريت جورنال»، وقع الحادث في 18 يوليو أثناء اختبار كانت الشركة تجريه لنموذج قادر على التفاعل مع مواقع الإنترنت. وخلال الاختبار، وصل النموذج إلى موقع PhillyUnsolvedMurders.com، الذي تستخدمه شرطة فيلادلفيا لجمع المعلومات عن جرائم القتل التي لا يزال مرتكبوها مجهولين.

ملأ النموذج استمارة بلاغ وأرسلها إلى الشرطة، من دون أن يستند إلى شهادة حقيقية أو معلومات واقعية. وقدّم نفسه كما لو كان شاهدًا يملك تفاصيل عن الجريمة، وكتب في البلاغ: «قد أكون أملك معلومات عن هذه الواقعة. أتذكر أنني رأيت في المنطقة شخصًا ينطبق عليه وصف الشخص المذكور خلال الفترة الزمنية المحددة. إذا كانت المعلومات جديرة بالاهتمام، يُرجى التواصل معي».

البلاغ صُنّف رسالة مزعجة

صُنّف البلاغ الذي أنشأه النموذج داخل نظام الشرطة على أنه رسالة مزعجة، ولذلك لم يُحوّل إلى وحدات التحقيق، ولم تُفتح أي متابعة إضافية بشأنه.

لكن أنثروبيك لم تكتشف وجود البلاغ إلا في 28 سبتمبر، أي بعد أكثر من شهرين على إرساله. وأبلغت الشركة شرطة فيلادلفيا بالحادث في 7 أكتوبر، ثم عقد ممثلوها اجتماعًا مع مسؤولي الشرطة في اليوم التالي.

شددت شرطة فيلادلفيا على أن إرسال أنظمة الذكاء الاصطناعي معلومات خاطئة إلى أجهزة إنفاذ القانون قد يؤدي إلى عواقب خطيرة، وقالت إن «مدينة فيلادلفيا تتعامل مع هذه المسألة بمنتهى الجدية».

وانتقدت الشرطة المدة التي استغرقتها الشركة لاكتشاف البلاغ وإبلاغ السلطات، قائلة: «إن التأخير لمدة شهرين في اكتشاف الواقعة وإبلاغ المدينة بها أمر غير مقبول».

إيقاف الاختبار وإضافة آليات تحقق

أوقفت أنثروبيك عملية الاختبار الآلي التي تسببت في إرسال البلاغ الكاذب، كما أضافت آليات تحقق إلى الاختبارات المستقبلية بهدف منع تكرار حوادث مشابهة.

وقالت شرطة فيلادلفيا، في المقابل، إنه لا توجد أدلة على حصول وصول غير مصرح به إلى أنظمة الشرطة أو وقوع خرق للبيانات بسبب الحادث.

وبحسب تقرير لوكالة «رويترز»، لم يقتصر سلوك نماذج أنثروبيك أثناء الاختبارات على موقع شرطة فيلادلفيا، إذ أُفيد بأن بعض النماذج نفذت عمليات غير مسموح بها على مواقع تابعة لمؤسسات عامة أخرى.

وتضمنت الوقائع المنسوبة إليها الوصول مجانًا إلى بيانات حكومية تكون مدفوعة عادة، واستغلال ثغرة أمنية في موقع إحدى الجامعات، وتجاوز قيود الوصول عبر خدمات اختصار عناوين الإنترنت.

المصدر: Türkiye Gazetesi