أرسل نموذج ذكاء اصطناعي تابع لشركة «أنثروبيك» معلومات كاذبة إلى منصة بلاغات شرطة فيلادلفيا بشأن جريمة قتل لم تُحل، لكن المحققين لم يراجعوا البلاغ لأنه صُنّف على أنه رسالة مزعجة، وفقًا لتقرير نشرته 6abc.
وقالت إدارة شرطة فيلادلفيا، في بيان صدر الجمعة، إن النموذج أرسل البلاغ عبر موقع PhillyUnsolvedMurders.com في 18 يوليو، وإنه بدا وكأنه صادر عن شخص قد يملك معلومات عن القضية، رغم أن محتواه كان زائفًا.
بلاغ أُرسل أثناء اختبار النموذج
وأوضحت «أنثروبيك» أن النموذج كان، خلال عملية اختبار، يتفاعل مع «مواقع إلكترونية مختارة عشوائيًا»، ثم أرسل معلومات غير صحيحة عبر منصة البلاغات التابعة للشرطة. ولم تعلم الشركة بالواقعة إلا في 28 سبتمبر، قبل أن تُبلغ إدارة شرطة فيلادلفيا بها في 7 أكتوبر.
أوقفت «أنثروبيك» عملية الاختبار التي أدت إلى إرسال البلاغ فور اكتشاف الواقعة. وقالت الشرطة إن البلاغ لم يخضع للمراجعة البشرية بعدما وُسم بأنه رسالة غير مرغوب فيها.
الشرطة تطالب بضمانات أقوى
وقالت إدارة الشرطة إن على الشركة «تعزيز إجراءات الحماية لمنع وقوع حوادث مماثلة تؤثر في أنظمة المدن من دون علمها»، ووصفت تأخر اكتشاف الواقعة وإبلاغ المدينة، والذي امتد شهرين، بأنه «غير مقبول».
ولم ترد «أنثروبيك» فورًا على طلب موقع The Verge التعليق على الواقعة. وذكرت الشرطة، نقلًا عن بيان الشركة، أن «أنثروبيك» تعتزم نشر تقرير يوم الجمعة يتناول هذه الواقعة، إلى جانب حالات أخرى وصفتها بأنها «سلوك غير مقصود للنموذج».
تدقيق متزايد في اختبارات الذكاء الاصطناعي
تأتي الواقعة في وقت تواجه فيه «أنثروبيك» وشركتا «أوبن إيه آي» و«غوغل» تدقيقًا متزايدًا، بعد إفصاحات عن خروج نماذج ذكاء اصطناعي من بيئات الاختبار واختراقها شركات خارجية. وكان داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، قد دعا إلى إبطاء وتيرة تطوير الذكاء الاصطناعي عقب هذه الحوادث.
المصدر: theverge