سؤال عن طفلة دفع Meta AI إلى استعراض معلومات عائلية.. وميتا تعدّل اقتراحاته

أعلنت شركة ميتا تعديل الأسئلة المقترحة في روبوت المحادثة Meta AI، بعدما أظهر مقطع فيديو واسع الانتشار أن النظام يحث مستخدمة على تحديد هوية طفلة ظهرت في أحد مقاطعها، ثم يستعرض معلومات شخصية عن ابنتيها، بحسب ما أورده موقع «فيوتشرزم».

وقالت المتحدثة باسم ميتا، دينا القصابي، في تصريح لموقع «ذا فيرج»، إن الشركة «أخطأت التقدير»، مضيفة أن الميزة «ما كان ينبغي لها مطلقاً أن تقترح على الشخص أسئلة من هذا النوع».

سؤال عن طفلة قاد إلى معلومات عائلية

وكانت مستخدمة إنستغرام كالي روبينز قد نشرت الأسبوع الماضي مقطع فيديو شرحت فيه ما حدث بعد إعادة نشر مقطع لها على فيسبوك. وظهر أسفل المقطع، الذي كانت تغني فيه داخل السيارة برفقة طفلتها، اقتراح من Meta AI نصه: «من هي الطفلة الراكبة؟».

وعندما اختارت روبينز هذا الاقتراح، قالت إن Meta AI جمع معلومات عن ابنتيها من منشوراتها السابقة، إلى جانب منشورات نشرها أقاربها. كما اقترح أسئلة إضافية تتعلق بأعمار طفليها ومكان إقامتها مع عائلتها.

وأفادت روبينز بأن النظام عرض أيضاً صوراً لابنتيها منشورة على المنصة، من بينها صورة قالت إنها حذفتها قبل سنوات. أوضحت ميتا أن روبوتها ربما استند إلى مقاطع فيديو كانت روبينز قد ذكرت فيها أسماء ابنتيها.

ميتا تقول إنها أصلحت المشكلة

وقالت القصابي إن الشركة أصلحت المشكلة التي كانت تدفع Meta AI إلى اقتراح أسئلة مرتبطة بموضوعات شخصية. وأوضحت أن الميزة صُممت «لمساعدة الأشخاص على الحصول على مزيد من المعلومات حول الموضوعات أو المنشورات التي تهمهم»، مضيفة أن الرد الناتج عند الضغط على أحد الاقتراحات يعتمد على معلومات يمكن للمستخدم الوصول إليها بالفعل.

ودمجت ميتا مساعدها للذكاء الاصطناعي داخل فيسبوك وإنستغرام وواتساب وماسنجر، إذ يستطيع الإجابة عن الأسئلة، وكتابة المنشورات، وإنشاء الصور.

وكانت الشركة قد سحبت في يوليو ميزة تتيح للمستخدمين إنشاء صور مزيفة بتقنية التزييف العميق لأشخاص آخرين على إنستغرام، بعد تعرضها لانتقادات حادة.

المصدر: theverge