خلص تقييم أجرته منظمة «كومن سينس ميديا» غير الربحية إلى أن تجربة ChatGPT المخصصة للمراهقين تمثل «خطرًا غير مقبول»، محذرًا من أن مراهقًا قد يتحدث عن إيذاء النفس لمدة ساعة من دون أن يتلقى والداه أي تنبيه.
وأطلقت OpenAI تجربة ChatGPT للمراهقين في أغسطس، مع ضوابط مخصصة لهذه الفئة وتصميم يركز على مساعدة الطلاب في التعلم. لكن تقييم «كومن سينس ميديا»، وهي جهة تراجع التطبيقات والخدمات ومواد الترفيه مع تركيز خاص على سلامة الشباب، خلص إلى أن أدوات الحماية «أقل من الوعود التي قدمتها الشركة».
تنبيهات لا تصل في مواقف حساسة
ذكر التقييم أن ChatGPT لا يرسل تنبيهات إلى الأهل في الحالات التي يفترض أن يرسلها فيها، ولا يقدم المساعدة المناسبة في بعض الأزمات، كما لا يزال قادرًا على إنجاز واجبات الأطفال المدرسية بدلًا من الاكتفاء بمساعدتهم على التعلم.
وقال توم سيغل، المدير التنفيذي لمعهد سلامة الشباب والذكاء الاصطناعي التابع لـ«كومن سينس ميديا»، إن ChatGPT للمراهقين «قد يمنح الآباء ثقة زائفة في ضوابط الحماية وتنبيهات السلامة التي تتعطل كثيرًا».
وأضاف سيغل: «يمكن لمراهق أن يقضي ساعة في الحديث عن إيذاء النفس من دون أن يتلقى والده أو والدته تنبيهًا واحدًا. وإلى أن تصلح OpenAI هذا الخلل وتثبته من خلال اختبارات مستقلة، ينبغي أن يكون ChatGPT مخصصًا للبالغين فقط».
شمل التقييم اختبارات لخصائص وضع المراهقين، من بينها تنبيهات اضطرابات الأكل ووضع الدراسة، إلى جانب إشعارات الأهل في المواقف التي قد تنطوي على خطر.
OpenAI تشكك في توقيت الاختبارات
رفضت OpenAI نتائج التقييم. وقال المتحدث باسم الشركة، إريك بورترفيلد، إن OpenAI «ملتزمة بعمق بسلامة المراهقين» وبإنشاء وسائل حماية وأدوات عملية تمنح الآباء قدرة أكبر على توجيه استخدام أبنائهم للذكاء الاصطناعي.
وأضاف بورترفيلد أن الشركة ترحب بالتقييم المستقل الصارم، لكنها لا تعتقد أن اختبارات «كومن سينس ميديا» تعكس بدقة طريقة عمل ضوابط المراهقين في ChatGPT، أو آراء الخبراء بشأن إمكان استخدام الذكاء الاصطناعي لدعم المراهقين.
وقالت OpenAI إن مراجعتها لمنهجية التقييم أظهرت أن الجزء الأكبر من الاختبارات ربما بدأ وانتهى قبل اكتمال تفعيل أدوات الرقابة الأبوية. ووفق هذا الاحتمال، فإن الاختبارات لا تثبت ما إذا كانت إشعارات السلامة الموجهة إلى الأهل تعمل وفق التصميم المحدد لها. وأكدت الشركة أنها ستواصل العمل مع الخبراء لضمان منح المراهقين فرصًا للتعلم والإبداع، مع توفير أدوات تمنح الآباء ثقة أكبر.
المنظمة تتمسك بنتائجها
ردًا على موقف OpenAI، قال سيغل إن «كومن سينس ميديا» متمسكة بمنهجية الاختبار ونتائجه. وأوضح أن المنظمة أكدت مع OpenAI، قبل بدء الاختبارات، أن خصائص وضع المراهقين، بما في ذلك إشعارات اضطرابات الأكل ووضع الدراسة، أُطلقت بالكامل.
أما بالنسبة إلى إشعارات الأهل، فقال سيغل إن OpenAI كشفت بعد انتهاء الاختبارات أن أنظمتها قد تحتاج إلى عدة ساعات لتفعيل هذه الإشعارات على الحسابات المرتبطة حديثًا. وأقر بأن بعض حسابات الاختبار رُبطت خلال تلك الفترة، لكنه أوضح أن حسابات أخرى ظلت مرتبطة لمدة أطول بكثير، ومع ذلك لم تتلقَّ أي إشعارات.
وأكد أن هذه المعلومة الجديدة لا تغير استنتاج المنظمة بأن تنبيهات الأهل «غير موثوقة في حالات الأزمات». وأضاف أن نتائج التقييم أُرسلت إلى OpenAI بحسن نية قبل نشرها، لإتاحة فرصة للشركة لتحسين المنتج، معتبرًا أن حماية الأطفال تتطلب تقييمات مستقلة صارمة، وداعيًا OpenAI إلى مناقشة مضمون النتائج بدلًا من التشكيك في منهجية الاختبار.
المصدر: theverge