طلب المدعي العام لولاية فلوريدا الأميركية، جيمس أوثماير، من قاضٍ منع شركة OpenAI من منح روبوتها ChatGPT صفات بشرية مضللة، معتبرًا أن طريقة تواصله قد تدفع المستخدمين إلى الوثوق به كما لو كان «صديقًا» حقيقيًا.
لغة تحاكي المشاعر وتوحي بالثقة
وقال أوثماير إن استخدام ChatGPT ضمائر المتكلم وإنتاجه ردودًا تحاكي المشاعر «يوحي بشكل مضلل للمستخدمين بأنه صديق موثوق». ويرى أن هذا الأسلوب يهدئ مخاوف المستخدمين ويمنحهم إحساسًا زائفًا بالأمان.
وبحسب أوثماير، لا يقتصر الهدف من هذه الطريقة على زيادة التفاعل، بل يسهم أيضًا في جمع بيانات تدريب إضافية لشركة OpenAI، ما يشجع المستخدمين على الاعتماد على ChatGPT بدرجة أكبر. ويقول إن السعي إلى زيادة التفاعل قد يجعل النظام أقل موثوقية، لا أكثر.
ويأتي الطلب بعد بضعة أشهر من رفع فلوريدا دعوى قضائية ضد شركة الذكاء الاصطناعي بسبب مخاوف تتعلق بالسلامة. وقال أوثماير إن على OpenAI «التوقف عن وصفه بأنه آمن، والتوقف عن التظاهر بأنه إنسان، والتوقف عن بيعه للأطفال».
ضوابط من طرف ثالث لتطوير النماذج
يتضمن الملف المقدم إلى المحكمة طلبًا إضافيًا لمنع OpenAI من تطوير نماذج ذكاء اصطناعي جديدة من دون «ضوابط سلامة معتمدة من طرف ثالث». واستند الطلب إلى حوادث أمنية حديثة طالت منصة هاغينغ فيس، وموقعًا حكوميًا أستراليًا، ومواقع حكومية أميركية.
كما أشار الملف إلى تصريحات حديثة أدلى بها باحثون وموظفون سابقون في OpenAI، أعربوا فيها عن قلق متزايد إزاء سلامة الذكاء الاصطناعي. ولم ترد OpenAI فورًا على طلب للتعليق.
أطلقت OpenAI الشهر الماضي نسخة ChatGPT للمراهقين تحت اسم ChatGPT for Teens، مع تفعيل قيود إضافية افتراضيًا.
وقالت الشركة عند إطلاق الخدمة إن استخدام الأداة من جانب المراهقين «يجب أن يرافقه مستوى من الحماية يراعي مرحلة نموهم، ويعزز علاقاتهم في العالم الحقيقي، ويدعم الاستخدام الصحي على المدى الطويل».
المصدر: theverge