اقتصاد

OpenAI تطور أداة لرصد صور استغلال الأطفال.. ومحاولة البحث عنها في جهاتغبت تعلّق الوصول 24 ساعة

أعلنت OpenAI تطوير أداة تصنيف لرصد صور استغلال الأطفال المتداولة عبر الإنترنت، بما فيها الصور المنشأة بالذكاء الاصطناعي، وستتيحها مجانًا للمنظمات المعتمدة. كما ستضيف الشركة تحذيرات في جهاتغبت، وتعلّق وصول المستخدم إلى الخدمة 24 ساعة إذا حاول البحث عن هذا المحتوى.

تحليل الصور لترتيب أولويات المراجعة

تحلل الأداة مؤشرات بصرية لتحديد صور استغلال الأطفال التي لم يسبق رصدها، ثم تمنحها درجات تساعد فرق المراجعة على تحديد المحتوى الذي ينبغي فحصه أولًا.

ووصفت OpenAI النظام بأنه أول أداة تصنيف متاحة على نطاق واسع تقدم إشارة مخصصة للمساعدة في اكتشاف مواد استغلال الأطفال المنشأة بالذكاء الاصطناعي. ووفقًا لبيان نشرته الشركة على موقعها، ستتاح الأداة للمنظمات المعتمدة من دون مقابل.

تعليق الوصول عند تكرار المخالفات

ستُضاف التحذيرات إلى إجراءات السلامة القائمة في جهاتغبت، لتوضح للمستخدمين أن المحتوى الذي قد ينطوي على استغلال الأطفال يسبب ضررًا، حتى لو أُنتج بالذكاء الاصطناعي.

وعند رصد محاولة للبحث عن هذا المحتوى، ستُزال المحادثة المعنية ويُعلّق وصول المستخدم إلى ChatGPT لمدة 24 ساعة. وخلال هذه الفترة، سيُعرض عليه دعم من مختصين لمساعدته على وقف السلوك الضار.

وفي حال تكرار المخالفات، قد تُفرض قيود أطول على الوصول، كما قد يُغلق الحساب أو تُبلّغ السلطات بالحالة. وقالت OpenAI إن هذا النهج طُوّر بمساهمة من منظمات تعمل على منع استغلال الأطفال ومستشارين أكاديميين.

المصدر: bloomberght