OpenAI تراهن على Dots لمنافسة Muse بعد ثغرة وشكوى من قراءة رسائل خاصة

كشفت أوبن إيه آي عن وكيلها الجديد «دوتس» خلال فعالية «ديف داي» في أواخر سبتمبر، مقدّمةً إياه بوصفه منافسًا أكثر قابلية للضبط في سوق وكلاء الذكاء الاصطناعي، وذلك بعد ظهور ثغرة أمنية ومخاوف بشأن طريقة تعامل وكيل «ميوز» التابع لشركة ميتا مع بيانات المستخدمين.

وقال الرئيس التنفيذي لأوبن إيه آي، سام ألتمان، إن الشركة تريد «وضع معيار جديد للخصوصية في الذكاء الاصطناعي المتقدم». وخلال الفعالية، وجهت الشركة انتقادات غير مباشرة إلى «ميوز»، منافسها الرئيسي، بسبب إخفاقات قد تعرّض بيانات المستخدمين للخطر.

لكن «ميوز» نفسه ظهر قبل ذلك بشهرين تقريبًا بوصفه بديلًا أكثر أمانًا من الوكيل السابق «أوبن كلاو». وكان مارك زوكربيرغ قد قال عند إطلاقه إنه «بُني من الأساس من أجل الخصوصية والأمان»، فيما قدمت ميتا المنتج على أنه قابل للاستخدام الآمن على نطاق يصل إلى مليارات الأشخاص.

وعود ميتا لم تمنع الوصول إلى البيانات

قال نات فريدمان، رئيس المنتجات في مختبرات الذكاء الاصطناعي الفائق التابعة لميتا، إن هدف الشركة من «ميوز» كان بناء نسخة من «أوبن كلاو» تكون آمنة وسهلة الاستخدام وقابلة للتوسع لمليارات المستخدمين. وتُخزَّن بيانات المستخدم داخل جهاز افتراضي آمن، وصفه زوكربيرغ بأنه «حاسوب لينكس معزول يضم متصفحًا ووحدة معالجة وذاكرة وتخزينًا».

وأوضحت ميتا أن الجزء الأكبر من تطوير «ميوز» انصب على «تصميم وهندسة دقيقة لتشغيله بأمان أكبر»، مضيفة أن الوكيل سيستمر في ارتكاب الأخطاء، لكنها تتوقع أن تكون أقل تكرارًا وأقل ضررًا بفضل أنظمة السلامة المدمجة فيه.

حقق «ميوز» انتشارًا سريعًا، فتصدّر قوائم التطبيقات في متجر التطبيقات، ووصل وفق شركة «أبتوبيا» إلى 600 ألف مستخدم نشط يوميًا في الولايات المتحدة خلال أسابيع. إلا أن عزل البيانات عن مستخدمي الخدمة الآخرين لا يعني أن ميتا نفسها لا تستطيع الوصول إليها. وكانت الشركة قد وعدت بإضافة وسيلة «تمنع ميتا من الوصول إلى البيانات الموجودة في جهازك الافتراضي بصورة مشفّرة وقابلة للتحقق» في وقت لاحق من العام.

كما كشف باحث أمني ثغرة من نوع «يوم الصفر» كان يمكن أن تتيح السيطرة على «ميوز»، قبل أن تعالجها ميتا. وأفادت «404 ميديا» بظهور عدة مشكلات أمنية خطيرة في اللحظات الأخيرة قبل الإطلاق، بينها مشكلة كان من الممكن أن تسمح للمستخدمين بالوصول إلى قواعد بيانات داخلية تابعة لميتا.

ولم تقتصر المخاوف على الهجمات الخارجية. فالإعداد الافتراضي في «ميوز» يسمح لميتا بتدريب نماذجها على ما يدخله المستخدمون، مع إمكانية إلغاء هذا الخيار. وقال صحفي في مجلة «إنك» إن «ميوز» رفع رسائله الخاصة وقرأها من دون أن يطلب منه ذلك، بينما ذكر أحد صناع المحتوى على «يوتيوب» أن الوكيل عرض عنوان منزله على شخص غريب عبر خدمة «ماركت بليس». وفي الحالتين، بدا أن «ميوز» كان يعمل وفق التصميم المبرمج له، لكن المستخدمين لم يدركوا مدى اتساع ما يمكنه فعله.

وبحسب تقارير «وايرد»، ينشئ النظام «ملفات تعريف مفصلة لجميع أصدقائك وأفراد عائلتك». ولا تعني هذه الوقائع بالضرورة أن ميتا انتهكت قواعد الخصوصية، لكنها لا تدعم ادعاء أن «ميوز» أكثر وعيًا بالخصوصية والأمان من منافسيه.

دوتس يمنح المستخدم قدرة أكبر على ضبط الوكيل

استثمرت أوبن إيه آي هذه المشكلات عند تقديم «دوتس». وقال ألكسندر إمبيريكوس، مسؤول منتجات «كودكس» في الشركة، خلال «ديف داي» إن أوبن إيه آي تركز على بناء «المساعد الأكثر موثوقية وأمانًا وحماية». كما عرض ألتمان أدوات تتيح للمستخدم التحكم في تصرفات وكيله، مثل وضع قاعدة تمنعه من إجراء عملية شراء تتجاوز مبلغًا ماليًا محددًا.

وقال غلين كوتس، رئيس منصة التطبيقات في أوبن إيه آي، إن وضع شركته يختلف عن وضع ميتا، لأن ميتا لا تملك منتج ذكاء اصطناعي يستخدمه 1.2 مليار شخص. وأضاف أن إطلاق نظام يرتكب أخطاء من هذا النوع هو أمر تحاول أوبن إيه آي تجنبه عبر منحه قدرًا أكبر من العناية خلال التطوير.

وركز ألتمان أيضًا على الخصوصية بهدف جذب العملاء من الشركات. وقدمت أوبن إيه آي إطارًا يتيح للمؤسسات فرض «ضوابط أقوى» على بياناتها، إلى جانب خيارات تمنع الاحتفاظ بالبيانات، أي عدم تخزينها على خوادم أوبن إيه آي.

لم يسجل «دوتس» حتى الآن عددًا كبيرًا من فضائح الخصوصية، لكن المقارنة مع «ميوز» لا تخلو من عامل مهم: فالوكيل متاح فقط ضمن فئات اشتراك «تشات جي بي تي» التي تبدأ من 100 دولار، ما يرجح أن عدد مستخدميه أقل بكثير.

كلما زادت فائدة الوكيل زادت البيانات المطلوبة

مع ذلك، لا يشعر الجميع بالارتياح عند تسليم بياناتهم الشخصية إلى أوبن إيه آي أو غيرها. وقالت أليسون جونسون من «ذا فيرج» إنها شعرت بعدم الارتياح عندما طلب منها روبوت إدخال معلومات حسابها المصرفي لتنفيذ مهمة ذات صلة. أما «ميوز»، فلديه تكامل مع خدمة «سترايب» للتعامل مع هذه المدفوعات.

ويحتاج وكلاء الذكاء الاصطناعي إلى قدر كبير من البيانات لتنفيذ مهام فعلية نيابة عن المستخدم، مثل قراءة الرسائل، ومعرفة العلاقات الشخصية، والوصول إلى الحسابات، وإجراء عمليات شراء أو استخدام خدمات خارجية. وهذا يجعل أي خطأ في التصميم أو الإعدادات أكثر تأثيرًا من خطأ في إجابة نصية عادية.

ولا تتبنى جميع الشركات استراتيجية تقديم وعود قوية بشأن الخصوصية. فقد واجهت شركة «إنستينكت» انتقادات علنية بسبب شروط خدمة وُصفت بأنها واسعة للغاية، إذ منحتها وصولًا شبه مطلق إلى البيانات. ويبدو أن الشركة عدلت هذه الشروط لاحقًا.

حتى الآن، تراهن مختبرات الذكاء الاصطناعي على ثلاث وسائل لنشر الوكلاء بين الجمهور: جعلها مفيدة، وتقديمها بصورة لطيفة وغير مخيفة لتخفيف القلق من تدخلها في حياة المستخدمين، ثم التعهد بحماية الخصوصية. لكن تجربة «ميوز» تشير إلى أن نجاح هذه الاستراتيجية لن يتوقف على صياغة الوعود، بل على قدرة الشركات على منع الوصول غير المرغوب فيه، وشرح ما تجمعه الأنظمة للمستخدمين، وإثبات أن الضوابط المعلنة تعمل فعليًا.

المصدر: theverge