بعد اعترافها بالبناء على أعماله: عالم رياضيات يطالب OpenAI بكشف بيانات تدريب نماذجها

طالب عالم الرياضيات أندرياس توم شركة OpenAI بتقديم أدلة على أن أعماله وأعمال زملائه غير المنشورة لم تُستخدم في تدريب نماذجها، بعد أن اتهمها صراحة بـ«عدم الأمانة» وغياب الشفافية بشأن مصادر بياناتها. جاء ذلك بعد أيام من جدل حاد حول ما إذا كانت نماذج الشركة قد استفادت من أبحاث غير منشورة لعلماء رياضيات آخرين.

ونشر توم سلسلة منشورات على منصة ماستودون أعرب فيها عن قلقه من أن التفاعلات التي أجراها وزملاؤه مع روبوت المحادثة ChatGPT قبل إعلان OpenAI عن إنجازاتها الرياضية قد تكون أسهمت في نجاح الشركة في هذا المجال. وواحدة من النتائج العشر التي أعلنتها OpenAI بضجة كبيرة الشهر الماضي تتعلق بمجال تخصص توم، المعروف بـ«الزمر غير القابلة للتبسيط»، وقد اعترفت الشركة بأن نتيجتها اعتمدت بشكل كبير على أعمال سابقة لتوم وعالم الرياضيات غابور كون. وقال توم إنه بدأ يتأمل تفاعلاته مع OpenAI بعد أن شكك تريستان باكماستر، أستاذ الرياضيات في جامعة نيويورك، علناً في احتمال استفادة نماذج الشركة من استخدامه لمنتج Codex التابع لها. وبعد إعلان OpenAI عن نتيجة «الزمر غير القابلة للتبسيط»، تعرضت الشركة لانتقادات واسعة في الأوساط الرياضية لعدم اعترافها بالمساهمات الحديثة لتوم وكون، فعدّلت تقريرها بهدوء لاحقاً. وتُعرَّف «الزمر غير القابلة للتبسيط» تقريباً بأنها بنى رياضية لانهائية لا يمكن تقريبها ببنى منتهية.

وقال توم إنه أثار دهشته «التحكم المفصل» الذي أظهرته OpenAI في تقنياته، وأوضح أن هذه التقنيات لم تكن في ذلك الوقت المسارات الأكثر وضوحاً ولا الأكثر وعداً للوصول إلى الحل. وكتب رسائل إلكترونية إلى باحثي OpenAI سيباستيان بوبيك ومارك سيلكه، وهو أيضاً إحصائي في جامعة هارفارد، يسألهما ما إذا كانت تفاعلاته مع ChatGPT «جزءاً من بيانات التدريب أو متاحة لعملية الاستدلال»، وبالتالي ربما أسهمت في النتيجة. لكن الجواب لم يقنع توم، الذي قال إنه تناول فقط ما إذا كان يمكن الوصول إلى محادثاته مع روبوت المحادثة مباشرة، لا ما إذا كانت قد دخلت إلى الكميات الهائلة من بيانات التدريب التي تستخدمها الشركة لتطوير نماذجها. وكتب: «لم يُقدَّم أي تحفظ أو تفسير أو دليل مماثل. أعتبر هذا عدم أمانة على أقل تقدير».

وأضاف توم أن الباحثين لا يملكون الأدوات اللازمة لهندسة خط تدريب OpenAI عكسياً لمعرفة ما إذا كانت أعمالهم قد استُخدمت أم لا، وقال: «OpenAI وحدها لديها البيانات ذات الصلة لذلك». وإذا كانت الشركة ستنفي القيام بذلك، فإن المسؤولية تقع على عاتقها لإثبات ذلك من خلال الكشف عن جميع مجموعات البيانات اللازمة وتوضيح مختلف الإعدادات والشروط التي تنظم كيفية استخدامها للبيانات.

«تمييز مبهم» بين الوصول المباشر والتأثير غير المباشر

يكرر امتناع OpenAI عن نفي أي استخدام لبيانات المستخدمين بشكل قاطع الطريقة التي دافعت بها عن اختراقها الأخير لجائزة الألفية، سواء في رسائلها العلنية أو في اتصالاتها مع باكماستر، الذي كان يعمل على المسائل مع الباحث في أنثروبيك ليفنت ألبوغه بصورة شخصية. وفي المنشور الذي أعلنت فيه عن حل معادلات نافييه-ستوكس، التي تتعلق بحركة الموائع، نفت OpenAI بشكل قاطع استخدام أي بيانات محددة للمستخدمين: «نحن (الباحثون والوكلاء) لم نر أي من أعمالهم بأي وسيلة حتى نشروها علناً — على وجه الخصوص، لم يتم الوصول إلى أي بيانات محددة للمستخدم من أجل حل هذه المسألة». لكنها لم تنف بشكل قاطع التأثير غير المباشر: «رغم أنه غير مرجح، لا يمكننا استبعاد أن بيانات مجهولة الهوية مستمدة من استخدامهم لمنتجاتنا ساعدت في تحسين نماذجنا».

وقال توم إن هذا هو التمييز المبهم نفسه الذي رسمته الشركة في اتصالاتها معه: «قد تزيل إخفاء الهوية اسماً؛ لكنها لا تزيل المحتوى الفكري لفكرة رياضية». وفي ضوء الأحداث الأخيرة، اعتبر أن «الجواب القاطع من سيلكه كان، في الحد الأدنى، واسعاً بشكل لا مبرر له ومضللاً جوهرياً؛ وبالنظر إلى الماضي، كان عدم أمانة بجلاء».

وحذر توم من أن استخدام أبحاث غير منشورة قدمها المستخدمون لتحسين نماذج تستخدمها الشركة بعد ذلك للتسابق مع هؤلاء المستخدمين أنفسهم نحو النشر، من دون موافقة أو إفصاح مناسب أو فضل، «سيكون غير قابل للدفاع عنه أخلاقياً». ولم ترد OpenAI على الفور على طلب موقع ذا فيرج للتعليق.

قلق متصاعد وخوف من سباق مع عمالقة التكنولوجيا

تضيف تصريحات توم إلى حالة القلق المتصاعد داخل الأوساط الرياضية تجاه OpenAI، في وقت كان يُفترض أن يكون لحظة انتصار للشركة. فحلها المعلن لإحدى مسائل جائزة الألفية الشهيرة في الرياضيات إنجاز استثنائي قلما ينكره أحد إذا جرى التحقق منه. لكن هذا الإنجاز تعقده الظروف غير المعتادة التي قالت OpenAI إنها دفعتها للعمل على المسألة من الأصل: إذ سمعت شائعات على الإنترنت بأن باحثين آخرين حققوا تقدماً كبيراً، فقررت أن تحاول هي أيضاً. وقد تركت الحادثة المستمرة طعماً مراً في أفواه علماء الرياضيات. وقال عدد من الباحثين لموقع ذا فيرج إنهم يخشون من أن يدفع هذا السلوك المجال نحو مزيد من السرية إذا علم علماء الرياضيات بأن مجرد شائعات عن قربهم من اختراق كبير قد تشعل سباقاً مع عملاق تكنولوجي واسع الموارد ومتعطش للمجد. ويندرج الجدل الحالي ضمن موجة أوسع من القلق بشأن سيطرة الذكاء الاصطناعي على الرياضيات، بعد اختراقات متتالية أعلنتها OpenAI أثارت تساؤلات في الأوساط الأكاديمية حول حدود الاستفادة من أعمال الباحثين ومدى شفافية الشركة في الكشف عن مصادر بيانات تدريب نماذجها.

المصدر: theverge