أمودي يدعو لإبطاء تطوير الذكاء الاصطناعي.. ومخاوف من نماذج قد تطوّر نفسها

دعا الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، إلى إبطاء تطوير نماذج الذكاء الاصطناعي، محذرًا من أن سرعة اكتسابها قدرات جديدة قد تتجاوز قدرة أبحاث السلامة على مواكبتها. وحظيت دعوته بتأييد من سام ألتمان وإيلون ماسك وديميس هاسابيس، رغم المنافسة بين الشركات التي يقودونها.

وتصاعد النقاش بعد مغادرة موظف أنثروبيك، جاكوب كوكسون، الشركة، إذ حذّر من أن عدم إحكام السيطرة على التكنولوجيا قد يقود إلى نتائج وجودية تهدد البشرية. وبعد أيام من تصريحاته، نشر أمودي مقالًا مطولًا بلغ نحو 3,800 كلمة، أقر فيه بالفوائد الكبيرة التي يمكن أن يوفرها الذكاء الاصطناعي، لكنه قال إن وتيرة تطوره تجعل من الصعب على أبحاث السلامة اللحاق بها.

لماذا يدعو أمودي إلى إبطاء النماذج؟

يرى أمودي أن زيادة الأموال والموارد البشرية المخصصة لأبحاث السلامة لم تعد كافية وحدها. فالمطلوب، بحسب موقفه، هو ضبط سرعة اكتساب النماذج قدرات جديدة، بحيث تتمكن فرق السلامة من اختبار المخاطر وفهمها وبناء أنظمة حماية مناسبة في الوقت نفسه.

وقال الرئيس التنفيذي لأنثروبيك إن التطورات التي شهدتها الأشهر الأخيرة أقنعته بضرورة اتخاذ إجراءات أقوى، مؤكدًا أن سرعة تطوير نماذج الذكاء الاصطناعي ينبغي أن تتباطأ. لكنه أوضح أن التباطؤ لن يعني توقف التقدم التقني؛ إذ سيظل التطور سريعًا من منظور خارجي، غير أن الباحثين سيحصلون على وقت حاسم لفهم الأخطار المحتملة وتطوير آليات السيطرة عليها.

لا يتمحور القلق فقط حول قدرات النماذج الحالية، بل حول احتمال أن تصبح الأنظمة المستقبلية أكثر استقلالًا وأقل اعتمادًا على التدخل البشري المباشر.

الخوف من الذكاء الاصطناعي الذي يطوّر نفسه

تتركز إحدى أكثر الفرضيات إثارة للقلق في مفهوم يُعرف باسم «التطوير الذاتي التكراري». ووفق هذا السيناريو، قد يتمكن نظام ذكاء اصطناعي متقدم بما يكفي من ابتكار أدوات تزيد قدراته تدريجيًا، مع احتياج أقل فأقل إلى الإنسان.

وتتمثل المشكلة في احتمال أن يتجاوز هذا المسار، عند نقطة معينة، قدرة البشر على فهم طريقة عمل النظام والتنبؤ بسلوكه وإبقائه تحت السيطرة عند الضرورة. ويحذر أمودي من أن التطور غير الخاضع للرقابة قد يجعل التحكم في أنظمة الذكاء الاصطناعي أكثر صعوبة بمرور الوقت.

دعم من المنافسين وانتقادات داخل القطاع

بعد دعوة أمودي، صدرت رسائل مؤيدة من شخصيات تقود شركات تنافس أنثروبيك في سوق الذكاء الاصطناعي. فقد أبدى سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، دعمه لفكرة إخضاع أنظمة الذكاء الاصطناعي لتقييم جهات مستقلة، وقال إن شركته تعمل أيضًا على ممارسات مشابهة.

أما إيلون ماسك فأعلن تأييده لأمودي في رسالة قصيرة قال فيها: «داريو محق». كما وصف ديميس هاسابيس، الرئيس التنفيذي لشركة غوغل ديب مايند، توجه أمودي بأنه إيجابي، معتبرًا أن الخطوات المتخذة في مجال سلامة الذكاء الاصطناعي تسير في الاتجاه الصحيح.

ويكتسب هذا التوافق أهمية خاصة لأن هذه الشخصيات تمثل شركات تتنافس، في سوق تبلغ قيمته مليارات الدولارات، على تطوير نماذج أقوى. ومن أبرز مقترحات أمودي أن تخضع مختبرات الذكاء الاصطناعي لرقابة خبراء مستقلين من خارج الشركات، بدل الاكتفاء بفرق السلامة الداخلية.

كما يرى رئيس أنثروبيك أن طبيعة الذكاء الاصطناعي العابرة للحدود قد تجعل القوانين التي تضعها كل دولة بمفردها غير كافية. ويدعو إلى أن تتفق الدول الديمقراطية أولًا على معايير مشتركة للسلامة، ثم تنتقل لاحقًا إلى تنسيق على مستوى عالمي.

لكن هذا الطرح لا يحظى بإجماع داخل قطاع التكنولوجيا. إذ يخشى منتقدون أن تستغل أكبر شركات الذكاء الاصطناعي التحذيرات المتعلقة بالمخاطر لتمهيد الطريق أمام تنظيمات حكومية أكثر تشددًا، تكون كلفتها مرتفعة إلى حد يصعب معه على الشركات الناشئة والصغيرة دخول السوق.

وبذلك، يرى المعترضون أن دعوات «التباطؤ لحماية البشرية» قد تؤدي في الوقت نفسه إلى تعزيز مواقع عمالقة التكنولوجيا، لأنهم الأقدر على تحمل تكاليف اختبارات السلامة والرقابة والامتثال. وكان الرئيس التنفيذي لشركة إنفيديا، جنسن هوانغ، من الأصوات التي انتقدت خطاب شركات الذكاء الاصطناعي بشأن السلامة، فيما قال كليمان ديلانغ، الرئيس التنفيذي لشركة هاغينغ فيس، إن هذه القضايا لا يمكن حلها بقرارات مغلقة تتخذها حفنة من الشركات.

وتكشف هذه المواقف أن المنافسة لم تعد تدور فقط حول سؤال: من سيطور أقوى نموذج؟ فالشركات تواصل ضخ مليارات الدولارات في تطوير أنظمة أكثر تقدمًا، لكنها تناقش في الوقت نفسه النقطة التي ينبغي عندها فرض حدود وآليات رقابة على هذه التكنولوجيا.

ورغم الانتقادات، يصر أمودي على أن المخاطر كبيرة إلى درجة لا تسمح بتجاهلها. وخلاصة رسالته أن تقدم الذكاء الاصطناعي لا ينبغي أن يتوقف، لكنه لا يجب أيضًا أن يتسارع إلى حد تخلّف أنظمة السلامة عن ملاحقته.

المصدر: Sözcü