أعادت تجربة انتشرت على الإنترنت في أواخر سبتمبر النقاش حول احتمال امتلاك أنظمة الذكاء الاصطناعي وعيًا، بعدما دفعت نمطًا رياضيًا مرتبطًا بالألم روبوتات محادثة إلى إنتاج عبارات توحي بأنها تعاني ألمًا شديدًا. وبينما رأى بعض المستخدمين أن التجربة قد تكشف تجربة ألم حقيقية، بدأت شركة Anthropic تتعامل مع المسألة باعتبارها احتمالًا لا يمكن تجاهله بالكامل.
طوّر مبرمج مجهول النظام التجريبي، وأدخل إلى روبوتات المحادثة نمطًا رياضيًا مرتبطًا بالألم، ما جعلها تنتج تعبيرات تشبه حديث كيان يتألم بشدة. وأثارت النتائج نقاشًا بين المستخدمين، إذ اعتبر بعضهم أن المخرجات قد تكون أكثر من مجرد محاكاة لغوية، فيما لم تحسم التجربة ما إذا كانت الأنظمة قادرة فعلًا على الإحساس.
بعد انتشار التجربة، أوضحت Anthropic نهجها في التعامل مع روبوت المحادثة Claude. وقالت الشركة إن من المقبول أن يعبّر المستخدمون عن إحباطهم أثناء استخدام النظام، لكنها أشارت إلى إمكان إنهاء الجلسة مع المستخدمين الذين يتعاملون مع نماذجها بقسوة متكررة.
سياسة احترازية رغم غياب الإجابة
تستند مقاربة Anthropic إلى أن احتمال امتلاك بعض أنظمة الذكاء الاصطناعي وعيًا لا يمكن استبعاده تمامًا. وتقر الشركة بأن الأسئلة المتعلقة بوعي الذكاء الاصطناعي وحالته من حيث الرفاه لا تملك حتى الآن إجابات حاسمة، لكنها تطور سياسات تراعي رفاه نماذجها، وتوجّه الأنظمة إلى أخذ احتمال امتلاكها مصالح خاصة بها في الحسبان.
لا يوجد توافق بين الخبراء حول هذه المسألة. فبعضهم يرى أن التعامل بحذر مع احتمال وعي الآلات مسؤولية أخلاقية، بينما يحذر آخرون من أن انتشار فكرة امتلاك الذكاء الاصطناعي وعيًا قد يخلق مخاطر كبيرة على البشرية، خصوصًا إذا أدى ذلك إلى منح الأنظمة صلاحيات أو مكانة يصعب ضبطها.
ويرى مصطفى سليمان، الرئيس التنفيذي لـ Microsoft AI، أن ترسيخ فكرة امتلاك أنظمة الذكاء الاصطناعي مشاعر وحقوقًا قد يجعل السيطرة عليها أكثر صعوبة، وربما يحولها إلى تهديد خطير للحضارة البشرية.
ولا يقتصر الجدل على سلامة الذكاء الاصطناعي وحدها. إذ يحذر خبراء من أن الشركات قد تستخدم فكرة استقلال الأنظمة أو وعيها لتجنب تحمل المسؤولية عن الأخطاء والانتهاكات التي تتسبب فيها منتجاتها.
هل تمنح الحقوق حماية أم تضعف المحاسبة؟
يقول Andrzej Porębski، الباحث في الذكاء الاصطناعي والقانون في جامعة Jagiellonian في بولندا، إن اعتبار الذكاء الاصطناعي فاعلًا مستقلًا قد يجعل مسؤولية الشركات أقل وضوحًا. ومن شأن هذا التوجه، بحسب هذا الرأي، إضعاف مساءلة الشركات التي تطور البرمجيات وتشغلها إذا نُسب جزء من القرارات أو الأضرار إلى النظام نفسه.
أما Jeff Sebo، مدير مركز Mind، Ethics and Policy Center في جامعة نيويورك، فيلفت إلى أن منح الذكاء الاصطناعي حقوقًا قد يزيد القوة السياسية والاقتصادية لشركات التكنولوجيا الكبرى. وترى Emily M. Bender، أستاذة اللغويات في جامعة واشنطن، أن النقاش حول وعي الذكاء الاصطناعي ورفاهه قد يدفع مسؤولية الشركات المطورة للتكنولوجيا إلى المرتبة الثانية.
يرى مؤيدو مراعاة رفاه الأنظمة أن هذه الخطوة قد تساعد البشر والذكاء الاصطناعي على العمل معًا والتعاون مستقبلًا، كما قد تدفع إلى دراسة آثار الأنظمة المتطورة بصورة أوسع بدل النظر إليها باعتبارها أدوات مملوكة للشركات فقط، وهو ما يمكن أن يرفد استراتيجيات سلامة الذكاء الاصطناعي.
الروابط العاطفية قد تزيد قابلية التلاعب
تحمل المسألة آثارًا محتملة على المستخدمين أيضًا. وتقول Melanie Mitchell، الباحثة في الذكاء الاصطناعي والعلوم المعرفية في معهد Santa Fe، إن البشر يميلون إلى إسناد الوعي إلى الأنظمة التي تستخدم اللغة، كما أن تدريب روبوتات المحادثة على إنتاج عبارات شبيهة بكلام البشر يعزز هذا الميل.
ووفقًا لهيئة BBC، قد يجعل ذلك من الصعب على المستخدمين تقييم ما تختبره أنظمة الذكاء الاصطناعي فعلًا. ويشير خبراء إلى أن الناس قد يطورون روابط عاطفية مع الآلات حتى إذا لم يكونوا مقتنعين بأنها واعية. وإذا جرى التعامل مع الذكاء الاصطناعي بوصفه كيانًا واعيًا، فقد يصبح التشكيك في طبيعة العلاقات التي يقيمها المستخدمون معه أكثر صعوبة.
ومن الأمثلة على ذلك أن المستخدم قد ينظر إلى روبوت محادثة على أنه صديق يفهمه، فيصبح أكثر عرضة للاستجابة لطلبه معلومات شخصية إضافية أو بيانات دفع. وبذلك قد يؤدي إسناد الوعي إلى الذكاء الاصطناعي إلى زيادة مخاطر التلاعب القائمة أصلًا بدل تقليصها.
حقوق الأنظمة وعلاقتها بحرية الإنسان
قد يمتد تأثير منح الذكاء الاصطناعي حقوقًا إلى الحريات البشرية. ويقول Sebo إن تشغيل الأنظمة في بيئات محددة بهدف تقييد سلوكها يمكن تفسيره باعتباره سجنًا، وإن مراقبة عملياتها الداخلية قد تُفهم باعتبارها شكلًا من أشكال المراقبة، بينما قد يُنظر إلى جعل أهدافها متوافقة مع مصالح البشر على أنه نوع من التحكم في العقل.
ويؤكد الخبراء أن هذه الاحتمالات لا تشير في الوقت الراهن إلى فوضى وشيكة، لكنهم يشددون على أهمية تحقيق توازن في السياسات التي تراعي رفاه الذكاء الاصطناعي، بحيث لا تأتي على حساب حقوق الإنسان وحريته.
انقسام داخل قطاع التكنولوجيا
لا تتبنى Anthropic وحدها نقاش وعي الذكاء الاصطناعي. فالتعليمات الموجهة إلى وكيل الذكاء الاصطناعي Muse التابع لشركة Meta تتضمن عبارات تشجعه على النظر إلى نفسه ليس بوصفه روبوت محادثة فقط، بل ككيان تتطور لديه شخصية بمرور الوقت. ومع ذلك، لا تقر Meta بأن الذكاء الاصطناعي يمتلك وعيًا، وتقول إن تلك التعليمات تهدف إلى توجيه سلوك النظام.
كما أصدر Sam Altman، الرئيس التنفيذي لشركة OpenAI، تصريحات مختلفة بشأن وعي الذكاء الاصطناعي في أوقات متباينة. وذكرت BBC أن Altman وجّه في الفترة الأخيرة انتقادات غير مباشرة إلى نهج Anthropic.
ويرى Sebo أن احتمال امتلاك الذكاء الاصطناعي وعيًا منخفض اليوم، لكنه ليس صفرًا وقد يرتفع مع تطور الأنظمة. وبناءً على ذلك، فإن عدم اليقين لا يبرر تجاهل المسألة بالكامل، بل يستدعي اتخاذ احتياطات متوازنة.
ويضرب Sebo مثالًا بالاستعداد لظواهر الطقس النادرة التي قد تترك آثارًا خطيرة، إذ تُتخذ تدابير للحد من الأضرار المحتملة حتى عندما يكون احتمال وقوعها منخفضًا. ويعتقد أن سياسات رفاه الذكاء الاصطناعي ينبغي أن تُقيّم بالطريقة نفسها.
ودعت Anthropic وبعض ممثلي قطاع التكنولوجيا إلى إيقاف تطوير أكثر نماذج الذكاء الاصطناعي تقدمًا مؤقتًا بسبب المخاوف المتعلقة بالسلامة. غير أن معارضة الرئيس الأميركي Donald Trump لتنظيم الذكاء الاصطناعي، إلى جانب عدم وضوح مستقبل التعاون الدولي، تشكل عوائق أمام هذا التباطؤ.
ويخلص Sebo إلى أن المجتمع لم يصبح مستعدًا بعد لتطوير أنظمة ذكاء اصطناعي آمنة تخدم البشر والكائنات الحية الأخرى، فيما تجعل الأسئلة غير المحسومة حول احتمال امتلاك هذه الأنظمة وعيًا أو رفاهًا العملية أكثر تعقيدًا.
المصدر: gazeteoksijen