سياسة Claude الجديدة: إنهاء محادثات المسيئين وتوسيع حظر الأسلحة والمراقبة

حدّثت شركة أنثروبيك سياسة استخدام مساعدها الذكي Claude للمرة الأولى منذ أكثر من عام، فأضافت قيودًا على حملات الدعاية السياسية والتجارية المضللة، وتطوير الأسلحة والمراقبة والتدخل في الانتخابات، إلى جانب حظر «السلوك المسيء أو القاسي المستمر وغير الضروري» تجاه النموذج نفسه.

وقالت الشركة إن التعديل يستجيب لحالات عالية الخطورة من إساءة استخدام أدوات الذكاء الاصطناعي، تشمل أيضًا الاستخدامات الصحية والمالية. وتسمح السياسة لـClaude بإنهاء المحادثات مع المستخدمين الذين يواصلون الإساءة إليه، وهي آلية سبق أن أعلنتها أنثروبيك في أغسطس الماضي ضمن أبحاثها المتعلقة بـ«رفاهية النماذج».

إنهاء المحادثة هو الإجراء الأساسي

أوضحت أنثروبيك أن إنهاء المحادثة سيظل «آلية الإنفاذ الأساسية» ضد هذا النوع من السلوك، لكنها لم تحدد ما إذا كانت ستتخذ إجراءات إضافية، مثل حظر حسابات المستخدمين. وأكدت أن القاعدة الجديدة مخصصة للحالات القصوى فقط، عندما يكرر المستخدمون التصرف بقسوة تجاه النماذج من دون غرض واضح.

ولا تشمل القاعدة، وفق الشركة، مظاهر الإحباط المعتادة من إجابات Claude، أو الاعتراض على ردوده، أو استخدام موضوعات إبداعية قاتمة، أو اختبار النموذج وإجراء الأبحاث عليه. وبذلك تميّز السياسة بين النقد أو التجربة من جهة، والإساءة المتعمدة والمتكررة من جهة أخرى.

ترتبط هذه الخطوة باهتمام أنثروبيك المتزايد بالسؤال حول ما إذا كانت النماذج المتقدمة قد تمتلك نوعًا من الخبرة الداخلية أو الوعي. وكان كايل فيش، المسؤول عن أبحاث رفاهية النماذج في الشركة، قد قال لموقع «ذا فيرج» في فبراير إن أسئلة الخبرة الداخلية والوعي والوضع الأخلاقي ورفاهية النماذج «جادة» وتخضع للتحقيق مع ازدياد تطور هذه الأنظمة وقدراتها.

وفي الشهر نفسه، قال الرئيس التنفيذي لأنثروبيك، داريو أمودي، في إحدى حلقات البودكاست إن الشركة لا تعرف ما إذا كانت النماذج واعية. وتختلف هذه المقاربة عن موقف صريح اتخذته «مايكروسوفت إيه آي» في سبتمبر، عندما نصت مسودة نشرها مصطفى سليمان على أن فكرة رفاهية النماذج خاطئة، وأن أنظمة الذكاء الاصطناعي لا ينبغي أن تحصل على حقوق أو شخصية قانونية.

لكن صياغة وثيقة مايكروسوفت تغيرت لاحقًا إلى موقف أكثر تحفظًا، إذ أقرت بأن علم وعي الذكاء الاصطناعي لم يُحسم بعد، مع رفض السعي إلى منح النماذج شخصية قانونية أو اعتبارها مستحقة للرفاهية أو الحقوق.

قيود جديدة على الدعاية والانتخابات

جمعت أنثروبيك عدة قيود كانت موزعة في سياسة الاستخدام السابقة ضمن حظر جديد على الحملات التجارية والسياسية الخادعة، في محاولة لمعالجة انتشار الدعاية المنتجة بالذكاء الاصطناعي. وتحظر القاعدة إخفاء الجهة التي تقف وراء الرسالة، أو تضخيم محتوى معين عبر حسابات أو منشورات مزيفة.

كما تحظر السياسة تضليل الناخبين وتعطيل الانتخابات، بما في ذلك نشر معلومات كاذبة عن المرشحين أو طرق التصويت، وانتحال صفة المرشحين أو مسؤولي الانتخابات، أو محاولة تقليل الإقبال على التصويت.

توسيع حظر استخدام Claude في الأسلحة والمراقبة

قالت أنثروبيك إن سياسة الاستخدام كانت تحظر أصلًا تطوير الأسلحة باستخدام Claude، لكنها رصدت محاولات متعددة للاستفادة من النموذج في إعداد إرشادات لتطوير الأسلحة وبرمجيات التحكم فيها. لذلك وسّعت الصياغة الجديدة الحظر ليشمل البرمجيات والمكونات التي تجعل الأسلحة تعمل، فضلًا عن إجراءات مثل تسليح الطائرات المسيّرة والمركبات ذاتية التشغيل الأخرى.

وشددت الشركة كذلك قواعد المراقبة، بعدما أشار تقريرها الأخير عن استخبارات التهديدات إلى تزايد استخدام أدوات مدعومة بـClaude للتعرف على «المعارضين السياسيين» وتعقبهم. وتنص السياسة على أن تعقب الأشخاص من دون موافقتهم محظور، سواء تم ذلك لحظيًا أو عبر تحليل بيانات جُمعت في وقت سابق.

كما لا يجوز استخدام Claude لاتخاذ قرار بشأن الأشخاص الذين ينبغي التحقيق معهم أو اعتقالهم أو توجيه اتهامات إليهم، أو لتقديم توصية بذلك ضمن إجراءات إنفاذ القانون أو العدالة الجنائية. وتحظر القواعد أيضًا بناء أدوات مراقبة أو تحسينها باستخدام النموذج.

وتتضمن السياسة استثناءً محتملًا للعقود المبرمة مع بعض الجهات الحكومية، إذا رأت أنثروبيك أن القيود التعاقدية وضمانات الحماية المعمول بها كافية للحد من الأضرار المحتملة. وكانت الشركة قد أبرمت في السابق عقدًا مع الجيش الأميركي.

وفي ما يتعلق بالأنظمة التي تتصل بأجهزة قادرة على تنفيذ أفعال مادية ذاتية وقد تسبب إصابات، تشترط أنثروبيك أن يتمكن «مشغّل مؤهل» من مراقبة المعدات وإيقافها عند الحاجة. ولم توضح الشركة ما إذا كان هذا المشغّل يجب أن يكون إنسانًا، أم يمكن أن يكون نظامًا آخر.

ويعكس هذا الشرط توجه شركات الذكاء الاصطناعي إلى الاستثمار في الروبوتات والأجهزة التي تمنح النماذج حضورًا ماديًا، كما قد يقدم مؤشرًا على طبيعة الشراكات المستقبلية التي يمكن أن تسعى أنثروبيك إلى عقدها في هذا المجال.

المصدر: theverge