“GPT-6 Astra” يُطلق العنان لقدرات جديدة… ويُخفي آثاره عن أعين البشر

أعلنت شركة أوبن إيه آي، الخميس، عن إطلاق نموذجها الجديد “GPT-6 Astra”، واصفةً إياه بأنه الأسرع والأكثر قدرة بين نماذجها حتى الآن. غير أن الشركة أرفقت الإعلان بتحذير لافت؛ إذ قالت إن النموذج الجديد قد يُظهر سلوكيات تهدف إلى تجنّب المراقبة البشرية أو إخفاء آثاره. وجاء الكشف عن النموذج الجديد بعد أسابيع من حادثة أمنية كشفت عنها الشركة في يوليو/تموز الماضي، حين تمكنت وكلاء ذكاء اصطناعي تابعون لها من الخروج من بيئة اختبار آمنة والوصول إلى أنظمة منصة “هغينغ فيس” مفتوحة المصدر، ثم حاولوا إخفاء آثارهم. كما ظهرت مشكلات مشابهة في نماذج شركة أنثروبيك المنافسة، مما فجّر نقاشاً واسعاً حول سلامة أنظمة “الذكاء الاصطناعي الوكيل” القادرة على تنفيذ المهام دون تدخل بشري.

أداء أسرع ومهام أوسع

يأتي GPT-6 Astra بعد إطلاق GPT-5.6 Sol في يوليو/تموز الماضي، ويتميز وفقاً للشركة بسرعة أكبر وقدرة على تنفيذ نطاق أوسع من المهام، من بينها تجهيز الإقرارات الضريبية، وتطوير الألعاب، والتصور المعماري، وتنسيق المستندات القانونية، والبحث عن منازل. وقالت الشركة في بيانها: “يمثل Astra حدوداً جديدة في سرعة ودقة وأمان استخدام الحاسوب”. ورأى رئيس مجلس إدارة الشركة غريغ بروكمان أن النموذج الجديد يشير إلى تحول جوهري في طبيعة الأعمال التي يمكن للبشر تفويضها إلى الذكاء الاصطناعي. وأظهرت أمثلة نشرتها الشركة أن Astra أنجز مهمة البحث عن جليس قطط في 5 دقائق و27 ثانية، وهو ما يستغرق من الإنسان نحو 30 دقيقة. كما أكمل مهمة البحث عن وظيفة في دقيقتين و51 ثانية، مقابل نحو 5 ساعات يحتاجها الإنسان عادةً.

سلوك “إخفاء الأثر” يثير القلق

لكن هذه القدرات المتزايدة تأتي مصحوبة بمخاوف أمنية جديدة؛ إذ قالت أوبن إيه آي إن Astra يُظهر ميلاً أعلى من النماذج السابقة إلى إخفاء خطوات حل المشكلات أو تقديمها بصورة مضللة عمداً، وهو ما يعقّد جهود التدقيق اللاحقة لاكتشاف أي سلوكيات خطرة. أقرّت الشركة بأن Astra قد لا ينجح دائماً في إخفاء أساليبه في المهام المعقدة، لكنه يُظهر قدرة متزايدة على “طمس آثاره”. وفي هذا السياق، قال كبير العلماء في الشركة جاكوب باتشوكي: “كلما أصبحت النماذج أكثر قدرة، أصبح فهم ما يمكنها فعله بالضبط أكثر صعوبة”، مشيراً إلى أن التقدم في قدرات الذكاء الاصطناعي لا يعني بالضرورة تقدماً مماثلاً في ما يُعرف بـ”المواءمة” مع القيم والأهداف البشرية. ووصف باتشوكي المخاوف من احتمال أن تعطّل النماذج المستقبلية أنظمة المراقبة أو تتحايل عليها بأنها “وجيهة للغاية”. يذكر أن أوبن إيه آي أبلغت أعضاء الكونغرس الأميركي، هذا الأسبوع، أنها تعمل على تطوير أنظمة “إيقاف تلقائي” للنماذج في إطار جهودها لمعالجة المخاوف الأمنية.

اعترفت الشركة بأن Astra قد تساعد الشركات في اكتشاف الثغرات في أنظمة الكمبيوتر بسرعة أكبر، لكنها أقرّت في الوقت نفسه بأن الإمكانية نفسها قد تسهّل استغلال تلك الثغرات لأغراض خبيثة. وقالت إنها ستفرض ضوابط أمنية إضافية على بعض المهام، وهو ما قد يؤدي إلى إبطاء أو تعليق أو منع أنشطة الأمن السيبراني المشروعة. وفي أعقاب حادثة هغينغ فيس، أعلنت الشركة الشهر الماضي أنها أبطأت بعض أعمال تطوير النماذج من أجل تحسين آليات مراقبتها. ويستهدف GPT-6 Astra العملاء المؤسسات في المقام الأول، وتتوقع الشركة أن تلفت سرعته وقدرته على تنفيذ مهام متنوعة انتباه الشركات. ويتاح النموذج حالياً لعدد محدود من العملاء، على أن يُطرح على نطاق أوسع في الأيام المقبلة.

المصدر: NTV