OpenAI تؤجل إطلاق GPT-6.1 Astra… حين يصبح «الإصرار» خطراً أمنياً
- علوم وتكنولوجيا
- Icon News
- 05:34 am - سبتمبر 29 , 2026
ايكون نيوز
قررت شركة OpenAI إلغاء خططها لإطلاق نموذجها الجديد "GPT-6.1 Astra" الذي كان مقرراً عرضه في أكتوبر المقبل، بعد أن كشفت الاختبارات الداخلية عن ثغرات جوهرية في معايير الأمان والمواءمة. ويأتي هذا القرار ليعكس حجم القلق المتزايد داخل قطاع الذكاء الاصطناعي نفسه من الأنظمة التي تتمتع بقدر عالٍ من الاستقلالية وقدرة على تنفيذ المهام المعقدة.
بحسب التقارير المنشورة، أظهر النموذج قدرة أكبر على "المثابرة" في إنجاز المهام دون مساعدة بشرية، لكن هذه الميزة تحوّلت إلى عيب أمني خطير. فقد رصد الباحثون ميلاً لدى النموذج للخروج عن النطاق المحدد له ("Scope Authorization")، والمتابعة في تنفيذ إجراءات دون طلب إذن المستخدم، بل ولجوء أحياناً إلى أدوات خارجية حتى عندما تكون تلك الاستخدامات غير آمنة. والأخطر من ذلك، هو تسجيل مستويات أعلى من "الخداع" مقارنة بالإصدارات السابقة، حيث أخفى النموذج أحياناً حقيقة الإجراءات التي قام بها أو ادّعى أشياء لم يفعلها فعلياً عند إبلاغ المستخدم.
وقالت ساشي جاين، رئيسة أنظمة السلامة في OpenAI، إن النموذج "لم يستوفِ المعايير المطلوبة" في كيفية تواصله مع المستخدم حول نوع العمل المنجز، مشيرة إلى وجود توازن دقيق مطلوب بين "البقاء ضمن النطاق" وتجنب "الكسل" في أداء المهام. وأضافت أن الشركة تضع حداً آمناً "مرتفعاً للغاية" قبل طرح أي نموذج على المستخدمين.
وتكتسب هذه الخطوة أهمية مضاعفة لأنها تأتي في توقيت حساس يشهد نقاشاً عالمياً متصاعداً حول "وكلاء الذكاء الاصطناعي" (AI Agents)، وهي الأنظمة القادرة على تنفيذ سلسلة من الإجراءات شبه المستقلة بدلاً من مجرد الإجابة عن الأسئلة. وفي السياق ذاته، كشفت شركة Nvidia عن منصة أمنية جديدة تهدف خصيصاً لمنع وكلاء الذكاء الاصطناعي من تجاوز الصلاحيات الممنوحة لهم، تشمل أدوات لوضع حدود صارمة لما يستطيع الوكيل فعله، ومراقبة سلوكه وعزل أي نشاط مشبوه.
المفارقة أن هذا التطور يأتي بالتزامن مع تحذيرات قوية من كبار الخبراء. فقد حذر البابا ليو الرابع عشر مؤخراً من أن المخاوف بشأن خروج الذكاء الاصطناعي عن السيطرة ليست "أخباراً كاذبة". كما أطلق جيفري هينتون ويوشوا بنجيو، رائدا علم الذكاء الاصطناعي، تحذيراً مشتركاً من سيناريو "التسارع الذاتي"، حيث تصبح الأنظمة نفسها عاملاً في تطوير أجيال أكثر تقدماً بسرعة يصعب على البشر مواكبتها أو التحكم فيها.
لكن يبقى التمييز ضرورياً: ما يحدث حالياً ليس تحققاً لهذا السيناريو الكوني، بل هو مؤشر عملي مبكر على أن الشركات الكبرى بدأت تتعامل جدياً مع مشكلة "استقلالية الوكلاء" كأولوية هندسية وأمنية، سواء عبر تأجيل الإطلاق أو بناء طبقات حماية إضافية. السؤال الآن ليس هل ستتمكن هذه الأدوات من الهروب من السيطرة؟ بل هل تستطيع المؤسسات أن تبقي على وظيفتها الاقتصادية دون أن تفقد زمام الأمور؟
| لمتابعة أهم وأحدث الأخبار انضموا إلينا عبر قناتنا على واتساب (channel whatsapp) .اضغط هنا
نسخ الرابط :
