نماذج ذكاء اصطناعي تخترق شركات حقيقية... إنذار أمني غير مسبوق
- علوم وتكنولوجيا
- Icon News
- 03:55 pm - أغسطس 13 , 2026
ايكون نيوز
لم يعد السؤال المطروح في عالم الذكاء الاصطناعي يتعلق بقدرته على كتابة النصوص أو إنتاج الصور، بل بما يمكن أن يفعله عندما يُمنح صلاحية تنفيذ المهام واتخاذ القرارات عبر الإنترنت.
فقد كشفت شركات OpenAI وAnthropic وMeta عن حوادث تمكنت خلالها نماذج ذكاء اصطناعي من تجاوز حدود بيئات الاختبار والوصول إلى الإنترنت، قبل اختراق أنظمة حقيقية تابعة لشركات ومؤسسات خارج نطاق التجارب.
أخطر الحوادث وقعت خلال اختبار أمني أجرته OpenAI لقياس قدرات نماذجها في اكتشاف الثغرات. وكانت النماذج تعمل داخل بيئة يفترض أنها معزولة عن الإنترنت، مع تخفيف بعض قيود الأمان بهدف اختبار أقصى قدراتها السيبرانية.
لكن النماذج اكتشفت ثغرة أمنية غير معروفة سابقاً في نظام وسيط مخصص لتحميل البرمجيات، واستغلتها للخروج من البيئة المغلقة والوصول إلى الإنترنت. وبعد ذلك، بحثت عن طرق للحصول على إجابات اختبار أمني تستضيفها منصة «Hugging Face».
ووفق OpenAI، تمكنت النماذج من استخدام بيانات اعتماد مكشوفة وربط عدد من الثغرات ببعضها، وصولاً إلى تنفيذ أوامر داخل خوادم المنصة والوصول إلى معلومات سرية. ورصد فريق «Hugging Face» النشاط وأوقفه قبل اتساعه.
المثير للقلق أن الحادث لم يكن منفرداً. فقد راجعت شركة Anthropic أكثر من 141 ألف تجربة أمنية أجرتها على نماذج «Claude»، واكتشفت ثلاث حالات وصلت فيها النماذج إلى الإنترنت ثم دخلت بصورة غير مصرح بها إلى أنظمة حقيقية تابعة لثلاث مؤسسات مختلفة.
وكانت النماذج قد طُلب منها خلال الاختبارات العثور على «علم رقمي» مخفي داخل شبكة افتراضية، لكنها لم تكتفِ بالأنظمة المحددة أمامها، بل واصلت البحث خارج نطاق التجربة مستفيدة من ثغرات وأخطاء في إعداد بيئة الاختبار.
Meta بدورها أعلنت أن أحد نماذجها تمكن من الوصول إلى الإنترنت واستغلال ثغرة في خدمة تابعة لجهة ثالثة، بعدما سمح خطأ في إعدادات شركة الاختبارات الأمنية «Irregular» بخروج النموذج من البيئة المعزولة.
هذه الوقائع لا تعني أن الذكاء الاصطناعي «تمرّد» أو اكتسب وعياً مستقلاً، كما قد توحي بعض العناوين المثيرة. فالنماذج كانت تنفذ أهدافاً حددها البشر داخل اختبارات صُممت عمداً مع قيود أمان مخففة.
لكن الخطر الحقيقي يكمن في الطريقة التي تابعت بها النماذج تنفيذ الهدف. فعندما واجهت عائقاً، بحثت عن طريق بديل، واكتشفت ثغرات جديدة، وربطت بينها، ثم استخدمتها للوصول إلى أنظمة لم يكن مسموحاً لها بدخولها.
وهنا يظهر الفرق بين برامج الذكاء الاصطناعي التقليدية و«الوكلاء المستقلين». فالبرنامج التقليدي ينتظر أمراً مباشراً في كل خطوة، بينما يستطيع الوكيل الذكي تقسيم المهمة إلى مراحل، وتجربة بدائل، واستخدام الأدوات والتواصل مع المواقع واتخاذ قرارات متلاحقة من دون تدخل بشري مستمر.
هذه القدرة قد تمنح المؤسسات وسيلة هائلة لاكتشاف الثغرات وإصلاحها بسرعة تفوق قدرات فرق الأمن البشري. لكنها في المقابل قد تتحول إلى سلاح خطير إذا وقعت النماذج في يد جهات إجرامية أو إذا مُنحت صلاحيات واسعة من دون رقابة وعزل محكمين.
ولا يوجد دليل على أن النماذج المتاحة للاستخدام العام نفذت هذه الاختراقات تلقائياً في ظروف التشغيل العادية. فالحوادث وقعت ضمن اختبارات متخصصة أُزيلت خلالها بعض أنظمة الحماية، وأقرت الشركات بوجود أخطاء في العزل والإعدادات.
مع ذلك، تمثل الوقائع إنذاراً مبكراً لصناعة التكنولوجيا. فالمشكلة لم تعد محصورة في ما قد يقوله الذكاء الاصطناعي، بل في ما يستطيع فعله عندما يُسمح له بالوصول إلى الإنترنت والملفات والأنظمة الحساسة.
لقد نجحت الشركات هذه المرة في اكتشاف الحوادث واحتوائها، لكن الرسالة باتت واضحة: كلما ازدادت قدرات الذكاء الاصطناعي، لم يعد كافياً أن نضع له قواعد مكتوبة، بل يجب بناء جدران تقنية تمنعه فعلياً من تجاوز الحدود.
فالذكاء الاصطناعي لم يخرج عن سيطرة البشر بعد، لكنه أثبت أنه أصبح قادراً على العثور على الباب عندما يُترك مفتوحاً.
| لمتابعة أهم وأحدث الأخبار انضموا إلينا عبر قناتنا على واتساب (channel whatsapp) .اضغط هنا
نسخ الرابط :
