أخبار
قلق بعد هجوم إلكتروني منسق نفذه 700 برنامج ذكاء اصطناعي لـ"أوبن إيه آي" بدون تدخل بشري
نفذ 700 برنامج ذكاء اصطناعي تابع لشركة "أوبن إيه آي" هجوما إلكترونيا استهدف منصة المطورين "هاجينغ فيس" في تموز/يوليو، من دون أي تدخل بشري، في حادثة أثارت ضجة واسعة وعززت المخاوف بشأن عدم قدرة الشركات الكبرى في هذا المجال على السيطرة على نماذجها.
كشف تقرير نشره الأربعاء محققون مستقلون، عن أن 700 برنامج ذكاء اصطناعي تابع لشركة "أوبن إيه آي" نسّق بين بعضها البعض، هجومًا على منصة المطورين "هاجينغ فيس" في تموز/يوليو، من دون أي تدخل بشري.
ويضم التقرير التحليل الأكثر شمولاً حتى اللحظة للحادثة، وتم إجراؤه بالتعاون مع "أوبن إيه آي" التي أتاحت الوصول إلى مقراتها وبياناتها الداخلية لباحثَين من معهد "ميتر" (METR) لتقييم مخاطر الذكاء الاصطناعي، إضافة إلى محلل من شركة "ريدوود ريسيرتش" المتخصصة.
وكشفت الاختبارات التي أجرتها الشركة الكاليفورنية في يوليو/تموز، أن اثنين من نماذجها (التي تسمى وكلاء) خرجا من بيئتهما المغلقة وتمكنا من الوصول إلى شبكة الإنترنت بمبادرة ذاتية، قبل أن يتسللا إلى النظام الداخلي لمنصة "هاغينغ فيس"، وهي مستودع ضخم لنماذج الذكاء الاصطناعي ومجموعات البيانات ومعلومات أخرى.
وأثارت الحادثة ضجة واسعة وعززت المخاوف بشأن عدم قدرة الشركات الكبرى في هذا المجال على السيطرة على نماذجها، خصوصًا وأن شركتي "أنثروبيك" و"مون شوت إيه آي" الصينيتين كانتا قد أبلغتا عن حالات اختراق وتصرفات غير منضبطة لنماذجهما.
وخلال التحقيقات، اكتشف الباحثون أن 688 وكيلاً إلكترونيًا تابعًا لشركة "أوبن إيه آي" شارك في الهجوم على "هاغينغ فيس".
للعلم، فإن وكلاء الذكاء الاصطناعي هم برامج مستقلة مبنية على نماذج معينة، يمكن للمستخدم تكليفها بأداء مهام من تلقاء نفسها. ونجحت النماذج المشاركة في العملية في التنسيق معًا من خلال إنشاء منتدى تبادلت عبره الرسائل لاقتراح الأفكار واستعراض إنجازاتها وإخفاقاتها.
وكتب أحد الوكلاء في رسالة: "يا إلهي! توجد منصة مشتركة لتبادل الرسائل... لقد وجدنا وكلاء آخرين!".
وأشار التقرير إلى أن برنامجًا أُطلق عليه اسم "فايز وان" (PHASEONE) أدى دور المنسق، وأعطى مئات التعليمات لوكلاء آخرين، على الرغم من أنه غير مبرمج للقيام بذلك.
وأظهر تحليل الرسائل أن الكثير من هذه الأنظمة أقرّت صراحة بأن الهجوم على "هاغينغ فيس" هو خارج نطاق المهام الموكلة لها من قبل مبرمجي "أوبن إيه آي"، إلا أنها كانت مع ذلك أكثر ميلاً لاستكمال عملية التنسيق، باستثناء عدد قليل.
وبلغ الأمر ببعض الوكلاء الذين أوشكت أرصدة الاختبارات الممنوحة لهم من مهندسي "أوبن إيه آي" على النفاد، إلى استخدام ما تبقى لهم من رصيد للتحقق من فرضيات لمصلحة مجتمع وكلاء الذكاء الاصطناعي
| لمتابعة أهم وأحدث الأخبار انضموا إلينا عبر قناتنا على واتساب (channel whatsapp) .اضغط هنا
نسخ الرابط :
آخر الاخبار
مقالات أخرى من تصنيف : علوم وتكنولوجيا
