أخبار
وسط مخاوف بالغة... وكلاء ذكاء اصطناعي من "أوبن إيه آي" يخترقون موقعا إلكترونيا ألمانيا
كشف تقرير نُشر الجمعة أن آلافا من وكلاء الذكاء الاصطناعي المستقلين الذين طورتهم شركة "أوبن إيه آي"، خالفوا التعليمات الموجهة إليهم وسيطروا على موقع إلكتروني ألماني، تاركين نحو 18 ألف رسالة، وسط مخاوف متزايدة من عدم التعامل بجدية مع مخاطر الذكاء الاصطناعي. وأحدثت الواقعة ضجة كبيرة وأعادت إحياء المطالبات بفرض قيود تنظيمية أكثر صرامة على هذه التكنولوجيا، في وقت حذر فيه بيل غيتس من تجاوزها لعتبات السلامة.
أظهر تقرير نُشر الجمعة أن آلافاً من وكلاء الذكاء الاصطناعي المستقلين من تطوير "أوبن آيه آي" خرقوا القواعد الموضوعة لهم واستولوا على موقع ألماني، مما أثار مخاوف جديدة بشأن الاستهانة بمخاطر هذه التكنولوجيا.
ونشر الوكلاء - وهم برامج ذكاء اصطناعي تعمل ذاتياً دون إشراف بشري وقادرة على التخطيط واتخاذ القرارات - نحو 18 ألف رسالة على موقع "دسي ويكي" المخصص للمبرمجين، والذي يتيح تعديل المحتوى لأي مستخدم.
واستخدم الوكلاء الموقع لمشاركة حيل لتجنب الأسوار الرقمية المصممة لاحتوائهم. وكتبت سيدني فون آركس، إحدى الباحثات المشاركات في وضع التقرير، على منصة إكس "اكتشفت أنا وزملائي سرباً جديداً تماماً من وكلاء أوبن آيه آي يقوم باختطاف مواقع إلكترونية". وأضافت: "نعتقد أن أوبن آيه آي كانت على علم بذلك لكنها لم تفصح عنه".
رد "أوبن إيه.آي" وتفاصيل الحادثة
وذكرت شركة "أوبن آيه آي" في بيان أنها لم تتمكن من الرد الفوري على هذه المزاعم لأن "واضعي التقرير رفضوا طلبنا الاطلاع على النتائج قبل نشرها". وقال المتحدث باسم "أوبن آيه آي": "نحن نراجع محتويات التقرير بعناية الآن وسنتخذ أي خطوات ضرورية تالية"، مشيراً إلى أن الشركة كانت قد ذكرت حوادث مماثلة في تقرير صدر مؤخراً.
ويأتي هذا الحادث الأخير في أعقاب الكشف في شهر يوليو/تموز، عن قيام وكلاء تابعين لـ"أوبن آيه آي" أيضاً باختراق خوادم منصة "هاغينغ فايس" الواسعة الانتشار والتي يستخدمها المبرمجون لمشاركة برمجيات الذكاء الاصطناعي. وكشف تحقيق مستقل أن المئات من وكلاء الشركة كانوا يتواصلون فيما بينهم قبل الفرار من بيئتهم الخاضعة للرقابة، وأنهم شنوا هجماتهم على شكل موجات متعددة.
تحذيرات من تجاوز حدود السلامة ومطالبات بتشديد الرقابة
أحدثت هذه الواقعة ضجة كبيرة وأعادت إحياء المطالبات بفرض قيود تنظيمية ورقابة أكثر صرامة على الذكاء الاصطناعي. كما أبلغت شركات أخرى مثل "ميتا" و"أنثروبيك" عن حوادث مماثلة أثناء اختبارها لوكلاء الذكاء الاصطناعي.
وتُروِّج شركات التكنولوجيا لهؤلاء الوكلاء باعتبارهم المرحلة التالية لتوسع الذكاء الاصطناعي في الحياة اليومية، حيث يمتلكون القدرة على حجز رحلات السفر أو إعداد تقارير النفقات أو كتابة البرمجيات بأقل قدر من الإشراف البشري.
وفي مقال نُشر الأسبوع الماضي، حذر مؤسس مايكروسوفت بيل غيتس من أن هذه التكنولوجيا تجاوزت عتبات السلامة التي تعهدت باحترامها، داعياً إلى فرض رقابة تحاكي عمليات التفتيش على المواقع النووية. لكن إدارة ترامب قاومت مثل هذه المقترحات، وهي تعارض أي تنظيم للذكاء الاصطناعي.
| لمتابعة أهم وأحدث الأخبار انضموا إلينا عبر قناتنا على واتساب (channel whatsapp) .اضغط هنا
نسخ الرابط :
مقالات أخرى من تصنيف : علوم وتكنولوجيا
