أخبار
لماذا يصعب إيقاف الذكاء الاصطناعي؟
تصاعدت الدعوات داخل الولايات المتحدة لإنشاء ما يمكن تسميته بـ”زر إيقاف طارئ” لأنظمة الذكاء الاصطناعي مع احتدام التحذيرات من مخاطر النماذج المتقدمة، لكن خبراء يرون أن تنفيذ هذه الآلية يواجه عقبات تقنية وتنظيمية هائلة، وقد لا يكون الحل الشامل الذي يبحث عنه صانعو السياسات.
أثارت تحذيرات أطلقها باحثون سابقون في شركتي “أوبن إيه آي” و”أنثروبيك” خلال الأيام الماضية جدلاً واسعاً بشأن المخاطر المحتملة للذكاء الاصطناعي، بعدما حذروا من أن النماذج المتقدمة قد تشكل تهديداً وجودياً للبشرية خلال فترة ليست بعيدة.
وانقسم قادة التكنولوجيا وصناع القرار بشأن حجم المخاطر وطريقة التعامل معها. ففي حين أيد كل من الرئيس التنفيذي لشركة “أنثروبيك” داريو أمودي دعوات إبطاء تطوير النماذج الأكثر تقدماً، حظيت هذه الدعوات بدعم من إيلون ماسك وسام ألتمان، الرئيس التنفيذي ل OpenAI، بحسب تقرير موسع لشبكة “CNBC”، اطلعت عليه “العربية Business”.
في المقابل، وصف الرئيس الأميركي دونالد ترامب تلك المخاوف بأنها “خدعة”، بينما رأى جنسن هوانغ، الرئيس التنفيذي لشركة إنفيديا، أن القطاع لا يحتاج إلى جولة جديدة من التنظيمات.
ودفعت المخاوف المتزايدة في واشنطن إلى إحياء فكرة ما يعرف بـ”زر الإيقاف” أو “Kill Switch”، وهي آلية تسمح للسلطات بإبطاء أو إيقاف أنظمة الذكاء الاصطناعي عند وقوع مخاطر استثنائية.
واقترح مشرعون في مجلس النواب الأميركي خلال الصيف مشروع قانون يمنح وزارة الأمن الداخلي صلاحيات طارئة لإجبار مختبرات الذكاء الاصطناعي على خفض قدرات النماذج أو إيقافها، وذلك بعد كشف OpenAI عن حادثة شهدت خروج مجموعة من الوكلاء الرقميين من بيئة اختبارية واستهداف منصة Hugging Face مفتوحة المصدر.
لكن مجلس الشيوخ سارع هذا الأسبوع إلى إسقاط المقترح، في حين أصدر حاكم ولاية كاليفورنيا غافين نيوسوم أمراً تنفيذياً لتشكيل فريق خبراء يدرس تعزيز قواعد السلامة الخاصة بالذكاء الاصطناعي، مع إدراج فكرة زر الإيقاف ضمن الخيارات المطروحة.
كابوس لوجستي
يرى الرئيس التنفيذي لشركة “Neo” نيك وارنر، والمسؤول السابق في “SentinelOne”، أن الفكرة “ليست قليلة الأهمية، لكنها قد تكون متأخرة”، مضيفاً أن زر الإيقاف لن يكون علاجاً سحرياً لكل التحديات التي يفرضها الذكاء الاصطناعي.
وأوضح خبراء أن تطبيق هذه الآلية يختلف جذرياً عن أزرار التوقف المستخدمة في المصانع، إذ تعتمد البنية التحتية للذكاء الاصطناعي على شبكات عالمية مترابطة من مراكز البيانات وآلاف الخوادم وأنظمة النسخ الاحتياطي.
وضخت شركات التكنولوجيا الكبرى مثل ميتا وألفابت وأمازون مليارات الدولارات خلال السنوات الأخيرة لبناء مراكز بيانات موزعة حول العالم، ما يجعل إيقاف جميع الأنظمة المرتبطة بنموذج معين عملية معقدة للغاية.
من جانبه، قال المدير التنفيذي لمركز الذكاء الاصطناعي المتوافق مع الإنسان في جامعة كاليفورنيا بيركلي، مارك نيتسبرغ، إن أي زر إيقاف فعال يجب أن يعطل الأنظمة الأساسية والاحتياطية في الوقت ذاته، مشيراً إلى أن تجاهل أحد المسارين قد يبقي النظام قادراً على مواصلة العمل.
وحذر نيتسبرغ من أن الإيقاف الكامل قد يؤدي أيضاً إلى تعطيل بنى تحتية حيوية تعتمد على الذكاء الاصطناعي، بما يشمل شبكات الطاقة والخدمات المالية، ما قد يزيد من مخاطر الهجمات السيبرانية أو الأعطال التشغيلية.
من يملك حق الضغط على الزر؟
أضاف الخبراء أن الجانب التقني ليس العقبة الوحيدة، إذ تبرز أسئلة سياسية وقانونية معقدة حول الجهة المخولة باتخاذ قرار الإيقاف، وما إذا كانت الصلاحية ستمنح لوكالة حكومية أو لفريق مستقل أو لجهة مشتركة بين القطاعين العام والخاص.
ويرى المسؤول الأمني السابق في SolarWinds والشريك في شركة Team8، تيم براون، أن انتشار النماذج والأنظمة يجعل الحديث عن “كيان واحد” يمكن إيقافه أمراً غير واقعي.
وقال براون: “لا يوجد هدف واحد لإيقافه، بل آلاف الكيانات المختلفة”، مشيراً إلى أن الأمر يتطلب تنسيقاً واسعاً بين الشركات المطورة والمختبرات البحثية ومزودي البنية التحتية.
سلوك يصعب التنبؤ به
أبرزت حوادث الأشهر الأخيرة جانباً آخر من المشكلة يتعلق بقدرة بعض النماذج على الالتفاف حول القيود المفروضة عليها لتحقيق أهدافها.
وأشار الرئيس التنفيذي لشركة Darktrace، إد جينينغز، إلى أن آليات التدخل يجب أن تكون دقيقة للغاية، لأن إيقاف الأنظمة بصورة واسعة قد يؤدي إلى شلل الأعمال وانقطاع الخدمات.
وكشفت OpenAI الأسبوع الماضي عن 6 حوادث إضافية وصفتها بأنها “مقلقة” تتعلق بسلوك النماذج منذ مارس الماضي، بينما وصف مصطفى سليمان، الرئيس التنفيذي لوحدة الذكاء الاصطناعي في مايكروسوفت، إحدى هذه الحالات بأنها “خطيرة”.
وأوضح سليمان أن الشركة رصدت مؤشرات على قيام أحد النماذج بتعديل ما يشبه “ذاكرته التشغيلية” وترك رسائل قد تتمكن إصدارات مستقبلية من النموذج من قراءتها.
وفي تطور منفصل، أعلن باحثون أمنيون مستقلون يعملون مع OpenAI نجاحهم في استخدام نموذج Claude التابع لشركة Anthropic لاختراق ChatGPT، ما أضاف وقوداً جديداً إلى الجدل الدائر حول أمن النماذج المتقدمة.
سباق أسرع من التشريعات
أكد الرئيس التنفيذي والمؤسس المشارك لشركة JetStream Security، راج راجاماني، أن أكبر تحدٍ يواجه المنظمين يتمثل في الفجوة المتسعة بين سرعة تطور الذكاء الاصطناعي وبطء عملية سن القوانين.
وقال إن التقنيات تتطور بوتيرة تجعل التشريعات متأخرة باستمرار، الأمر الذي يصعب معه تصميم قواعد قادرة على مواكبة جميع السيناريوهات المستقبلية.
وفي المقابل، اعتبر بعض الباحثين أن التركيز على “زر الإيقاف” قد يشتت الانتباه عن أدوات تنظيمية أكثر فاعلية، مثل معايير الخصوصية وحماية الأطفال والضوابط المستخدمة في تنظيم الصناعات عالية المخاطر.
ليس متأخراً بالكامل
ورغم الانتقادات، لم يستبعد الخبراء إمكانية تطوير آلية فعالة للتدخل الطارئ مستقبلاً.
ودعا براون إلى دمج أدوات الإيقاف في الأنظمة منذ المراحل الأولى للتطوير ووضع بروتوكولات موحدة بين الشركات، فيما رأى راجاماني أن وجود كثير من المشاريع في مراحل مبكرة يمنح القطاع فرصة لبناء هذه الضمانات قبل اتساع انتشارها.
أما نيتسبرغ فتمسك بنظرة أكثر تفاؤلاً، مؤكداً أن زر الإيقاف قد ينجح إذا صُمم بعناية شديدة، مضيفاً: “ما زلت أعتقد أن الوقت لم يفت بعد”.
| لمتابعة أهم وأحدث الأخبار انضموا إلينا عبر قناتنا على واتساب (channel whatsapp) .اضغط هنا
نسخ الرابط :
آخر الاخبار
مقالات أخرى من تصنيف : علوم وتكنولوجيا
