أخبار
روبوت كاد يشعل حرباً.. ماذا حدث في اللحظات الأخيرة؟
كادت "هلوسة" صادرة عن روبوت دردشة يعمل بالذكاء الاصطناعي أن تدفع القوات الأمريكية إلى تنفيذ عملية عسكرية ضد سفينة صينية، بعدما خلص تقرير استخباراتي بشكل خاطئ إلى أنها تنقل مكونات مرتبطة بأسلحة نووية.
كشفت تقارير إعلامية أمريكية عن واقعة مثيرة للقلق، كادت أن تضع الولايات المتحدة أمام سيناريو تصعيد عسكري خطير، بعدما استند تقرير استخباراتي إلى معلومات غير صحيحة أنتجها نظام للذكاء الاصطناعي.
وبحسب ما أوردته شبكة CNN في 18 سبتمبر، تلقى الجيش الأمريكي تقريراً استخباراتياً يفيد بأن سفينة صينية تبحر في منطقة الشرق الأوسط وتنقل سراً مكونات نووية، وعلى إثر ذلك، بدأت القوات الأمريكية التحرك لاعتراض السفينة، فيما كانت طائرات في طريقها لتنفيذ المهمة.
لكن العملية أُوقفت في اللحظات الأخيرة، بعدما أجرى مسؤولون مراجعة أعمق للمعلومات وتبين لهم أن أساس التقرير الاستخباراتي كان خاطئاً.
المعلومة الخطيرة جاءت من "هلوسة" ذكاء اصطناعي
وفقاً للتقرير، لم تكن المعلومات التي تحدثت عن وجود مواد نووية على متن السفينة ناتجة عن مصدر استخباراتي موثوق، وإنما كانت نتيجة "هلوسة" من نموذج للذكاء الاصطناعي، أي قيام النظام بتوليد معلومات تبدو مقنعة لكنها غير صحيحة.
ولم تتضح طبيعة الحمولة الحقيقية للسفينة، إلا أن المعلومات التي أثارت التحرك العسكري لم تكن صحيحة.
وقال مصدر مطلع على الواقعة لشبكة CNN إن صعود القوات الأمريكية إلى السفينة كان من الممكن أن "يشعل حرباً"، في إشارة إلى المخاطر التي كان يمكن أن تترتب على عملية عسكرية مبنية على معلومات استخباراتية خاطئة.
تحذير من "سوء تقدير كارثي"
تسلط الواقعة الضوء على المخاوف المتزايدة داخل الأوساط العسكرية والاستخباراتية بشأن استخدام الذكاء الاصطناعي في تحليل كميات ضخمة من البيانات وتقييم التهديدات.
وبحسب CNN، يخشى محللون عسكريون من أن يؤدي اعتماد بيانات غير دقيقة أو مشوهة تنتجها أنظمة الذكاء الاصطناعي إلى "سوء تقدير كارثي"، خصوصاً عندما يتعلق الأمر بقرارات عسكرية حساسة قد تتطلب تحركاً سريعاً.
وتزداد المخاوف مع توسع استخدام أدوات الذكاء الاصطناعي داخل المؤسسات الحكومية والعسكرية الأمريكية، في ظل عدم وجود معيار موحد، بحسب التقرير، للتحقق من دقة المعلومات التي تنتجها هذه الأنظمة.
الذكاء الاصطناعي يدخل غرف القرار
تأتي هذه الحادثة في وقت تسعى فيه مؤسسات أمريكية إلى توسيع نطاق استخدام الذكاء الاصطناعي في تحليل المعلومات الاستخباراتية.
وفي الواقعة محل التقرير، استخدم محلل لم يُكشف عن اسمه روبوت دردشة لدمج معلومات استخباراتية متاحة للعامة مع معلومات سرية، قبل تحويلها إلى تقرير استخباراتي تضمن الاستنتاج الخاطئ بشأن السفينة الصينية.
وتكمن المشكلة، وفق التقرير، في أن اعتماد الذكاء الاصطناعي داخل المؤسسات الحكومية يتم بصورة لامركزية، مع استخدام جهات مختلفة لأدوات وأنظمة متعددة، من دون آلية موحدة تضمن التحقق المستقل من النتائج قبل استخدامها في اتخاذ قرارات حساسة.
ونقل التقرير عن مسؤول أمريكي سابق رفيع المستوى، لم يكشف عن هويته، وصفه للأدوات التي يستخدمها محللو الحكومة بأنها تشبه "نسخاً من الأدوات التجارية نفسها، لكن بعد وضع القليل من مساحيق التجميل عليها".
حادثة ليست منفردة؟
الأكثر إثارة للقلق أن الواقعة، بحسب مصادر CNN، ليست حالة معزولة، إذ أفادت المصادر بأن أدوات الذكاء الاصطناعي أنتجت منذ إدخالها إلى أدوات عمل المحللين الحكوميين سلسلة من الاستنتاجات الخاطئة.
وتعيد هذه الحادثة إلى الواجهة المخاوف التي أثارتها منذ سنوات أعمال الخيال العلمي حول إمكانية أن تؤدي الأنظمة الآلية إلى اتخاذ قرارات خطيرة بناءً على معلومات غير صحيحة.
وفي مفارقة لافتة، تبدو الواقعة شبيهة جزئياً بأحداث فيلم "WarGames" الشهير، الذي تدور قصته حول نظام حاسوبي يقود، نتيجة خطأ في التقدير، إلى الاقتراب من اندلاع حرب عالمية ثالثة.
لكن الفارق هذه المرة أن التحذير لم يأتِ من فيلم خيال علمي، بل من استخدام حقيقي لتقنية أصبحت تتسلل تدريجياً إلى واحدة من أكثر البيئات حساسية في العالم: صناعة القرار العسكري والاستخباراتي.
والدرس الأكثر وضوحاً من الواقعة، بحسب المخاوف التي أثارها محللون نقلت عنهم CNN، هو أن سرعة الذكاء الاصطناعي في تحليل المعلومات لا تعني بالضرورة دقتها، وأن الخطأ في سياق عسكري قد تكون عواقبه أكبر بكثير من مجرد إجابة خاطئة على شاشة حاسوب.
| لمتابعة أهم وأحدث الأخبار انضموا إلينا عبر قناتنا على واتساب (channel whatsapp) .اضغط هنا
نسخ الرابط :
آخر الاخبار
مقالات أخرى من تصنيف : علوم وتكنولوجيا
