أخبار
"قد يموت الجميع قريبا".. تحذيرات قاتمة من كارثة وشيكة بسبب الذكاء الاصطناعي
ينبغي أخذ تحذير شركة "أنثروبيك" من خطورة الذكاء الاصطناعي على محمل الجد، ولكن دون استخدام ذلك ذريعة لترسيخ هيمنة المختبرات الأميركية أو تصعيد التنافس مع بكين، وذلك وفقا لأليكس كراسودومسكي، الباحث البريطاني البارز والخبير في مجال الإعلام الرقمي والذكاء الاصطناعي وتقنيات الاتصال.
وقال كراسودومسكي، الذي يشغل حاليا منصب مدير برنامج المجتمع الرقمي في معهد "تشاتام هاوس" (المعهد الملكي للشؤون الدولية البريطاني) في تقرير للمعهد إنه في عطلة نهاية الأسبوع، أطلق موظفون حاليون وسابقون في مختبرات الذكاء الاصطناعي الأميركية -إلى جانب قادة هذه المختبرات- تحذيرات قاتمة بشأن كارثة وشيكة قد يسببها الذكاء الاصطناعي.
وقال موظف سابق بأحد المختبرات إن خروج تطوير الذكاء الاصطناعي عن السيطرة قد يعني "أننا جميعا قد نموت في المستقبل القريب". وتلا ذلك مقترح من داريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك" للذكاء الاصطناعي، بإبطاء وتيرة تطوير الذكاء الاصطناعي لضمان سلامة هذه التقنية. وقد حظي المقترح بتأييد قادة مختبرات أخرى، ومن بينهم سام ألتمان وإيلون ماسك.
وأشار كراسودومسكي إلى أنه لا يمكن لأي مراقب لمجال الذكاء الاصطناعي أن يعترض على أهمية التركيز بشكل أكبر على السلامة أثناء تطوير ونشر هذه التقنية، لكن الاهتمام المتجدد بالمخاطر طويلة الأمد للذكاء الاصطناعي يجب ألا يؤدي إلى إغفال الآثار الحالية لهذه التقنية. كما ينبغي ألا تستخدم هذه القضية كأداة حادة للقضاء على المنافسين للشركات الأميركية الرائدة حاليا في مجال الذكاء الاصطناعي. ولن يكون من الممكن معالجة هذه المسألة دون التوصل إلى نوع من الاتفاق بين الولايات المتحدة والصين.
أوضح كراسودومسكي أن المسار نحو الكارثة -الذي وصفه أمودي وآخرون- يمر عبر تقنية يشار إليها باسم "التحسين الذاتي المتكرر"، وهو نهج لتدريب نماذج الذكاء الاصطناعي بدأ يدخل حيز التنفيذ الفعلي، وإن كان لا يزال في مراحله الأولية.
ويرى كراسودومسكي أنه من غير الواضح ما إذا كان هذا وحده كافيا لإنتاج نماذج ذكاء اصطناعي تهدد السيطرة البشرية، إلا أن قدرات هذه التكنولوجيا تطورت بسرعة فائقة خلال السنوات القليلة الماضية، لدرجة تجعل استبعاد هذا الاحتمال تماما نوعا من التهور.
وقد سارع خبراء إلى الإشارة إلى أن بعض المزاعم التي تم طرحها خلال عطلة نهاية الأسبوع لا تستند إلى أسس متينة بالكامل. وفيما يتعلق بالأمن السيبراني تحديدا، استبعد مؤسس المركز الوطني للأمن السيبراني في المملكة المتحدة خطورة أن يقوم نموذج ذكاء اصطناعي بتعطيل شبكة الإنترنت بأكملها في غضون عام، ووصفها بأنها "تجربة فكرية تم طرحها وكأنها تحذير مبني على أدلة". لكن في الغالب، حظيت رسالة أن الذكاء الاصطناعي يشكل خطرا وجوديا على البشرية في المدى القريب- بتغطية إعلامية واسعة دون معارضة تذكر.
وتحتفظ معظم المختبرات الكبرى بقدرات بحثية كبيرة لدراسة التأثير المحتمل للذكاء الاصطناعي على الاقتصاد العالمي. هذه ثورة تكنولوجية تعيد تشكيل وجه المجتمع العالمي، ولا يمكن ترك آثارها الراهنة دون ضوابط أو تنظيم.. إن الآثار الراهنة حقيقية، والمخاطر قصيرة الأجل كبيرة.
إن المخاطر الممتدة على المدى البعيد -سواء تمثلت في تراجع تدريجي في دور البشر مع تولي الآلات مسؤوليات أكبر، أو في حدوث شيء بشكل مفاجئ أكثر- هي مخاطر محتملة وتنطوي على قدر كاف من التهديد بما يستدعي الاهتمام بها.
وأكد كراسودومسكي أن الشفافية من جانب مختبرات الذكاء الاصطناعي ستكون أمرا بالغ الأهمية، مشيرا إلى أن النوع الذي حدده أمودي في مقترحه- والمتمثل في وجود طرف ثالث أو جهة مستقلة مندمجة داخل مختبرات الذكاء الاصطناعي، تتمتع بصلاحيات مماثلة لصلاحيات الموظفين، ومهمتها تقييم تدابير الحماية التي تتخذها شركات الذكاء الاصطناعي- كان مطلبا يطرحه المدافعون عن حوكمة الذكاء الاصطناعي منذ سنوات.
وقد قوبل اقتراح أمودي بأن تتعاون مختبرات الذكاء الاصطناعي الأمريكية معا لوضع معايير موحدة وتنسيق إبطاء وتيرة العمل بانتقاد لاذع من "ديفيد ساكس"، المسؤول السابق عن ملف الذكاء الاصطناعي في البيت الأبيض، الذي كتب على موقع إكس "توقفوا عن التظاهر بأن قوانين مكافحة الاحتكار يجب أن يتم تعطيلها لتتمكنوا من تشكيل تكتل احتكاري (كارتل)، وتوقفوا عن الادعاء بأنكم بحاجة إلى عملية للحصول على موافقات تنظيمية تتجاوز قواعد مسؤولية المنتج".
وأضاف: "إن المطالبة بإطار تنظيمي تفضلونه باعتباره الثمن... ستبدو وكأنها ابتزاز للجمهور وللنظام السياسي".
ويعكس هذا الموقف مخاوف من أن الضغوط الهائلة التي تواجهها هذه الشركات لتلبية توقعات الإيرادات قد تدفعها لمحاولة توسيع ميزتها التنافسية، أي ترسيخ ميزتها التنافسية على حساب الآخرين.
وينبغي رفض أي جهد من هذا النوع، فالمنافسة لتحقيق أداء أفضل وموثوقية ستكون ضرورية لتعزيز سلامة الذكاء الاصطناعي على المدى القريب. كما أنها قد تؤدي إلى إبطاء وتيرة التطوير، لأنها تضعف الحافز التجاري لضخ رؤوس أموال ضخمة في تدريب نماذج ذكاء اصطناعي متطورة ورائدة، والتي تزداد تكلفتها باستمرار.
إن أي سياسة مقترحة تعرقل المنافسة – مثل حظر نماذج الذكاء الاصطناعي مفتوحة المصدر، أو تخفيف قوانين المسؤولية عن المنتج، أو حظر استخدام النماذج الحالية التي ثبتت سلامتها – يجب أن تدق ناقوس الخطر. وبالتأكيد، لا ينبغي على المملكة المتحدة حظر نماذج الذكاء الاصطناعي مفتوحة المصدر أو مفتوحة الأوزان.
الأخيرة التغير المناخي أمطار غزيرة تضرب إسبانيا.. رفع مستوى الإنذار إلى الأحمر في برشلونة
علم الفضاء ناسا تكتشف فوهة ضخمة حديثة التكوين على القمر.. حدث لا يتكرّر سوى مرة كل قرن
وأخيرا، لن تكتمل أي جهود للحفاظ على السيطرة البشرية على تطوير الذكاء الاصطناعي دون نوع من التفاهم بين القوى العظمى في هذا المجال، وهما الولايات المتحدة والصين، وربما يكون ذلك من خلال تحديد "خطوط حمراء" كتلك التي اقترحها البروفيسور راسل.
وأشار كراسودومسكي إلى أن الطرح الحالي، الذي يرتكز بشكل كبير على الحفاظ على تفوق الولايات المتحدة على الصين، يجعل هذا الأمر أكثر صعوبة. ويقول أمودي إن على الديمقراطيات الحفاظ على تقدمها على الصين، ويتهم بكين بتبني نهج أقل صرامة فيما يتعلق بسلامة الذكاء الاصطناعي. ومن جانبه، يصور الرئيس الأمريكي دونالد ترامب الذكاء الاصطناعي باعتباره "لعبة صفرية" (يكون مكسب طرف هو خسارة للآخر)، مفضلا التركيز على الفوز بسباق الذكاء الاصطناعي، حيث يقول "من يفوز في مجال الذكاء الاصطناعي، يحقق الفوز ".
وفي المقابل، تحدث الرئيس الصيني شي جين بينج علنا عن ضرورة وجود سيطرة بشرية على الذكاء الاصطناعي. كما أصدرت وكالة الاستخبارات الصينية هذا الأسبوع أول تحذير لها بشأن المخاطر التي يشكلها الذكاء الاصطناعي على الأمن القومي. ومع ذلك، فإن ضغط شي لتعزيز رؤية الصين لحوكمة الذكاء الاصطناعي -والتي تأتي في إطار التنافس مع واشنطن- ستؤدي بلا شك إلى تأجيج الشعور بتسارع وتيرة سباق التسلح في مجال الذكاء الاصطناعي، وهذا لن يسهم بأي حال في كبح سرعة التطور.
واختتم كراسودومسكي تحليله بالقول إن ملف الذكاء الاصطناعي سيكون مطروحا للنقاش عندما يلتقي ترامب وشي في واشنطن في وقت لاحق من الشهر الجاري، وتحقيق بعض التقدم ليس أمرا مستحيلا. ولكن في ظل إصرار الأصوات البارزة في البلدين على ضرورة التفوق على الطرف الآخر، سيتطلب التوصل إلى اتفاق جهودا هائلة.
| لمتابعة أهم وأحدث الأخبار انضموا إلينا عبر قناتنا على واتساب (channel whatsapp) .اضغط هنا
نسخ الرابط :
آخر الاخبار
مقالات أخرى من تصنيف : علوم وتكنولوجيا
