الحرب النووية وهلوسة الذكاء الاصطناعي

بقلم: د.علي عبد النبي. خبير الطاقة النووية

في الاجتماع الذي تم بين الرئيس الأمريكي جو بايدن والرئيس الصيني شي جين بينج، يوم السبت 16 نوفمبر 2024، والذي عقد على هامش قمة التعاون الاقتصادي لآسيا والمحيط الهادئ في ليما. اتفقوا على أن البشر وليس الذكاء الاصطناعي هم من يجب أن يتخذوا القرارات بشأن استخدام الأسلحة النووية. حيث أكدوا على الحاجة إلى الحفاظ على السيطرة البشرية على قرار استخدام الأسلحة النووية.

طبعا هذا الموضوع مهم جدا، ورأيت أنه من واجبي وأنا مهتم بهذه المواضيع، أن أشرح موضوع الذكاء الاصطناعي وخطورة استخدامه في أنظمة القيادة والسيطرة والاتصالات النووية (NC3) Nuclear Command, Control, and Communications.

يعتبر الذكاء الاصطناعي من التكنولوجيات الناشئة والأكثر رواجا. والذكاء الاصطناعي هو قدرة الأنظمة المتطورة مثل الكمبيوتر، على أداء مهام مرتبطة عادة بالكائنات الذكية، على أن تتمتع هذه الأنظمة بالعمليات الفكرية المميزة للبشر، مثل القدرة على التفكير بطريقة تحاكي الإنسان وتتصرف بطريقة ذكية تماثل الذكاء البشري، ولها القدرة على التدرب والتعلم من الخبرات السابقة، وتقوم بتحليل بيانات يتجاوز حجمها ما يمكن للبشر تحليله في زمن قصير جدا. وقد استطاع الذكاء الاصطناعي أن يحدث ثورة في تحليل كميات هائلة من البيانات، مما يمكننا من اتخاذ قرارات أسرع وأكثر استنارة والتنبؤ بالمخاطر المحتملة.

مع بداية تنفيذ الذكاء الاصطناعي على المستوي التجاري شاهدناه عندما قاموا ببرمجة أجهزة الكمبيوتر للقيام بمهام معقدة للغاية ــ مثل حل المعادلات الرياضية الصعبة ولعب الشطرنج بكفاءة عالية. واليوم نشاهد تطبيقات كثيرة ومتنوعة مثل، محركات البحث على الكمبيوتر، والتعرف على الصوت والصورة، والتشخيص الطبي، حيث بلغت بعض البرامج مستويات أداء الخبراء والمحترفين من البشر في تنفيذ مهام محددة.

بدأ تطوير الذكاء الاصطناعي في أربعينيات القرن العشرين، وفي عام 1956 بدأت الأبحاث تدخل في مجال الذكاء الاصطناعي، ورغم مرور كل هذه السنوات، ورغم التقدم التكنولوجي الكبير في سرعة معالجات الحاسبات وسعة الذاكرة وفي تكنولوجيا الشبكات العصبية، إلا أن الذكاء الاصطناعي لم يستطع أن يضاهي المرونة البشرية الكاملة في مجالات كثيرة.

نحن نعلم أن معدل التقدم التكنولوجي يعتمد على عوامل متعددة، مثل النمو الهائل في قوة الحاسبات، والتقدم السريع في تخزين البيانات ومعالجتها. والنمو الهائل في قوة الحاسبات، يعتمد على التقدم في تكنولوجيا المعالجات وتقليص حجم المكونات الإلكترونية.

مع التقدم السريع في تكنولوجيات تخزين البيانات ومعالجتها، جعل من الممكن تخزين ومعالجة وتحليل كميات هائلة من البيانات بسرعات غير مسبوقة.

أنظمة الذكاء الاصطناعي تعمل على مجموعات كبيرة من البيانات ومن خلال المعالجة التكرارية الذكية التي تقوم بها من خلال مجموعة من الخطوات الرياضية المنطقية المتسلسلة (خوارزميات)، تستطيع أن تتعلم من الأشكال والسمات الموجودة في البيانات التي تقوم بتحليلها.

أما تكنولوجيا الشبكات العصبية الاصطناعية فلها دور هام في تطوير الذكاء الاصطناعي، هذه الشبكات هي نموذج مستوحى من بنية ووظيفة الشبكات العصبية البيولوجية في الدماغ البشري. وهي تتكون من وحدات متصلة أو عقد تسمى الخلايا العصبية. والشبكات العصبية تستخدم طبقات من الخلايا العصبية الاصطناعية، وترتبط هذه الخلايا بحواف تحاكي المشابك العصبية في الدماغ، وتستخدم العقد أو الخلايا العصبية المترابطة في بنية طبقية لمحاكاة الدماغ البشري.

الشبكات العصبية قادرة على التعلم من خلال التدريب، وبذلك تستطيع نمذجة العلاقات غير الخطية والمعقدة بين البيانات المدخلة والمخرجة.

تدريب الشبكات العصبية باستخدام بيانات الإدخال وبيانات الإخراج، يؤدي إلى استنباط شبكة عصبية متعلمة، تستطيع أن تقوم بالتحليلات التنبؤية عند تغذيتها ببيانات إدخال جديدة، وكذلك على اتخاذ قرارات ذكية بناءً على ما تعلمته بدون مساعدة بشرية.

عند مقارنة الذكاء الاصطناعي والشبكات العصبية، نجد أن الذكاء الاصطناعي أكثر ملاءمة للمهام التي تتطلب التعلم التكيفي والذكاء العام، والشبكات العصبية تتميز بأنها هي الأفضل في العمل الذي يتضمن التحليلات التنبؤية ومعالجة الكلام ومعالجة الصورة والتعرف على الأشكال. ونتيجة أن الشبكات العصبية تتعلم وتصمم العلاقات بين البيانات المعقدة غير الخطية، فالشبكات العصبية تساعد الذكاء الاصطناعي على اتخاذ قرارات تنبؤية ذكية دون الحاجة إلى مساعدة بشرية أو مع مساعدات طفيفة.

لضمان قيام أنظمة الذكاء الاصطناعي بوظيفتها علي أكمل وجه، فإنها تخضع لعمليات التحقق وعمليات اختبارات بعد عمليات التدريب. ورغم ذلك، هناك احتمال أن تنحرف عن مسارها وتعطي ردودا وإجابات غير صحيحة، والتي لا مصدر لها ضمن بيانات التدريب والتحقق والاختبار، وهو ما يطلق عليه أسم هلوسة الذكاء الاصطناعي، وهذه الهلوسة تزداد وتتفاقم نتيجة العمل تحت سرعات عالية.

في الماضي، تم تطوير أنظمة القيادة والسيطرة والاتصالات النووية NC3 للكشف عن هجمات العدو (على سبيل المثال إطلاق الصواريخ الباليستية العابرة للقارات والقاذفات) وسماح من الوقت لصناع القرار قدره 30 دقيقة، في حالة الصواريخ الباليستية العابرة للقارات، لتقييم دقة تحذيرات الإطلاق وتحديد الاستجابات المناسبة.

وفي حين لم تعمل هذه الأنظمة دائما على النحو الصحيح، فقد ساعدت فترة السماح من الوقت في منع الكوارث الكبرى.

وهناك حادثة حقيقية حدثت من قبل، فقد رصدت هيئة الأركان العامة السوفييتية وضع القوات الاستراتيجية الأميركية في حالة تأهب قتالي، وكان ذلك نتيجة إنذار خاطئ حدث في منتصف ليل يوم 3 يونيو 1980، وكان سببه خلل في شريحة كمبيوتر (قيمتها لا تتعدي نصف دولار)، في جهاز كمبيوتر للإنذار المبكر في مركز عمليات قيادة الدفاع الجوي لأمريكا الشمالية، وهي القيادة المشتركة بين كندا والولايات المتحدة، وكاد أن يتسبب في قيام حرب نووية.

تختلف أنظمة الـ NC3 حسب الدولة، لكنها في العموم تشتمل على أنظمة الإنذار والاتصالات والأسلحة النووية، بالإضافة إلى المحللين البشريين وصناع القرار والمشغلين، المشاركين في إصدار الأوامر وتنفيذ الضربات النووية، ومنع الاستخدام غير المصرح به للأسلحة النووية.

استخدام الذكاء الاصطناعي في التخطيط الاستراتيجي ومحاكاة الحرب، وفي تحليل السيناريوهات المختلفة والتنبؤ بالنتائج، يعطي صورة واضحة عن قدرات العدو ونواياه واستجاباته المحتملة، ومع سرعة معالجة المعلومات يمكنه التمييز بشكل أسرع بين الرؤوس الحربية النووية والتقليدية.

لسرعة اتخاذ القرارات بناءً على المتغيرات السريعة في موقف الحرب على المستوي الاستراتيجي، جيوش الدول النووية قامت بدمج الذكاء الاصطناعي في منظومة القيادة والسيطرة والاتصالات النووية NC3، بهدف تحليل الكم الهائل من البيانات الواردة لها، وذلك من خلال الاعتماد على الحاسبات الآلية في تبويب وتصنيف وعرض الكميات الهائلة من البيانات والمعلومات الواردة من مختلفة أجهزة الاستشعار (منها الرادار)، فمنها بيانات ومعلومات واردة من الأقمار الاصطناعية ومن أجهزة استشعار أرضية وجوية وبحرية.

يميل البشر إلى الإفراط في الاعتماد على استخدام تكنولوجيا التشغيل الآلي (الأتمتة)، والتحيز للأتمتة والثقة المفرطة التي قد يشعر بها المشغلون والقادة العسكريون، عندما يعتقدوا أن نظام الذكاء الاصطناعي يوفر ميزة عسكرية قوية، وأن نظام الذكاء الاصطناعي من شأنه أن يضمن عملية ناجحة، فقد يتم اتخاذ إجراءات عدوانية غير مقصودة، مما يزيد من خطر الاستخدام للأسلحة النووية.

الأدلة تشير إلى أن تزايد استخدام الأتمتة السريعة في نظم الـ NC3، تشكل مخاطر متأصلة ويمكن أن تؤدي إلى قيام حرب نووية.

كذلك المزيد من دمج الذكاء الاصطناعي في أنظمة الـ NC3 يعني زيادة سرعة معالجة البيانات، مما يجعل من الصعب على المشغلين التحكم في الأحداث أو حتى فهمها، ويصبح تحقيق سيطرة بشرية في الوقت الفعلي غير ممكن، وقد يؤدي مثل هذا الموقف إلى صعوبة تحديد ما إذا كان الإنذارات نتيجة فشل النظام أو هجوم معادي حقيقي، وتؤدي إلى تقليل وقت اتخاذ القرار، وزيادة مخاطر الحوادث والتصعيد غير المقصود.

لذلك، فإن عملية الأتمتة لأنظمة صنع القرار النووي تعتبر مصدرا جديدا للأخطاء والثغرات، كما يمكن اختراقها من قبل الدول المعادية.

كما هو معروف أن أنظمة الذكاء الاصطناعي، تواجه صعوبات في التعامل مع التغييرات الطفيفة أو الانحرافات في إدخال البيانات التي لم يتم تدريبها عليها، وتسيء تفسير الحقائق بطريقة لا يبدو أنها مبررة ببيانات التدريب الخاصة بها، مما يؤدي إلى الهلوسة الاصطناعية. لذلك فإن إدخال الجيل الحديث من الذكاء الاصطناعي الذي يعتمد على الشبكات العصبية في منظومة الـ NC3 يشكل خطورة كبيرة.

نظرا لخطورة دمج أنظمة الذكاء الاصطناعي في أنظمة الـ NC3، لذلك ينبغي على الدول النووية الاتفاق على فرض وقف مؤقت لاستخدام الذكاء الاصطناعي في أي عنصر حاسم في عملية اتخاذ القرار النووي، والحفاظ على السيطرة البشرية في عملية قرار استخدام الأسلحة النووية. على أن يستمر الاستثمار في أبحاث وتطوير أنظمة الذكاء الاصطناعي لحل القضايا المتعلقة بهلوسة الذكاء الاصطناعي، حتى يتم التوصل إلى بناء أنظمة ذكاء اصطناعي أكثر موثوقية.