أشارت مجلة "فورين افيرز" في مقال أنّه في العام الماضي، زعمت شركة الطائرات المسيرة الأوكرانية "ساكر" أنها طورت سلاحًا مستقلا بالكامل يُدعَى "ساكر سكوت" (Saker Scout)، يعتمد على الذكاء الاصطناعي في اتخاذ قراراته الخاصة بشأن من يجب قتله في ساحة المعركة.
وأعلن مسؤولو الشركة أن الطائرة المسيرة شنت هجمات ذاتية على نطاق صغير. وعلى الرغم من أن مزاعم هذه الشركة لم تؤكدها أيُّ جهة خارجية مستقلة، فإن التكنولوجيا اللازمة لتصنيع مثل هذا السلاح متوفرة بالتأكيد، ناهيك بأن استخدام تكنولوجيا الذكاء الاصطناعي في تصميم وتشغيل أسلحة ذاتية التشغيل قد يشكِّل خطوة تقنية صغيرة، إلا أنه مع ذلك يحمل أبعاداً أخلاقية وقانونية كبيرة.
فعندما تغدو الأسلحة قادرة بنفسها على البحث عن الأهداف واختيارها، فإن ذلك يثير تساؤلات حول المسؤوليات والتبعات الأخلاقية لمثل هذه القرارات.
منذ ثمانينيات القرن الماضي والجيوش تستخدم أسلحة ذاتية التشغيل بصورة جزئية في ظروف دفاعية محدودة. واليوم تُدير ما لا يقل عن 30 دولة أنظمة تصدٍّ وحماية ضد الهجمات الجوية والصاروخية، أو لتحييد الصواريخ المعادية التي تستهدف المركبات البرية. وبمجرد تفعيلها، يمكن لهذه الأنظمة أن تستشعر تلقائيًا خطر الصواريخ ومدافع الهاون أو الطائرات القادمة، والتدخل فورًا لاعتراضها.
ومع ذلك، لا يزال هناك عنصر بشري يشرف على عمليات تشغيلها والتدخل إذا حدث خطب ما. غير أن المشكلة كانت تكمن دائمًا في حركة الجيوش البطيئة بشأن تبني تقنيات الذكاء الاصطناعي التي سبق أن طوّرها القطاع التجاري، ويعود ذلك جزئيا إلى الإجراءات البيروقراطية الطويلة والمعقدة المتعلقة بعمليات الشراء والتوريد في القطاع العسكري.
لكن ما يبعث على الأمل قليلا، أن الأمور بدأت تأخذ منحنى آخر منذ بداية الحرب الروسية الأوكرانية، فقد ساهمت هذه الحرب في تسريع وتيرة الابتكارات من الجانبين، خاصة فيما يتعلق بمجال التكنولوجيات التجارية مثل الطائرات المسيَّرة الصغيرة.
توسعت موسكو وكييف في استخدام الطائرات المسيرة لعمليات الاستطلاع والتجسس، والهجمات على القوات البرية، وأفضت هذه الاستخدامات بدورها إلى تطوير إجراءات مضادة جديدة، بما فيها أنظمة الحرب الإلكترونية التي تعطِّل روابط اتصال الطائرات المسيَّرة أو تحديد موقع المشغّلين على الأرض، الذين يمكن استهدافهم بعد ذلك بسهولة. أما من الناحية الإستراتيجية، فيبدو التركيز على المتحكمين في الطائرات المسيّرة أمرًا منطقيًا، لأن معظم هذه الطائرات مُصممة للتحكم فيها عن بُعد، وهو ما يجعل المشغِّل البشري هدفا أساسيا لاغتياله.
يمكن لصراعات أخرى أن تؤدي إلى تطوير أسلحة مستقلة مختلفة، إذ تعمل العديد من الدول -بما فيها الصين وفرنسا والهند وروسيا والمملكة المتحدة والولايات المتحدة- على صناعة طائرات مسيرة قتالية متخفية، وبالتالي يمكن للحروب المستقبلية أن تشهد على القدرة الذاتية والقرارات المستقلِّة للطائرات المسيّرة في استهداف أنظمة دفاع جوية أو أجهزة إطلاق القذائف المتنقلة دون تدخل بشري. ومقارنةً بنظيراتها الجوية والبحرية، سنجد أن الروبوتات الأرضية تخلَّفت كثيرًا عن نظيراتها بالفعل.
ومع ذلك، قد تغيِّر الحروب المستقبلية مصير هذه الروبوتات وتستغلها في تثبيت الأسلحة المستقلة عليها وتنفيذ العمليات العسكرية دون الحاجة إلى توجيه بشري.
ومن المحتمل ألا تتوقف التغييرات عند هذا الحد، إذ يمكن لأسراب من الطائرات المسيرة تنسيق سلوكها ذاتيا، متفاعلةً مع التغيرات في ساحة المعركة بسرعة تتجاوز حتى القدرات البشرية. كما يمكن لردود الفعل السريعة التي تتبناها الآلة أن تُفضي إلى تسريع وتيرة العمليات، وبالتالي تسريع وتيرة المعركة، وهو ما قد يؤدي بدوره إلى زيادة الضغط لاستبعاد البشر من دورات اتخاذ القرار.
في السياق ذاته، حذّر عدد من كبار علماء الذكاء الاصطناعي، ومن بينهم البروفيسور ستيوارت راسل، من جامعة كاليفورنيا، وعالم الحاسوب الفرنسي يان ليكون، الحائز على جائزة تورينغ من خطورة الأسلحة المستقلة. كما شكَّل تحالف مكون من أكثر من 250 منظمة غير حكومية، تشمل منظمة العفو الدولية، وهيومن رايتس ووتش، ومبادرة نوبل للمرأة، حملة لوقف الروبوتات القاتلة، تطالب بإبرام اتفاقية مسبقة وملزمة قانونيًا لحظر الأسلحة الذاتية.
أما الدافع الكامن وراء هذا السعي الحثيث فهو القلق النابع من احتمالية أن تزيد الأسلحة المستقلة من عدد الضحايا في صفوف المدنيين. وعلى الرغم من أن تلك الأسلحة يمكن أن تقلل من الخسائر المدنية بقدرتها على استهداف المقاتلين ببراعة ودقة، فإن الأمور لا تسير وفق هذا النسق، خاصة إذا وقعت أسلحة كهذه في يد دولة لا تهتم كثيرًا بالضحايا المدنيين.
ورغم أن السيطرة البشرية على الأسلحة النووية قد تبدو نقطة بداية سهلة ومنطقية للتوصل إلى اتفاق دولي، فقد أظهرت موسكو استعدادا مثيراً للقلق لدمج التحكم الآلي أو الأتمتة في عملياتها النووية، وهو ما لا يُعتبر بالأمر الجديد، فبعد انتهاء الحرب الباردة، أوضح مسؤولون سابقون في الاتحاد السوفياتي أن الاتحاد بنى بالفعل نظاما نوويا انتقاميا شبه آلي، بمجرد تفعيله ستتمكن سلسلة من الأجهزة الاستشعارية الآلية من اكتشاف أي هجوم نووي على الأراضي السوفياتية.
وفي حال وقوع هجوم نووي على الأراضي الروسية دون استجابة من القادة الرئيسيين للبلاد -الذين ربما قُتلوا في الهجوم- ستُنقل سلطة إطلاق الأسلحة النووية تلقائيا إلى ضابط أقل رتبة نسبياً يقبع داخل مخبأ آمن. وفي عام 2018، أكدت السلطات الروسية أن هذا النظام لا يزال يعمل، بل وأُجريت عليه تحديثات كذلك.
وفي الآونة الأخيرة، بدأت موسكو في تطوير غواصة ذاتية التشغيل مزودة بأسلحة نووية، لكن تظل فكرة إرسال الدول طائرات مسيرة مسلَّحة نوويا في البحر أو الجو للقيام بدوريات، فكرةً خطيرة ومحفوفة بالمخاطر، لاحتمال وقوع حوادث أو فقدان السيطرة على السلاح النووي.
على الجانب الآخر، سنجد أن استخدام الأسلحة ذاتية التشغيل المنتشرة على نطاق واسع وتكاملها مع جوانب أخرى من التكنولوجيا العسكرية المتقدمة، يمكن أن يؤدي إلى عصر جديد من الحروب التي تقودها الآلة، إذ يمكن لتطبيقات الذكاء الاصطناعي العسكرية أن تسرِّع وتيرة معالجة المعلومات واتخاذ القرارات.
ومع تبني الدول للذكاء الاصطناعي والأتمتة، سيقل الوقت المستغرق في العثور على أهداف العدو وتحديدها واستهدافها. نظريا، قد يتيح هذا مزيدًا من الوقت للبشر لاتخاذ قرارات مدروسة ومتأنية، لكنْ عمليا سيشعر المنافسون بالضغط للرد بالمثل، وذلك باستخدام الأتمتة لتسريع عملياتهم الخاصة لمواكبة هذه الوتيرة السريعة، وهو ما سيفضي في النهاية إلى جولة تصاعدية من زيادة الأتمتة وتقليل التحكم البشري.
وبالتالي، قد تكون النهاية المحتملة لهذه المنافسة نشوب حروب سُتنَفّذ بسرعة آلية جنونية عصية على السيطرة البشرية. وفي مجال التمويل على سبيل المثال، سنجد أن الاستخدام الواسع للخوارزميات في التداول عالي التردد أدى إلى تداول الأسهم آليًا وبسرعات تفوق القدرات البشرية. (الجزيرة)