برزت الشواغل المتعلقة بضرورة ضمان قدرٍ كافٍ من التحكم البشري في منظومات الأسلحة ذاتية التشغيل منذ الأيام الأولى للمناقشات التنظيمية الدولية. وحفَّزت هذه الشواغل دعوات إلى فرض حظر شامل واستباقي على تطوير الأسلحة التي تتمتع بقدرات تشغيل ذاتي مرتفعة واستخدامها، ودفعت في اتجاه تقديم مجموعة من المقترحات لوضع تعريف لما يُعرف بـ التحكم البشري «الهادف» والحفاظ عليه.

ويشير مصطلح منظومة الأسلحة ذاتية التشغيل إلى أيِّ منظومة أسلحة تتميز بدرجة من الاستقلالية في وظائفها الحاسمة المتمثلة في اختيار الأهداف ومهاجمتها، ويشمل ذلك منظومات الأسلحة القائمة وتلك التي من المقرر تطويرها في المستقبل.

وعادة ما يعبَّر عن درجات التحكم البشري في منظومة الأسلحة ذاتية التشغيل من خلال تحديد ما إذا كانت ثمة مشاركة بشرية مباشرة في عمليات المنظومة ومقدار هذه المشاركة، كما في نطاق التفاعل البشري المعروف: «القائم» و«الإشرافي» و«المُستبعد». وهذا الارتباط الوثيق بين المشاركة البشرية المباشرة والتحكم البشري لهو محل تساؤل في سياق منظومات الأسلحة ذاتية التشغيل. والمشكلة الرئيسية هي أن هذا الارتباط ينزع إلى تعتيم حقيقة أن التحكم الذاتي في حد ذاته أحد أشكال التحكم البشري، الذي من الممكن أحيانًا توظيفه بشكل مفيد إلى جانب، أو كبديل، للمشاركة البشرية المباشرة في تشغيل منظومة الأسلحة.

التحكم الذاتي والتحكم البشري

تُحقق القدرات الذاتية في منظومات الأسلحة عبر أنظمة تحكم قائمة على برمجيات، وأجهزة كمبيوتر متخصصة تتصل بالأسلحة الخاضعة للتحكم. وتتلقى أنظمة التحكم هذه المعلومات من أجهزة استشعار ومن البيئة ومن المشغل البشري، وربما من أنظمة أخرى ذاتية التشغيل، فتعمل على معالجة هذه المعلومات، وتصدر التعليمات للأسلحة الخاضعة للتحكم.

وبالطبع، فإن الذي يطوِّر البرمجيات التي تعمل على جهاز نظام تحكم عبر الكمبيوتر، هم البشر. وتتألف هذه البرمجيات من مجموعات من التعليمات التي تجسد عمليات اتخاذ القرار التي حددها البشر، والمرتبطة بالوظائف الخاضعة للتحكم الذاتي. وليس معنى هذا أن هذه البرمجيات تعبر بالضرورة عن عمليات اتخاذ قرار مطابقة لتلك التي ينفذها البشر. وإنما يعني هذا أن العملية التي تتبعها منظومة الأسلحة ذاتية التشغيل يحددها البشر في نهاية المطاف.

وهذه التعليمات البرمجية قد تحدد مجموعة ثابتة من الخطوات التي تتبعها منظومة الأسلحة ذاتية التشغيل لأداء عملية مكلفة بها، أو قد تصف عملية ما تستخدمها المنظومة لتستمد المعلومات من البيئة المحيطة و«تتعلم» كيف تؤدي مهمة ما. وأيًّا كانت الطريقة، فإن سلوك منظومة الأسلحة ذاتية التشغيل يُحدَّد عبر هذه البرمجيات التي وضعها البشر: متى، وفي أي ظروف تشن الهجوم، وكيف يجب أن تستجيب للتغيرات في بيئتها، وكل جانب آخر من جوانب السلوك (منع وقوع الأعطال). ولذا فإن التحكم الذاتي هو ممارسة للتحكم البشري، بصرف النظر عمَّا إذا كان ثمة عنصر بشري يشرف على تشغيل المنظومة آنيًّا أو يتدخل فيه.

وهذه النقطة (التي تبدو واضحة) تُغفَل أحيانًا في المناقشات حول التحكم في منظومات الأسلحة ذاتية التشغيل، التي يُعرب فيها عن المخاوف من تخويل أو تكليف آلة باتخاذ القرار بشأن استخدام القوة. ولذا يجدر بنا تأكيد أن: القلب النابض لمنظومة الأسلحة الذاتية التشغيل هو جهاز كمبيوتر عليه برمجيات وضعها البشر. وبهذا، فإن منظومة الأسلحة ذاتية التشغيل ليست كيانًا لصنع القرارات، يستحوذ على إمكانية التحكم في سلاح ما من مشغله البشري. فنظام التحكم في منظومة الأسلحة ذاتية التشغيل في حد ذاته وسيلة لممارسة التحكم البشري.

إن الاختيار بين استخدام منظومة أسلحة ذاتية التشغيل أو سلاح دون قدرات تحكم ذاتي في تنفيذ هجوم ما، ليس خيارًا بين قرار باستخدام القوة يتخذه بشري مقابل قرار تتخذه آلة، إنما هو مجرد اختيار بين قرار بشري اتخذ بشكل «آني» في سياق تنفيذ هجوم، وبين عملية اتخاذ قرار محددة من قبل البشر في نقطة زمنية سابقة، ومشفَّرة من خلال برمجيات وتنفذها آلة (وإن كانت تتبع عملية تختلف عن تلك التي يستخدمها البشر).

وبالمثل، فإن فكرة أن منظومة الأسلحة ذاتية التشغيل قادرة على اختيار أهداف وشن هجمات ذاتيًّا – رغم كونها صحيحة من الجانب التقني الدقيق – قد تكون مضللة في المناقشات التي تتناول مسألة التحكم. ذلك أن قرار شن هجوم منفرد لا يُترك لتصرف منظومة الأسلحة، من حيث إنه يخرج عن دائرة كونه قرارًا بشريًّا (لأن منظومة الأسلحة ذاتية التشغيل، بوصفها جمادًا، ليس بمقدورها اتخاذ قرارات بهذا المعنى).

ولكن ما يحدث أن عنصرًا بشريًّا يتخذ قرارًا – ربما بتنفيذ هجوم منفرد أو أكثر- باستخدام عملية ما مشفرة في برمجيات التحكم في منظومة الأسلحة ذاتية التشغيل، ربما لتفعيل المنظومة، وهو يعلم أن هذا القرار سيترتب عليه شن هجوم. وهذا يعني أن قرار شن الهجوم يظل قرارًا بشريًّا، ولكن قد تتغير سمة هذا القرار البشري، استنادًا إلى نطاق العملية المُسندة إلى منظومة الأسلحة.

وفعليًّا، قد يتخذ مشغلو منظومة الأسلحة ذاتية التشغيل قرارات الهجوم ذاتها مستخدمين أسلحة يُتحكم بها يدويًّا، ويشمل ذلك اختيار أهداف منفردة، أو يمكنهم اتخاذ قرارات أعمِّ، تُعنى أكثر بالسياسات، مع الاعتماد على عمليات مشفرة ببرمجيات محددة سلفًا لتنفيذ هذه القرارات ضد أهداف منفردة.

ويُستنتج من ذلك أن القيود القانونية والأخلاقية المتعلقة بالتحكم واستخدام منظومات الأسلحة، تحكم الاعتماد على استخدام الخواص الذاتية في اختيار الأهداف وقدرات الهجوم، كما تحكم استخدام قدرات أي منظومة أسلحة أخرى. وتقضي قواعد القانون الدولي الإنساني بأن يبذل منفذو الهجمات (البشر) كل جهد ممكن لضمان: اقتصار الهجمات على الأهداف القانونية فقط، وأن الوسائل والطرق المستخدمة هي تلك التي تقلل الضرر المدني المتوقع إلى أدنى حد، وإلغاء الهجمات أو تعليقها إذا تغيرت الظروف أو المعلومات، وهكذا. وهذه الالتزامات قد تُستوفى بالاعتماد على منظومات الأسلحة ذاتية التشغيل في بعض الحالات، وقد تتطلب مستويات مرتفعة من المشاركة البشرية المباشرة في حالات أخرى.

ويجب ألا يُنظر إلى وجود تحكم بشري هادف على أنه مجرد مطلب لوجود مستوى معين من التفاعل البشري المباشر مع منظومة السلاح لذاته. إذ إن ممارسة التحكم البشري الهادف تعني استخدام التدابير الضرورية، بشرية كانت أم تقنية، لضمان أن العملية التي تشارك فيها منظومة أسلحة ذاتية التشغيل تُنفَّذ وفقًا لقصد القائد، وبما يتفق مع القيود القانونية والأخلاقية وغيرها من القيود المنطبقة. وهذا يعني ضرورة ضمان أن تُستخدم المنظومات ذاتية التشغيل فقط، بالقدر الذي تظهر به أنها تعمل بطريقة تسمح بالالتزام بتلك القيود، وأنها قد تتطلب أو لا تتطلب وجود تدخل بشري جزئي أو كامل.

على الجانب الآخر، طُرحت العديد من الآراء الداعية إلى فرض درجة من المشاركة البشرية في عمليات منظومات الأسلحة ذاتية التشغيل خارج سياق الحفاظ على التحكم في منظومات الأسلحة. ولعل أكثر هذه الآراء ترددًا هو: أن مبادئ الإنسانية وما يمليه الضمير العام لا تسمح بالاعتماد على الأسلحة ذات الدرجة المرتفعة للتشغيل الذاتي؛ وأن الهجمات التي تنفذها الأسلحة ذاتية التشغيل من شأنها أن تقوِّض كرامة مقاتلي العدو والمدنيين المتضررين؛ وأن تقليل التكلفة السياسية للحرب عن طريق رفع عبء الأدوار القتالية عن كاهل جنود الطرف المستخدم لهذه الأسلحة، سيجعل الدول أكثر استعدادًا للِّجوء إلى النزاعات المسلحة، وهكذا. وإذا وُجد أن هذه الآراء مقنعة، فقد تكون هناك قيمة للاعتراف بحد أدنى من المشاركة البشرية في عمليات منظومات الأسلحة ذاتية التشغيل بوصفه مطلبًا مستقلًّا، بدلًا من الخلط بينه وبين المسائل المتعلقة بالتحكم في منظومات الأسلحة ذاتية التشغيل.

***

هذا المقال هو استعراض لما دار في اجتماع المائدة المستديرة حول «التكنولوجيات العسكرية الناشئة المُطبقة في حروب المدن»، الذي عُقد في كلية القانون بجامعة ملبورن بتاريخ 21 و22 آذار/ مارس 2018. وقد اشترك في استضافة هذه الفعالية كل من اللجنة الدولية للصليب الأحمر، وبرنامج تنظيم التكنولوجيات العسكرية الناشئة (PREMT)، ومركز آسيا والمحيط الهادئ للقانون العسكري (APCML)، وأقيمت في سياق فعاليات دورة مؤتمرات اللجنة الدولية للصليب الأحمر حول «الحرب في المدن» 2017-2018. وضمَّ هذا الاجتماع المتعدد التخصصات خبراء حكوميين وسياسيين وأكاديميين من مختلف التخصصات التي شملت القانون، والأخلاق، والعلوم السياسية، والفلسفة، والهندسة، والدراسات الاستراتيجية. 

نُشر هذا المقال بالإنجليزية في مدونة «القانون وسياسات العمل الإنساني»، وهي إصدار تابع لـ«المجلة الدولية للصليب الأحمر». وقد نقل عمرو على النص إلى اللغة العربية.

انظر أيضًا المقالات التي نشرناها عن القضايا المرتبطة باستخدام الأسلحة الذاتية التشغيل:

إيريك تالبوت جنسن، تحدي قابل للتحقق… إضفاء الطابع الإنساني على الأسلحة الذاتية التشغيل

العشعاش إسحاق، الآلة عندما تشن الحرب..الروبوتات القاتلة والحاجة إلى سيطرة بشرية هادفة