คำกล่าวโดย มีรยานา สปอลจาริก ประธานคณะกรรมการกาชาดระหว่างประเทศ ณ การประชุมแชงกรี-ลา ไดอะล็อก

การประชุมพิเศษลำดับที่ 5 เรื่อง ปัญญาประดิษฐ์ การป้องกันทางไซเบอร์ และการสงครามในอนาคต วันที่ 1 มิถุนายน 2024 ประเทศสิงคโปร์

ท่านสุภาพสตรีและสุภาพบุรุษทุกท่าน

ปัจจุบัน ตามข้อมูลที่ ICRC รับรู้ การขัดกันทางอาวุธที่เกิดขึ้นทั่วโลกมีมากกว่า 120 กรณี ตัวเลขดังกล่าวหมายถึงจำนวนกรณีการขัดกันฯ ที่เพิ่มขึ้นกว่าสามเท่าในช่วงสามทศวรรษที่ผ่านมา ยิ่งไปกว่านั้น สถานการณ์การขัดกันในปัจจุบันยังมาพร้อมกับผลกระทบที่ซับซ้อนและหลากหลายมิติ ทั้งในระดับท้องถิ่นและข้ามภูมิภาค

ในหมู่ผู้ร่วมอภิปราย มีการใช้คำอย่าง “จุดที่ต้องเลือก” หรือ “การตัดสินใจครั้งสำคัญ” เพื่อให้ประเด็นดังกล่าวได้รับความสนใจ แต่อย่างไรก็ตาม คำกล่าวทางการเมืองไม่ควรเป็นสิ่งที่เบี่ยงเบนเราไปจากสถานการณ์จริงที่ ICRC และองค์กรด้านมนุษยธรรมอื่นต้องเผชิญในสนามรบทุกวันนี้

เทคโนโลยีใหม่และที่อุบัติขึ้นกำลังเปลี่ยนรูปแบบและทำให้การขัดกันทางอาวุธมีความซับซ้อนมากขึ้น การใช้ปฏิบัติการทางไซเบอร์ร่วมกับอาวุธดั้งเดิม และการเพิ่มบทบาทของปัญญาประดิษฐ์ในระบบอาวุธและการแสวงข้อตกลงใจ เป็นประเด็นที่หลายฝ่ายให้ความสนใจในการอภิปรายเกี่ยวกับวิวัฒนาการของสงคราม

เทคโนโลยีใหม่เหล่านี้อาจดูเหมือนว่ามาพร้อมกับความได้เปรียบทางการทหาร ไม่ว่าจะเป็นสมรรถภาพในการดำเนินการที่รวดเร็วเกินกว่าขีดความสามารถของมนุษย์ เป็นต้น หรือการโจมตีในสภาพแวดล้อมที่ไร้ซึ่งการติดต่อสื่อสาร เช่น พื้นที่ทางทะเล ซึ่งมีความสำคัญอย่างยิ่งในภูมิภาคเอเชียแปซิฟิกแห่งนี้

ในขณะเดียวกัน เทคโนโลยีใหม่มาพร้อมกับอันตรายใหม่ที่สังคมเราต้องประสบ เทคโนโลยีเหล่านี้เพิ่มความเสี่ยงที่จะทำให้สถานการณ์บานปลายโดยไม่ตั้งใจ สร้างข้อกังวลในเรื่องของการแพร่กระจายอาวุธ และซ้ำเติมความทุกข์ทรมานของผู้ได้รับผลกระทบให้ยิ่งรุนแรงกว่าเดิม

ดิฉันขอเน้นย้ำถึงวิวัฒนาการสำคัญ 3 ประการ ดังนี้

• ประการแรก แนวโน้มต่างๆ ในปัจจุบันบ่งชี้ถึงอนาคตที่จะมีการนำเอาระบบอาวุธอัตโนมัติมาใช้โจมตีเป้าหมายที่หลากหลายมากขึ้น ภายในระยะเวลาที่ยาวนานขึ้น และเปิดช่องให้มนุษย์เข้ามาควบคุมน้อยลง
• ประการที่สอง ปัญญาประดิษฐ์มีอิทธิพลและเร่งรัดการแสวงข้อตกลงใจทางทหารในเรื่องเกี่ยวกับว่าใครหรือสิ่งใดเป็นเป้าหมายในการขัดกันทางอาวุธในลักษณะที่เกินความสามารถทางปัญญาของมนุษย์ และด้วยเหตุนี้จึงลดทอนคุณภาพของการแสวงข้อตกลงดังกล่าว ซึ่งยิ่งเพิ่มความเสี่ยงอันตรายที่จะเกิดต่อพลเรือน
• ประการที่สาม ปฏิบัติการทางไซเบอร์ถูกนำมาใช้เพื่อปิดกั้นบริการของรัฐบาลที่มอบให้แก่พลเรือน เช่น น้ำสะอาดและไฟฟ้า รวมถึงขัดขวางการทำงานของผู้ให้บริการทางการแพทย์และการดำเนินงานด้านมนุษยธรรม

ระบบปัญญาประดิษฐ์ที่ซับซ้อน อย่างโมเดลสร้างข้อมูลและการเรียนรู้ของเครื่องรูปแบบอื่นๆ มีบทบาทมากขึ้นในวิวัฒนาการดังกล่าว เนื่องจากกองทัพมุ่งใช้ประโยชน์จากเครื่องมือที่มีการพัฒนาอย่างรวดเร็ว เมื่อนำมาใช้ร่วมกับอาวุธและวิธีการทำสงครามเช่นว่า ปัญญาประดิษฐ์อาจทำให้เรายิ่งต้องกังวล ด้วยเพราะทำให้เรามิอาจคาดการณ์ได้ซึ่งผลกระทบและทำให้ปฏิบัติการต่างๆ เกิดขึ้นรวดเร็วเกินกว่ามนุษย์จะควบคุมได้ และยิ่งในสนามรบที่เต็มไปด้วยความไม่แน่นอนแล้วนั้น การนำระบบปัญญาประดิษฐ์มาใช้จะยิ่งสร้างอุปสรรคและปัญหาแก่ผู้บังคับบัญชาและพลรบในการปฏิบัติตามพันธกรณีของตนที่มีต่อกฎหมายมนุษยธรรม

สถานการณ์ความตึงเครียดทางภูมิรัฐศาสตร์หรือความจำเป็นทางการทหารไม่อาจใช้เป็นข้ออ้างในการเพิกเฉยต่อข้อกังวลด้านมนุษยธรรมได้ ซึ่งในความเป็นจริงแล้ว ในช่วงเวลาที่ยากลำบากเช่นนี้ สิ่งสำคัญสุดคือการยึดมั่นในหลักการมนุษยธรรม

เราจะต้องให้ความสำคัญต่อชีวิตของผู้คนในการพัฒนาและนำเอาเทคโนโลยีใหม่ๆ มาใช้ เพื่อให้ผู้ได้รับผลกระทบจากการขัดกันทางอาวุธยังคงได้รับความคุ้มครองอยู่ เราไม่อาจปล่อยให้เกิดสถานการณ์ที่มีการนำเอาเทคโนโลยีสงครามใหม่ๆ มาใช้เพื่อซ้ำรอยหรือซ้ำเติมผลกระทบที่มิชอบด้วยกฎหมายหรือเป็นอันตรายในลักษณะที่รวดเร็วและรุนแรงมากขึ้น

ดังนั้น ดิฉันจึงขอเรียกร้องรัฐทุกรัฐดำเนินการ 2 ประการดังต่อไปนี้

ประการแรก การให้ความสำคัญต่อกฎหมายมนุษยธรรมเหนือสิ่งอื่นใด และการร่วมกันยืนกรานถึงความมุ่งมั่นในหลักการของกฎหมายฯ ที่สากลให้การยอมรับ โดยเฉพาะอย่างยิ่งในเรื่องของ

• การจัดทำสนธิสัญญาฉบับใหม่เพื่อวางระเบียบระบบอาวุธอัตโนมัติ สนธิสัญญาดังกล่าวจะต้องห้ามอาวุธอัตโนมัติที่มิอาจคาดการณ์ได้และที่กำหนดเป้าหมายโจมตีมนุษย์ และกำหนดข้อจำกัดที่เคร่งครัดต่ออาวุธอัติโนมัติประเภทอื่นทุกประเภท ดิฉันและเลขาธิการสหประชาชาติ ขอเรียกร้องให้รัฐดำเนินการโดยเร่งด่วนในการเจรจาและจัดทำสนธิสัญญาเพื่อวางระเบียบระบบอาวุธอัตโนมัติภายในปี 2026
• ในกรณีที่มีการนำเอาปัญญาประดิษฐ์มาใช้ในระบบเพื่อสนับสนุนการแสวงข้อตกลงใจทางการทหารนั้น การใช้ดุลยพินิจของมนุษย์จะยังคงเป็นปัจจัยสำคัญ โดยเฉพาะในการแสวงข้อตกลงใจที่เสี่ยงส่งผลกระทบต่อชีวิตและศักดิ์ศรีของผู้คน
• ในส่วนที่เกี่ยวกับปริภูมิไซเบอร์ (Cyberspace) รัฐจะต้องร่วมกันกำหนดวิธีการคุ้มครองป้องกันสังคมจากภัยคุกคามทางดิจิทัล รัฐหลายแห่งได้แสดงออกซึ่งการสนับสนุนต่อข้อเสนอแนะว่าด้วยภัยคุกคามทางดิจิทัลที่คณะกรรมการที่ปรึกษาระดับโลกของ ICRC จัดทำขึ้นมาอย่างเป็นรูปธรรม ณ ตอนนี้ เราจึงต้องร่วมมือกันเพื่อดำเนินการตามข้อเสนอแนะดังกล่าว

ประการที่สอง การรับทราบว่าการปฏิบัติตามกฎหมายมนุษยธรรมระหว่างประเทศเป็นหนทางสู่การส่งเสริมสันติภาพให้บังเกิด อนุสัญญาเจนีวาผ่านการให้สัตยาบันโดยรัฐทุกแห่ง ดังนั้น จึงถือเป็นฉันทามติสากล อนุสัญญาฯ คัดค้านอย่างชัดเจนซึ่งแนวคิดของการประสบชัยชนะทางการทหารไม่ว่าจะด้วยวิธีใดก็ตามหรือทุกวิถีทางที่มีอยู่

การขัดกันทางอาวุธ ไม่ว่าประเภทใดก็ตาม ล้วนก่อให้เกิดความทุกข์ทรมาน เศร้าโศก และเสียหายต่อผู้คนและสิ่งแวดล้อม การสงครามในอนาคตก็เช่นกัน ไม่ว่าจะใช้อาวุธแบบเดิมหรือเทคโนโลยีใหม่ใดก็ตาม แต่ทางเลือกของเรามีมากกว่าสงคราม การหยุดยั้งหรือหลีกเลี่ยงการแข่งขันทางอาวุธและการวางระเบียบด้านการพัฒนาเทคโนโลยีสงครามใหม่ๆ เป็นขั้นตอนที่จะช่วยทำให้ความปรารถนาของมนุษย์ในการดำรงชีวิตอย่างมีสันติภาพบังเกิดขึ้นได้สำเร็จ

ขณะที่เรารับเอานวัตกรรมใหม่ ๆ มาใช้ เราจะต้องระมัดระวังในการรักษาไว้ซึ่งคุณธรรมและค่านิยมของเราด้วย การแสวงข้อตกลงใจของประชาคมระหว่างประเทศเกี่ยวกับเทคโนโลยีใหม่ๆ ในปัจจุบัน จะส่งผลต่อการสงครามในอนาคตข้างหน้า รวมถึงชีวิตของผู้คนหลายพันล้านคนทั่วโลก

ด้วยความร่วมมือระหว่างกัน และด้วยการยึดมั่นและสนับสนุนความตกลงระหว่างประเทศ เราจะสร้างสรรค์อนาคตที่เทคโนโลยีให้ความสำคัญต่อชีวิตของผู้คนและส่งเสริมสันติภาพให้บังเกิดได้สำเร็จ

ขอบคุณค่ะ

แปลและเรียบเรียงจาก ICRC President: “We must adopt a human-centered approach to the development and use of new technologies”