在现代冲突中,新数字技术的部署和使用——从信息到网络行动——会带来新的风险,并使平民的权利、生命、安全、尊严和复原力面临切实的伤害风险。了解这些风险是数字时代保护工作的核心。
在这篇博文中,红十字国际委员会数字风险顾问朱埃莱·里兹克和数字风险研究员肖恩·科尔代思考了数字时代的一些关键保护问题,并为开展保护工作的行为方提出了前进方向,从而使其能够改进准备工作以应对这些问题。
人道保护是指在武装冲突和其他暴力局势中,人道行为方为保障平民的生命、安全和尊严而开展的工作。为此,人道工作者和其他行为方参与保护活动,旨在确保有关当局和其他行为方根据相关法律体系的文本和精神履行自身义务并尊重个人权利。此类活动的目的是预防或制止实际或潜在的违法行为,并应对其后果。保护活动本质上是通过技术和人道援助,通过支持自我保护措施、风险教育、提供充分准确的信息等方式,减少风险暴露并降低脆弱性。保护工作需要不断分析民众在此类局势中所面临的风险。
保护活动需要不断调整以适应多变的冲突现实,包括会对战争产生影响的新技术的部署。武装冲突局势中的不同行为方——无论是国家、非国家武装行为方、犯罪团伙还是私营公司(下称“冲突行为方”)——使用新数字技术开展网络和数字行动的行为,是当代武装冲突中最重要的演变之一。虽然网络和数字行动鲜少存在于真空之中,但意图和预期使用数字技术的情境可能会给平民居民的生命、安全、尊严和复原力带来一系列风险,我们称之为数字风险。这些有害后果往往额外叠加在动能行动给平民所带来的痛苦之上。
人道应对部门尚未充分理解数字风险对冲突中平民的重大影响。因此,记录、评估和进一步理解新数字技术在物理和数字环境中的使用和危害至关重要。目前,数字风险可分为三大类,本文将重点讨论后两类:
- 首先,与人道行为方使用数字技术来支持人道活动和保护活动有关的风险,如生物识别技术的使用;
- 其次,与武装行为方为支持动能行动或在独立于动能行动的情况下使用数字技术相关的风险,如信息行动、针对平民或民用基础设施的网络行动,或对个人/人道数据的滥用;
- 第三,与技术和基础设施的改作他用和双重用途有关的风险,这使得平民能够参加与冲突有关的行动,如监视、情报收集或网络和信息行动。
这些特定行为和数字技术可能会在横向上影响和限制特定权利,如言论、集会或行动自由、自由和安全、个人身份和隐私。然而,红十字国际委员会在冲突环境中特别关注的是那些对受影响人群的生命、安全和身心健全——他们的尊严、自我保护和复原能力、经济生计以及对基本服务和人道服务的获取——造成有害后果的行为。
保护和人道行为方在日渐利用新数字技术来支持其人道活动和保护活动,并加强受冲突影响人群的能动性的同时,不希望造成任何伤害。尤其是如果在冲突环境中部署数字人道技术可能会助长和加剧风险,进而损害平民的基本权利及其对人道工作者的信任,并导致各种伤害,就更是如此。本文重点关注冲突行为方(而非保护行为方)的行为及其对数字技术的使用。
数字时代的“保护”
在冲突中,技术可能带来诸多积极影响,如改善对救生信息的获取,以及有可能最大限度地减少附带损害。在不削弱这些积极影响的前提下,保护工作必须考虑数字时代的风险。换言之,保护工作必须涵盖在人们的生活与数字领域发生交集时对权利的保护。例如,根据国际人道法,在武装冲突期间,平民和民用物体不得成为攻击目标——这一义务同样适用于网络和数字行动。
因此,在保护工作中,数字风险可能涉及数据或其他数字资产的保护,但并不仅限于此。这些风险涉及武装冲突背景下数字技术的使用,以及数字技术的应用如何使平民暴露于伤害之下,影响其权利、安全和尊严(如对平民使用间谍软件),包括当滥用或侵犯完全发生在网上时(如仇恨言论)。也就是说,数字风险是指任何由数字技术传导或增强的风险,无论是有形风险(包括卫星等支持性基础设施)、逻辑风险还是信息风险。换言之,保护工作的范围应包括通过人与人之间、人与机器之间以及机器与机器之间的互动实施的行为和违法行为(如针对民用或军民两用基础设施的网络攻击)。
风险暴露与保护问题
数字时代的保护并不一定会转化为本质上全新的保护问题。然而,一个重要的区别是,数字相关保护问题可能不那么显而易见或触手可及,也不易得到理解(尤其是受影响民众的理解)和报告。此外,由于攻击潜力大,漏洞普遍存在,数字威胁实际上可能会迅速扩大,且具有广泛影响。它们还可能随着数字技术和实践的进步而演变,从而可能产生不可预见的新风险,保护行为方必须对其进行监测。
网络有害信息
错误信息、虚假信息和仇恨言论等有害信息的传播会助长冲突,损害人们的安全和尊严。网络信息和媒体平台扩大了有害信息传播的规模、范围和速度。国家和非国家行为方利用信息传播系统施加影响、改变行为或实现行动目标。在这一领域,信息叙事可能会助长或煽动针对人们的暴力行为,造成有针对性的困扰和持久的心理伤害,因歧视、污名化和剥夺享有基本服务的权利而进一步加剧脆弱性,损害对形势的认识和自我保护措施,并扰乱或破坏保护行为方及其行动。随着人工智能生成的内容越来越容易获取,这种风险只会日趋严重。与此同时,使用数字通信工具的方式可能会侵犯特定的权利和义务——例如,利用数字通信工具传播违反相关禁令(招募儿童兵或让战俘遭受公众好奇心烦扰)的有害信息。
针对平民的网络活动
平民同样是网络活动的直接目标,这些活动可能损害他们的福祉并削弱他们的权利。例如,部署针对平民的间谍软件会使个人数据遭到滥用,从而损害个人利益,并可能对更广泛的冲突产生影响。同时,冲突难民和其他流离失所者等本已因冲突而处于弱势的人群可能会成为犯罪分子和其他恶意行为者的网上攻击目标,从而引发身份盗窃、欺诈或诈骗等问题。
针对民用基础设施的网络行动
冲突行为方利用勒索软件、分布式拒绝服务攻击(DDoS)或数据擦除程序等网络手段打击和破坏民用基础设施和基本服务,如水电供应或医疗、电子政务和金融服务。此类行动可能会造成令人担忧的人道成本和潜在的破坏性人道后果,阻碍向受危机影响的人口有效提供基本服务,从而可能造成社会经济、社会和心理上的伤害,甚至导致死亡。当网络行动影响到卫星等军民两用基础设施时,平民也可能受到附带伤害。
数据滥用与处理不当
传感器、预测分析或生物识别数据处理等数据驱动型技术的部署和使用引发了一系列对受危机影响人群的权利、安全和尊严的担忧。例如,通过向第三方提供商提出访问请求、黑客攻击或泄露等方式截获的人道数据可能会被滥用于执法、逮捕行动和边境筛查等非人道目的。与此同时,受影响人群的私人、个人和可识别数据,包括与他们自身使用数字技术(如社交媒体)相关的数据,可被直接用来对其进行识别和攻击(如虚假信息、诈骗或暴力)。
数据、人工智能与决策
冲突行为方正在将人工智能支持的自动化“决策支持系统”纳入其作战行为。这些系统是指可为军事决策者提供分析、建议甚至预测的软件工具,可用于各级指挥部的各种军事决策,如“威胁评估”和目标识别、如何开展具体军事行动或拘留等影响民众权利的其他决策。其使用引发了两点担忧:如何确保由人进行法律判断和干预,以及如何确保使用者能够进行解释、提出质疑,且不过分依赖这些人工智能系统。其他令人关切的问题还包括这些系统的透明度、潜在的偏见和错误、不加区分的目标选择,以及因不成比例的攻击而造成的伤害,这些都可能对人们的生命和尊严及其权利造成潜在影响。
人道行动受到干扰
人道行动日渐受到数字手段的干扰,无论是通过攻击其真实性和中立性的信息宣传,还是通过网络行动和数据泄露。这不仅会影响人道行为方开展行动、接触受影响民众、与其他行为方协调、评估需求以及向受影响民众提供援助的能力,还会对人们的安全及其对人道行为方和人道行动的信任产生不利影响。此外,还会危及人道工作者和援助人员。
网络连接中断
冲突行为方日渐频繁地使用中断互联网和通信基础设施接入的做法来控制信息环境和/或支持政治或军事目标。关闭网络可能会给当地民众带来或加剧人道后果,并有可能危及生命。例如,网络中断不仅会限制受危机影响的民众获得拯救生命的信息(如有关人道工作者、食物、住所和医疗服务的信息),而且还可能增加家人离散的风险,因为网络连接对维持和重建家庭联系至关重要。同时,网络中断还可能削弱平民在冲突局势中的复原能力和风险意识,以及他们保护自身、把握经济机会、自由发言和集会的能力。
平民参与
平民和私营公司越来越多地参与数字战场上的活动,使个人面临受伤害的风险,并进一步弱化了平民和战斗员之间的区别。事实上,平民可以积极支持冲突行为方,无论是通过参与军事情报收集(如通过改为他用的应用程序),支持交战一方的网络防御,还是参与针对敌方目标(包括其他民用目标)的网络行动。这种参与可能使平民遭受严重伤害,如成为军方目标、财产被毁、被拘留甚至被杀害,还可能造成诬告和怀疑,导致进一步伤害。
数字时代的准备和保护工作
随着数字时代的保护问题不断产生,人道行为方在解读数字技术的局限性和风险方面依然任重道远。线上冲突和线下冲突的相互作用以及由此产生的人道后果将要求人道工作者以多种方式调整其技能、方法和途径:
1. 促成保护性框架和对话
战争是有限度的,包括在数字领域。因此,数字时代的保护工作必须与这些保护框架相结合,并在可能的情况下予以拓展,以保护受冲突影响个人的权利、安全和尊严:无论是通过进一步发展这些框架,提高对它们的认识,还是与国家接触并倡导实施这些框架。
科技公司和网络团体等非国家行为方已成为武装冲突和行动中的利益相关方,这进一步加剧了对平民和其他受保护人员的威胁。应鼓励与这一领域的相关行为方进行对话。需要解决的问题包括治理、预防伤害和附带损害、国际人道法的适用以及平民和非平民目标的区分、合作开展或加强保护活动、恪守原则和以人为本的技术等。这些都可以基于并利用现有框架,如联合国《工商业与人权指导原则》。同时,通过与各国的对话,提醒其履行法律义务,以确保私营公司尊重国际人道法和国际人权法的相关规则。
最后,与此同步的是,随着人道工作者收集个人敏感数据,他们需要将数据保护实践和框架纳入其工作之中。这些做法包括数据最小化、数据保护影响评估、数据保护设计以及考虑数据主体的权利。值得称赞的是,在过去几年中,人道界在负责任地使用技术和数据方面做了大量工作,如红十字国际委员会的《数据保护手册》、保护信息管理或保护工作专业标准。
2. 培养复原力
我们应抓住机遇,将现有的保护工作与数字扫盲和风险意识项目以及针对受影响人群和人道从业者的数字风险培训结合起来。但绝不能以将责任推卸给受影响人群为代价。随着越来越多的组织和私人行动者采用基于技术的解决方案,并为数字扫盲和提高意识创造了机遇,人道和保护行为方必须采取谨慎的方法,认识到社区或群体被排斥的风险,避免制造虚假的安全感,更重要的是不能将责任转嫁给最弱势群体。
3. 能力建设
整个人道部门的风险意识仍然支离破碎。在理解和记录数字威胁状况、受影响人群所面临的相关风险以及冲突环境中各行为方的行为方面,还存在相当大的差距。因此,应开发数字风险评估工具,并将其纳入保护工作。人道工作者必须相应地继续加强与学术界、军方和技术专家的合作,及时、全面地开展基于证据的保护分析和应对工作。
此外,为了更好地发现、评估和缓解数字风险,保护工作者必须提高技能,依靠将传统方法与新手段相结合的综合方法。这主要包括进一步利用开源信息和社交媒体分析,并将其主流化,这两者都能提供更高的关注度和有力证据,为保护工作提供依据,相关工作涉及为保护对话提供参考的事件监测,以及量身定制基于社区的保护和参与措施。还应对保护工作者进行培训并提供支持,使其能够认识到并记录冲突中网络和数字行动的后果,包括与那些生活受到数字技术影响的社区进行接触。
***
数字风险的增加,由网络有害信息、网络防御行动、军事系统自动化、滥用个人和人道数据、网络连接中断或平民通过数字手段更多地参与冲突等因素所引发或加剧,已成为数字时代冲突的现实。这一现实对受冲突影响人口的权利、安全、尊严和复原力的相关影响是一个不容忽视的问题。
虽然面临着数字扫盲、风险意识和提供伤害证据的能力等重要挑战,但保护工作者应努力扩大现有的保护性法律和政策框架(包括数据保护框架);参与有关数字风险的保护性对话;通过风险教育和提高意识等方式培养受影响人群的复原力;并建设自身的专业知识和能力,以发现风险并预防或解决由此造成的危害。
在这个快速发展的数字环境中,保护人道空间和以保护为中心的方法至关重要。在人道工作者继续研究数字技术对于各自行动的意义时,重要的是无需一切从头开始,而是要调整现有项目。参与应对数字风险并非“锦上添花”,而是人道工作者在道德和专业方面的当务之急。
延伸阅读:
- 蒂尔曼·罗登豪泽,毛罗·维尼亚蒂, “迈向“数字标志”?关于法律、技术和政策之五问”, 2022年11月3日
- Pierrick Devidal, “‘Back to basics’ with a digital twist: humanitarian principles and dilemmas in the digital age”, February 2, 2023
- Tilman Rodenhäuser,Balthasar Staehelin, Massimo Marelli, “Safeguarding humanitarian organizations from digital threats”, October 13, 2022
网友评论