A implementação e o uso das novas tecnologias digitais nos conflitos modernos – desde as informações até as operações cibernéticas – criam novos riscos e permitem riscos reais de danos aos direitos, às vidas, à segurança, à dignidade e à resiliência da população civil. O entendimento desses riscos está no cerne do trabalho de proteção na era digital.

Neste artigo, a assessora sobre riscos digitais do CICV, Joelle Rizk, e o pesquisador sobre  riscos digitais do CICV, Sean Cordey, refletem sobre algumas preocupações importantes sobre  proteção na era digital e detalham o plano de ação para que as equipes de proteção melhorem sua preparação para abordar esses temas.

A proteção humanitária é definida pelos esforços dos agentes humanitários em tempos de conflito armado e outras situações de violência visando salvaguardar as vidas, a segurança e a dignidade da população civil. Para isso, as equipes humanitárias e outros atores realizam atividades de proteção para garantir que as autoridades e outros agentes respeitem suas obrigações e os direitos das pessoas de acordo com a letra e o espírito das normativas pertinentes. Tais atividades pretendem evitar ou pôr fim a violações reais ou potenciais, assim como abordar suas consequências. As atividades de proteção buscam reduzir a exposição a riscos e reduzir as vulnerabilidades através da assistência técnica e humanitária, dando suporte a medidas de autoproteção, educação de risco, fornecendo informações precisas adequadas, etc. O trabalho de proteção requer uma análise continuada dos riscos que as pessoas enfrentam nessas situações.

As atividades de proteção se ajustam às realidades em constante mudança dos conflitos, inclusive com a implantação de novas tecnologias que dão forma à guerra. O uso de tecnologias novas e digitais pelos diferentes atores nos contextos de conflito armado – sejam eles Estados, atores armados não estatais, grupos criminosos ou empresas privadas (doravante denominados de atores dos conflitos) – para conduzir operações cibernéticas e digitais é uma das transformações contemporâneas mais importantes nos conflitos armados. Embora as operações cibernéticas e digitais raramente existam em um vácuo, as circunstâncias pretendidas e esperadas do uso das tecnologias digitais podem representar uma série de riscos – podemos chamá-los de riscos digitais – para as vidas, a segurança, a dignidade e a resiliência das populações civis. Essas são consequências prejudiciais que em geral acompanham o sofrimento que elas enfrentam como resultado de operações cinéticas.

A resposta humanitária ainda precisa compreender plenamente o peso dos riscos digitais para a população civil durante os conflitos. Por isso é crucial documentar, avaliar e entender melhor os usos e danos das novas tecnologias digitais nos ambientes físicos e digitais. Atualmente, os riscos digitais podem ser separados em três categorias amplas, das quais este artigo focalizará nas últimas duas:

• Primeiro, aqueles relacionados ao uso, pelos atores humanitários, da tecnologia digital como suporte a atividades humanitárias e de proteção, como o uso da biometria;
• Segundo, aqueles relacionados ao uso, pelos atores armados, no suporte às operações cinéticas, ou independentemente delas, como as operações de informação, operações cibernéticas contra civis ou infraestruturas civis,  ou o uso indevido de dados pessoais ou humanitários;
• E, terceiro, aqueles relacionados à reutilização ou ao uso dual de tecnologias e infraestrutura, permitindo a participação de civis nas ações relacionadas ao conflito, como vigilância, coleta de inteligência ou operações cibernéticas e de informação.

Esses comportamentos e tecnologias digitais específicos podem afetar de maneira transversal e restringir direitos específicos, como liberdade de expressão, reunião ou movimento, liberdade e segurança, identidade pessoal e privacidade. Contudo, a preocupação específica do CICV nos ambientes de conflito é aquela com consequências prejudiciais à vida, à segurança e à integridade física e psicológica das populações afetadas – sua dignidade; sua capacidade de se proteger e a resiliência; sua subsistência econômica; e seu acesso aos serviços essenciais e humanitários.

À medida que os atores de proteção e humanitários recorrem cada vez mais a novas tecnologias digitais para apoiar suas atividades humanitárias e de proteção, e para reforçar as capacidades de ação as pessoas afetadas por conflitos, eles almejam não causar danos.

Isso ocorre especialmente quando a implantação tecnologias humanitárias digitais em ambientes de conflito pode promover e exacerbar riscos que podem, por sua vez, debilitar os direitos fundamentais das pessoas civis e sua confiança nas equipes humanitárias, bem como levar a vários tipos de danos. Este artigo aborda o comportamento e os usos feitos pelos atores dos conflitos, não o comportamento das equipes de proteção e o uso que elas fazem das tecnologias digitais.

‘Proteção’ na era digital

Sem menosprezar os impactos positivos que a tecnologia pode trazer aos conflitos, por exemplo ao aumentar o acesso a informações que salvam vidas e ao minimizar potencialmente os danos colaterais, o trabalho de proteção deve levar em conta os riscos na era digital. Em outras palavras, ele deve abarcar a proteção dos direitos das pessoas quando suas vidas se cruzam com a esfera digital. Segundo o Direito Internacional Humanitário (DIH), por exemplo, civis e objetos civis não devem ser alvo de ataque durante conflitos armados – uma obrigação igualmente aplicável às operações cibernéticas e digitais.

Os riscos digitais em um contexto de proteção podem, então, estar relacionados à proteção de dados ou outros ativos digitais, mas não estão limitados a essas questões. Vinculam-se ao uso das tecnologias digitais nos contextos de conflitos armados e na forma que a sua aplicação expõe a população civil ao perigo, afeta seus direitos, segurança e dignidade (como o uso de spyware contra civis), inclusive quando o abuso ou a violação ocorre exclusivamente on-line (como discurso de ódio). Ou seja, qualquer risco mediado ou aumentado pelas tecnologias digitais, seja ele físico (inclusive infraestruturas de apoio como satélites), lógico ou informativo. Em outras palavras, o escopo do trabalho de proteção deverá abarcar comportamentos e violações que são cometidos através de ações entre humanos, entre humanos e máquinas, e entre máquinas (como ataques cibernéticos contra civis ou infraestrutura de uso dual).

Preocupações sobre proteção e exposição ao risco

A proteção na era digital não se traduz necessariamente em preocupações sobre proteção fundamentalmente novas. Contudo, uma distinção importante é que as preocupações sobre proteção relacionadas com a era digital podem ser menos visíveis, tangíveis, compreendidas (em especial pelas pessoas afetadas) e comunicadas. Além disso, devido ao amplo potencial de ataque e à prevalência de vulnerabilidades, as ameaças digitais podem de fato aumentar rapidamente e ter um amplo alcance. Elas também podem evoluir à medida que as tecnologias e as práticas digitais avançam, promovendo potencialmente riscos novos e imprevistos que as equipes de proteção deverão monitorar.

Informações prejudiciais on-line

A disseminação de informações prejudiciais, como informações errôneas, desinformação e discurso de ódio (MDH), pode alimentar conflitos e comprometer a segurança e a dignidade das pessoas. As informações on-line e as plataformas de mídia amplificaram a escala, o alcance e a velocidade da disseminação de MDH. Os sistemas de comunicação das informações são impulsionados por atores estatais e não estatais para exercer influência, mudar o comportamento ou alcançar objetivos operacionais. Nesse espaço, as narrativas das informações podem contribuir com os atos de violência contra as pessoas ou incitá-los, causar angústia e danos psicológicos duradouros, aumentar as vulnerabilidades devido a discriminação, estigma e negação de acesso aos serviços essenciais, comprometer a conscientização sobre a situação e as medidas de autoproteção, e desarticular ou debilitar as equipes de proteção e suas operações. Este risco só se torna mais exacerbado à medida que o conteúdo gerado pela IA se torna mais acessível. Concomitantemente, têm sido usadas ferramentas de comunicação digital de maneira que possam violar direitos e obrigações específicos – como o seu uso para disseminar informações prejudiciais em violações proibição do recrutamento infantil ou a proibição de expor prisioneiros de guerra à curiosidade pública.

Atividades cibernéticas que atingem civis

As pessoas civis também são alvos diretos das atividades cibernéticas que podem causar danos ao seu bem-estar e prejudicar seus direitos. A implantação de spyware tendo civis como alvo, por exemplo, pode permitir o uso indevido de dados pessoais em detrimento dos indivíduos  e, potencialmente, afetar o conflito mais amplo. Enquanto isso, as populações já vulneráveis devido aos conflitos, como refugiados e outras pessoas deslocadas, podem ser alvos on-line de criminosos e outros agentes maliciosos, levando a preocupações sobre furto de identidade, fraude ou golpes.

Operações cibernéticas contra a infraestrutura civil

Os atores dos conflitos aproveitam os recursos cibernéticos, como ransomware, DDoS ou wipers , para causar impacto ou tornar inoperante a infraestrutura civil e os serviços essenciais, como eletricidade, água ou serviços médicos, de governança eletrônica e financeiros. Essas operações podem ter custos humanos preocupantes e consequências humanitárias potencialmente devastadoras, afetando a prestação eficiente de serviços essenciais para populações afetadas pela crise e, com isso, causando potencialmente prejuízos socioeconômicos e psicológicos , ou mesmo a morte. A população civil também pode ser incidentalmente prejudicada quando as operações cibernéticas afetam a infraestrutura de uso dual, como os satélites.

Uso indevido e manuseio incorreto de dados

A implantação e o uso de tecnologias orientadas por dados, como sensores, análise preditiva ou processamento de dados biométricos, levantam uma série de preocupações quanto aos direitos, à segurança e à dignidade das populações afetadas pela crise. Por exemplo, os dados humanitários interceptados, como pedidos de via de acesso para provedores terceirizados, hacking, ou vazamentos, podem ser usados indevidamente para fins não humanitários, como aplicação da lei, operações de prisão e controle de fronteiras. Enquanto isso, os dados privados, pessoais e identificáveis das populações afetadas, inclusive aqueles ligados ao uso que elas próprias fazem de tecnologias digitais (por ex., mídias sociais), podem ser usados para identificá-las e usá-las como alvo direto (por ex., desinformação, golpes ou violência).

Dados, IA e tomada de decisão

Os atores dos conflitos estão integrando “sistemas de apoio à decisão” automatizados e habilitados por IA à sua conduta de guerra. São ferramentas de software que fornecem análises, recomendações e até mesmo previsões para os tomadores de decisão militares. Essas ferramentas poderiam ser usadas em uma ampla gama de decisões militares em todos os níveis de comando, como na “avaliação de ameaças” e no reconhecimento do alvo, decisões sobre como conduzir uma determinada operação militar ou outras decisões que causem impacto nos direitos das pessoas, como a detenção. Seu uso suscita preocupações não apenas com respeito a como assegurar uma sentença e intervenção judicial humana, mas também que os usuários sejam capazes de explicar, contestar ou não confiar inteiramente nesses sistemas baseados na IA. Existem outras preocupações quanto à transparência dos sistemas, tendências e erros potenciais, seu direcionamento indiscriminado, mas também o prejuízo devido a ataques desproporcionais com consequências potenciais à vida e à dignidade das pessoas e seus direitos.

Perturbação das operações humanitárias

As operações humanitárias estão sendo cada vez mais prejudicadas pelos meios digitais, seja através de campanhas de informação que têm como alvo sua integridade e neutralidade, ou através  operações cibernéticas e violações de dados. Isso pode causar impacto na capacidade das equipes humanitárias de operar, ter acesso a populações afetadas, coordenar com outros atores, avaliar as necessidades e oferecer ajuda às populações afetadas. Isso também pode prejudicar a segurança das pessoas e sua confiança nos atores humanitários e nas operações. Ademais, isso coloca em risco equipes humanitárias.

Interrupção da conectividade das pessoas

A interrupção do acesso à internet e à infraestrutura de comunicação é uma prática  cada vez mais utilizada pelos atores dos conflitos para controlar os ambientes de informação e/ou dar suporte a objetivos políticos ou militares. Essas paralisações podem criar ou exacerbar consequências humanitárias para as equipes no terreno, com consequências potencialmente fatais. Por exemplo, elas não apenas limitam o acesso das populações afetadas pela crise às informações que salvam vidas (por ex., humanitárias, alimentares, sobre abrigos, assistência à saúde), mas também podem aumentar o risco de separação considerando a importância da conectividade para manter e restaurar a conexão familiar. Também podem impedir a resiliência civil e a conscientização dos riscos em situações de conflito, bem como sua capacidade de proteger-se, aproveitar oportunidades econômicas e falar e reunir-se livremente.

Envolvimento civil

O crescente envolvimento de civis e empresas privadas  em atividades no campo de batalha digital coloca as pessoas em risco de dano e reduz a distinção  entre civis e combatentes. De fato, civis podem apoiar ativamente os atores dos conflitos, seja se envolvendo na coleta de inteligência  militar (por ex., através de aplicativos reaproveitados), dando suporte à defesa cibernética de um combatente ou participando de  operações cibernéticas contra alvos inimigos, inclusive contra outros alvos civis. Esse envolvimento pode expor os civis a graves danos, como serem considerados alvos pelos militares, ter sua propriedade destruída, serem detidos ou até mortos. Também pode ser a causa de acusações falsas e suspeitas que levam a mais danos.

Trabalho de preparação e proteção na era digital

Como continuam surgindo preocupações com proteção na era digital, as equipes humanitárias ainda têm um longo caminho a percorrer para decifrar os limites e os riscos das tecnologias digitais. A interação dos aspectos on-line e off-line dos conflitos e as consequências humanitárias exigirão que os profissionais humanitários adaptem suas capacidades, métodos e abordagens de várias maneiras:

1. Permitir estruturas de proteção e diálogos

As guerras têm limites, inclusive na esfera digital. O trabalho de proteção na era digital deve, portanto, cooperar com essas estruturas protetoras e expandi-las – sempre que possível – visando preservar direitos, segurança e dignidade das pessoas afetadas por conflitos: seja promovendo seu desenvolvimento, aumentando a conscientização sobre eles ou defendendo sua implantação junto aos Estados.

Atores não-estatais, como empresas de tecnologia e grupos cibernéticos, emergiram como partes interessadas em conflitos armados e operações, o que intensifica as ameaças a civis e outras pessoas protegidas. O diálogo com os atores pertinentes nesse espaço deve ser encorajado. As questões a serem abordadas incluem governança, prevenção de danos e danos incidentais, aplicação do DIH e distinção entre alvos civis e não civis, colaboração na entrega ou na melhoria das atividades de proteção, tecnologias íntegras e centradas no ser humano, etc. Tais questões poderiam se basear nas estruturas existentes, como os Princípios Voluntários sobre Segurança e Direitos Humanos da ONU, e impulsioná-las. Ao mesmo tempo, os diálogos com os Estados podem lembrá-los de suas obrigações legais para garantir que empresas privadas respeitem as normas pertinentes do DIH  e o direito internacional dos direitos humanos.

Por fim, e em paralelo a isso, à medida que as organizações humanitárias coletam dados pessoais e sensíveis, devem integrar ao seu trabalho as práticas e as estruturas de proteção de dados. Essas práticas incluem minimização de dados, avaliações do impacto da proteção de dados, proteção de dados por projeto e reflexão dos direitos do titular dos dados. Meritoriamente, tem sido feito um trabalho considerável nos últimos anos sobre o uso responsável de tecnologias e dados nos contextos humanitários, como o Manual do CICV sobre Proteção de Dados na Ação Humanitária, a Gestão de Informações de Proteção ou as Normas Profissionais para o Trabalho de Proteção  do CICV.

2. Promover a resiliência

Existe uma oportunidade de integrar o trabalho de proteção existente em programas e treinamentos de literacia digital e conscientização sobre os riscos digitais para populações afetadas e profissionais humanitários. Esses esforços, contudo, não devem ser realizados à custa de se delegar a responsabilidade para as populações afetadas. À medida que mais organizações e atores privados adotam soluções baseadas na tecnologia e criam oportunidades para a literacia digital e a conscientização, é importante que os atores humanitários e de proteção adotem uma abordagem cuidadosa que reconheça os riscos da exclusão de comunidades ou grupos, o que cria um falso senso de segurança e, mais importante, transfere a responsabilidade para os mais vulneráveis.

3. Construir capacidades

A conscientização dos riscos pelo setor humanitário permanece fragmentada. Existe uma lacuna considerável no entendimento e na documentação do cenário da ameaça digital e dos riscos associados para as populações afetadas e os comportamentos de vários atores em ambientes de conflito. Os instrumentos de avaliação do risco digital deverão, portanto, ser desenvolvidos e integrados ao trabalho de proteção. Nesse sentido, as organizações humanitárias deverão continuar fortalecendo a sua colaboração com os especialistas acadêmicos, militares e tecnológicos para produzir análise e resposta de proteção oportunas e abrangentes com base em evidências.

Além disso, para melhor detectar, avaliar e mitigar os riscos digitais, as equipes de proteção deverão adquirir novas competências para utilizar abordagens híbridas que incorporem as abordagens tradicionais com as mais recentes. Isso inclui, em particular, melhor aproveitamento e integração de informações de código aberto e análises das mídias sociais, que podem fornecer maior visibilidade e evidências para fundamentar o trabalho de proteção, desde um monitoramento de incidentes, que pode embasar diálogos de proteção, até proteção e engajamento personalizados conforme a comunidade. As equipes de proteção também deverão ser treinadas e apoiadas para serem capazes de estar cientes e documentar as consequências das operações cibernéticas e digitais nos conflitos. Isso inclui o engajamento com as comunidades cujas vidas se entrecruzam com as tecnologias digitais.

***

O aumento de riscos digitais decorrentes ou exacerbados por informações prejudiciais on-line, operações de defesa cibernética, automação de sistemas militares, uso indevido de dados pessoais e humanitários, interrupções na conectividade ou envolvimento crescente de civis nos conflitos através das mídias digitais é uma realidade do conflito na era digital. O efeito que esse aumento de riscos tem sobre os direitos, a segurança, a dignidade e a resiliência das populações afetadas pelos conflitos é uma preocupação que não pode ser ignorada.

Embora surjam importantes desafios, como a literacia digital, a conscientização dos riscos e a capacidade de gerar comprovação dos danos, as equipes de proteção deverão trabalhar para expandir as estruturas jurídicas e políticas de proteção (inclusive as de proteção de dados); manter diálogos protetores sobre riscos digitais; incentivar a resiliência das populações afetadas, através da educação e da conscientização dos riscos; e construir sua própria expertise e capacidade de detectar riscos e evitar e abordar os danos resultantes.

Nesse ambiente digital em rápida evolução, a preservação do espaço humanitário e uma abordagem centrada na proteção são fundamentais. Embora os profissionais humanitários continuem a desvendar o que isso significa para as suas respectivas ações, é importante não reinventar a roda humanitária, mas sim adaptar os programas existentes. Envolver-se nos riscos digitais não é algo apenas ‘bom de se ter’, mas um imperativo ético e profissional para as organizações humanitárias.

Veja também:

• Pierrick Devidal, “‘Back to basics’ with a digital twist: humanitarian principles and dilemmas in the digital age”, 2 de fevereiro de 2023
• Tilman Rodenhäuser, Mauro Vignati, “Towards a ‘digital emblem’? Five questions on law, tech, and policy”, 3 de novembro de 2022
• Tilman Rodenhäuser,Balthasar Staehelin, Massimo Marelli, “Safeguarding humanitarian organizations from digital threats”, 13 de outubro de 2022