Os debates sobre a regulamentação das escolhas feitas pelos Estados na condução das hostilidades são frequentemente limitados ao uso de armas. No entanto, a nossa compreensão de armas está desatualizada. Novas tecnologias – especialmente aquelas com algoritmos de inteligência artificial (IA) incorporados, mesmo que não sendo militarizados – estão transformando significativamente a guerra contemporânea. A influência indireta dessas tecnologias nas decisões de guerra é consistentemente subestimada.

Neste post, Klaudia Klonowska, pesquisadora do projeto DILEMA, do Instituto Asser, pede uma mudança dramática no que consideramos uma importante ferramenta de guerra. Não armas, mas todas as tecnologias de guerra. Ela argumenta que precisamos reconhecer que a escolha de tecnologias pode influenciar as capacidades ofensivas tanto quanto a escolha de armas.

O surgimento de tecnologias de IA e o seu uso em conflitos é um tema de crescente importância nos debates internacionais. No entanto, apesar da multiplicidade de diferentes aplicações de IA, fóruns internacionais – por exemplo, a Convenção sobre Certas Armas Convencionais (CCC), Grupo de Especialistas Governamentais (GEG) em Sistemas de Armas Autônomas Letais (SAAL) – focam exclusivamente em aplicações de IA para sistemas militarizados. Apesar da falta de uma definição compartilhada, os SAAL são mais comumente referidos como sistemas de armas que podem selecionar e atacar alvos sem intervenção humana, um foco no armamento que é ainda tautologicamente enfatizado pela inclusão de “letal” no nome da tecnologia em questão. Tecnologias de IA não armadas, como auxiliares de decisão[1] ou tecnologias militares de aprimoramento humano[2], são frequentemente negligenciadas e carecem de um fórum adequado.

Mas essa abordagem focada em armas é justificada do ponto de vista legal?

Para responder a essa pergunta, me refiro e examino uma disposição-chave do Direito Internacional Humanitário (DIH) que reflete a liberdade limitada dos Estados de selecionar meios ou métodos de guerra: o artigo 66 do Protocolo Adicional I (PAI), que obriga os Estados Partes a garantirem que a questão da legalidade de “uma nova arma, meio ou método de guerra” seja analisada com cuidado durante o desenvolvimento ou a aquisição e antes do uso e emprego. Existe uma tendência predominante entre os Estados e estudiosos de chamá-lo de “revisão de armas”, como se itens não militarizados fossem excluídos. Essa narrativa, no entanto, é excessivamente simplista.

Portanto, daremos um passo atrás e discutirem uma questão que muitas vezes é encoberta e assumida por estudiosos do direito internacional e especialistas do Estado: quais são especificamente as “armas, meios ou métodos de guerra” sobre os quais esses debates regulares são realizados?

Nas palavras de Mary Ellen O’Connell: “Precisamos de uma mudança radical sobre como pensamos em armas”. Precisamos de uma mudança para considerar tecnologias que podem estar muito distantes do campo de batalha, não são militarizadas no sentido tradicional e, no entanto, contribuem significativamente para a condução das hostilidades. Precisamos deixar de descrever o artigo 36 como aquele que exige estritamente uma revisão de armas e reconhecer que a escolha de tecnologias não militarizadas pode influenciar as capacidades ofensivas e defensivas de militares tanto quanto a escolha de armas. Não precisamos de uma revisão de armas, mas de uma revisão de “tecnologias de guerra”, como o CICV também as chama, um termo que se adapta ao campo de batalha moderno, incluindo avanços militares atuais e futuros, e destaca um amplo escopo de revisão no espírito da fundamentação do artigo 36.

Terminologia de armas sob pressão: descrição do escopo da revisão do artigo 36

O próprio PAI não define os termos-chaves “uma nova arma, meio ou método de guerra”. Não há uma definição comum desses termos, nem outra disposição ou o preâmbulo do Protocolo oferecem contexto para esclarecer o seu significado. A redação do Protocolo intencionalmente deixou o escopo em aberto para ser suficientemente inclusivo de uma ampla variedade de itens militares e impedir que os Estados fugissem ou burlassem essa proibição desenvolvendo ou definindo novas ferramentas de guerra com capacidades distintas.

Ao mesmo tempo, essa escolha pode ter alguma inconsistência na aplicação do Protocolo e falta de clareza sobre que itens devem ser valiosos. Por exemplo, em 2017, os Países Baixos e a Suíça declararam que “o que mais deveria se enquadrar na categoria de meios além, obviamente, das armas (…), é o que precisa ser revisto, está em debate”.

Indiscutivelmente, o termo “armas” tem sido o mais fácil dos três termos para definir. As definições nacionais dos Estados incluem uma ampla gama de armas, desde armas tradicionais, como armas de fogo, até munições, mísseis, armas não letais ou menos letais e sistemas de lançamento. Essas definições geralmente abrangem todos os objetos que se destinam a causar danos diretamente a pessoas ou destruir objetos.

A maior ambiguidade reside na compreensão dos termos “meios ou métodos de guerra”. Historicamente, uma das abordagens mais comuns é ler “meios e métodos” juntos como se referindo diretamente a armas: por um lado, capturar o desenho de uma arma (meios) e, por outro lado, como se espera que a arma seja usada (métodos). Nas últimas duas décadas, no entanto, podemos observar o desenvolvimento de uma segunda abordagem que lê os termos separadamente, influenciada por uma significativa contribuição de Justin McClelland, um oficial que realiza a revisão jurídica das Forças Armadas Britânicas. No seu artigo de 2003, McClelland definiu meios de guerra como “itens de equipamento que, embora não constituam uma arma como tal, têm impacto direto na capacidade ofensiva da força a que pertencem”. Essa abordagem esclareceu ainda mais a inclusão de itens de equipamentos não armados, como veículos de remoção de minas, e “métodos de guerra”, como técnicas de perfídia ou fome proibidas pelo direito internacional.

Notavelmente, determinados recursos cibernéticos estão agora sujeitos à revisão do artigo 36. A regra 110 do Manual de Talin 2.0 observa que os Estados devem realizar uma revisão legal dos “meios cibernéticos de guerra” e muitos Estados já seguiram o exemplo. Esse desenvolvimento é significativo, pois as capacidades cibernéticas não se assemelham mais à aparência típica de ferro e aço das armas. Quando anteriormente apenas os objetos com influência direta no campo de batalha eram revisados, essa adição abre uma gama de possibilidades para revisar sistemas que indiretamente, por meio de uma cadeia de efeitos, atingem o objetivo pretendido de infligir danos ou destruição. Isso exclui a espionagem cibernética, que é apenas uma coleta passiva de informações. Em vez disso, destaca tecnologias que são capazes de “transformar a coleta passiva de informações em interrupção ativa” e, portanto, são consideradas “meios de guerra”.

Esses avanços mostram que, sob a pressão dos desenvolvimentos tecnológicos, o significado do artigo 36 no direito internacional evoluiu para incluir uma gama mais ampla de itens além de armas, como itens que se destinam a causar danos ou destruição indiretos. Essa evolução deve continuar levando em conta as novas tecnologias que estão mudando significativamente a forma como as hostilidades são conduzidas.

Rever tecnologias de guerra: quatro critérios gerais

No conflito armado contemporâneo, os novos meios de guerra não são facilmente identificáveis. Eles vêm em diferentes formas e formatos, como códigos algorítmicos ou tecnologias nanobioinfocognitivas que aprimoram as capacidades humanas. Além disso, essas tecnologias emergentes são muitas vezes de uso duplo – civil e militar – o que torna ainda mais difícil defini-las ou encontrar caminhos viáveis para regular o seu uso no contexto militar.

Pense no software de reconhecimento facial, desenvolvido primeiro como um algoritmo e depois “militarizado” pela sua inclusão em software que combina os rostos capturados em uma câmera de drone com bancos de dados militares de fotos de terroristas conhecidos ou suspeitos. Mesmo que essa tecnologia de uso duplo nunca seja automatizada, ela pode ser usada para fazer recomendações aos soldados do campo de batalha ou operadores de drones nas decisões de direcionamento. Espera-se que tais tecnologias, embora sejam diferentes das armas convencionais, influenciem consideravelmente a ação humana, o julgamento humano e a intenção humana na tomada de decisões na guerra.

Para considerar se um item deve se enquadrar no escopo do artigo 36 e ser submetido a uma revisão legal, proponho considerar os seguintes quatro critérios gerais, levando em conta as características acima mencionadas de “armas, meios ou métodos de guerra” e a evolução da interpretação do artigo 36.

1. Conformidade com o direito internacionais

O primeiro critério considera se o item coloca em risco o cumprimento do direito internacional por parte dos Estados. Esse critério desencadeia as seguintes questões, entre outras: primeiro, o item ou o seu uso previsto é expressamente proibido por obrigações legais vigentes; e segundo, (se não for proibido em si) o seu uso pretendido em um ambiente operacional viola as normas ou princípios do direito internacional aplicável? Se um sistema ou o seu uso na guerra pode levar à violação de normas e princípios legais, então deve ser do melhor interesse dos Estados Partes assegurar que tais itens sejam revisados antes do seu emprego ou uso.

2 .Integral à tomada de decisões e operações militares

Para itens não militarizados (incluindo aqueles capazes de cumprir integralmente as normas e princípios aplicáveis) que não são proibidos por lei nem violam explicitamente quaisquer normas ou princípios da lei aplicável, é necessária uma avaliação adicional do seu uso pretendido dentro da infraestrutura militar crítica. Isso inclui considerar se o item fará parte integrante da tomada de decisões críticas (ou seja, decisões de direcionamento) e será usado em uma cadeia de efeitos para infligir danos, ferimentos ou destruição. Este é o caso de determinados recursos cibernéticos e pode incluir ainda auxílios à decisão ou tecnologias de aprimoramento humano.

Pense em direcionar auxílios à decisão (p. ex.: software de reconhecimento facial) com a tendência de identificar incorretamente determinadas mulheres, resultando em um viés de gênero e uma pequena porcentagem de alvos identificados incorretamente. Tal algoritmo, se usar técnicas de aprendizagem automática (em inglês machine learning), pode ser usado junto com operações militares para melhorar a sua precisão com o tempo. No entanto, seria altamente problemático se fosse usado como elemento integrante da infraestrutura de tomada de decisão militar, caso em que as recomendações desse software podem levar a decisões finais de direcionamento ilegais. Os fenômenos de desqualificação e viés de automação destacam que, mesmo quando um sistema não está agindo de forma totalmente autônoma, ele pode se tornar um elemento integrante da tomada de decisão militar e, portanto, deve ser revisado antes do seu emprego ou uso.

3. Informações acionáveis para a tomada de decisões e operações militares

Se um item for um elemento integral da tomada de decisões e operações militares, é necessário realizar outra avaliação para verificar se a sua contribuição para a cadeia de efeitos é significativa. Principalmente, como acontece com os recursos cibernéticos, é necessário considerar se o item interpreta, traduz ou filtra as informações antes de serem dadas aos humanos responsáveis pela tomada de decisão. Em vez de simplesmente exibir informações (p. ex: câmera de vídeo), o item processa e proporciona inteligência acionável (p. ex.: software de reconhecimento de alvos) que pode afetar significativamente as decisões militares? Como observa o relatório do SIPRI (em inglês Stockholm International Peace Research Institute), mesmo um sistema de vigilância pode se tornar objeto de revisão “se puder ser estabelecido que ele coleta e processa informações usadas no processo de segmentação”.

4. Uso pretendido na condução de hostilidades

O último critério de avaliação refere-se ao uso específico pretendido do item em análise. Nem todas as tecnologias integrantes das decisões militares, com capacidade de proporcionar inteligência acionável, devem ser englobadas pelo significado do artigo 36. Somente os itens destinados ao uso na condução de hostilidades, ou seja, em apoio a decisões militares críticas, devem ser revisados para evitar danos, lesões ou destruição evitáveis (e/ou ilegais).

* * * * *

Em suma, uma abordagem focada em armas para a regulamentação de novas tecnologias de guerra não pode ser justificada. Quando um item corre o risco de não estar em conformidade com o direito internacional, é destinado ao uso na tomada de decisões militares críticas e pode alterar significativamente a natureza das informações processadas, ele deve ser submetido a uma revisão antes do seu emprego ou uso. Deve-se dizer que tal item, juntamente com operadores humanos, soldados e comandantes, participa da coprodução das hostilidades, o que significa que o mesmo resultado não pode ser alcançado sem o seu uso.

Os critérios acima buscam incluir ambos os itens que podem direta ou indiretamente – por meio de uma cadeia de efeitos – influenciar a condução das hostilidades. De acordo com a sua obrigação de acordo com o PAI, os Estados Partes devem, portanto, garantir que todos esses itens sejam revisados com cuidado antes do seu emprego.

A intenção da redação do PAI de oferecer um escopo suficientemente amplo do artigo 36 pode ser percebida se capturarmos adequadamente as soluções tecnológicas emergentes que representam novos desafios e ameaças ao cumprimento das normas e princípios legais – não apenas novas armas, mas também novas tecnologias de guerra que indiretamente, mas cada vez mais, afetam as nossas decisões e conduta na guerra.

[1] Entende-se por auxílios à decisão ou sistemas de apoio à decisão as tecnologias que utilizam algoritmos para processar e filtrar informações com o objetivo de fazer recomendações e auxiliar as pessoas responsáveis pela tomada de decisão.

[2] A tecnologia de aprimoramento humano refere-se a uma ampla gama de tecnologias biomédicas com o objetivo de melhorar as capacidades físicas ou mentais humanas. No contexto militar, tecnologias de aprimoramento humano estão sendo desenvolvidas para aprimorar as capacidades dos soldados.