No mês de abril, veículos de mídia alternativa produzidos por jornalistas israelenses e palestinos denunciaram o uso de inteligência artificial por Israel para bombardear alvos em Gaza. Segundo o artigo publicado pela Revista +972 e o site de notícias Local Call, o sistema chamado de “Lavender” (ou lavanda, em português) seria o principal responsável pelos bombardeios desenfreados, já que a tecnologia conta com alta permissão para eliminar indivíduos e pouca revisão humana sobre os alvos identificados.
Inicialmente, o sistema Lavender foi desenvolvido para identificar suspeitos que pudessem atuar no grupo militar do Hamas, para posteriormente investigar a relação entre os suspeitos localizados com o grupo considerado terrorista. Nos primeiros momentos da guerra, o exército israelense apostou com confiança na precisão da IA, apesar de a ferramenta apresentar uma taxa de erro de 10%.
Ao todo, a tecnologia por IA localizou mais de 30.000 alvos suspeitos de participarem de ações do Hamas. Sem qualquer cuidado de intervenção humana para averiguar possíveis erros no cadastro de alvos, os militares do Estado de Israel receberam aprovação para prosseguir com a eliminação dos alvos listados pelo Lavender. De acordo com a investigação, cada alvo tinha poucos segundos para ser analisado antes que aprovassem ou não o seu bombardeio.
A especialista em estudos sobre a Palestina e Israel, Isabela Agostinelli, é pesquisadora na área de Violência e Conflitos, Pós-colonialismo e Segurança Internacional. Para Isabela, o uso de dados sempre foi uma constante na questão Palestina e Israel. A pesquisadora conta que durante o processo de colonização sionista da Palestina, um levantamento de dados demográficos, topográficos e estatísticos foi realizado para que o plano de limpeza étnica tivesse maior eficácia. O banco de dados dessa operação ficou conhecido como Village Files.
De agosto de 2005 até outubro de 2023, segundo Isabela, houve o um desincentivo para a ocupação do território da Faixa de Gaza por colonos e soldados israelenses, e durante todo esse processo a região esteve sob controle absoluto de fronteiras marítimas, terrestres e aéreas pelo Estado de Israel, classificado por alguns estudiosos como uma ocupação por controle remoto: “nesse cenário, o controle remoto da população, do território e dos recursos de Gaza são mantidos por Israel, mas agora são feitos à distância, por meio da utilização de drones, por exemplo”.
As Forças de Defesa de Israel não negaram a existência do Lavender, mas afirmaram que cada ataque é realizado pensando em “reduzir os danos aos civis na medida do possível”. Não se sabe se o banco de dados do sistema Lavender inclui mulheres e crianças, apesar de existirem registros de corpos infantis e femininos encontrados após bombardeios. Para Isabela, “o Estado israelense geralmente não faz qualquer distinção entre o que seriam os alvos terroristas e a população geral, haja vista a enorme quantidade de palestinos civis mortos por conta dos bombardeios incessantes em Gaza.”
Segundo Alcides Peron, professor no curso de Relações Internacionais da Fundação Escola de Comércio Álvares Penteado (FECAP) e pesquisador do Núcleo de Estudos da Violência (NEV-USP), não é a primeira vez que uma tecnologia é utilizada como ferramenta de poder por grupos militares. Em 2015 foram reveladas informações a respeito do uso de drones como forma de reforçar tecnologia big data, ou seja, a coleta massiva de dados sensíveis de indivíduos a partir da vigilância por IA.
Através do sistema de drones foi possível produzir análises sobre os padrões de comportamento dos indivíduos, estilo de vida, gostos e preferências, padrão de consumo e aspectos culturais, criando perfis específicos que acabaram por identificar alvos. O sistema chamado de “SkyNet” foi acoplado ao militarismo de drones norte-americanos.
Bastante explorado por obras de ficção científica futuristas, o nome SkyNet é mais conhecido pelo filme "O Exterminador do Futuro", lançado em 1985. A trama consiste principalmente em impedir que o sistema de inteligência artificial destrua toda a civilização humana, uma vez que a IA toma consciência e ameaça um ataque nuclear contra todo o mundo.
Quando a ficção invade a realidade, os resultados podem ser ainda mais desastrosos do que a capacidade imaginativa humana consegue ilustrar. O uso de tecnologias em guerras não é algo exatamente novo, mas sempre preocupante para as ciências sociais, pois pouco se sabe sobre o funcionamento dos algoritmos e as consequências, principalmente a longo prazo.
Este tipo de arma de guerra costuma estar atrelada a mistérios sobre seu mecanismo de funcionamento, sobre as informações a respeito dos algoritmos, da maneira como ocorre a coleta de informações sensíveis para o banco de dados e sobre o quê o sistema busca em pessoas para elas serem consideradas alvos. Para Alcides Peron, o desempenho do sistema SkyNet pode revelar as formas de atuação do Lavender.
O professor explica que o sistema de drones atua sobrevoando uma determinada área, capturando sinais telefônicos e de redes sociais: “tudo o que os indivíduos estiverem utilizando nos celulares e computadores, o drone consegue coletar e produzir perfis de alvos a serem eliminados”. Dessa forma, “se o comportamento de um indivíduo ou de um grupo estiver próximo de um comportamento considerado suspeito, há a legitimação da eliminação desse alvo”.
Na análise publicada pela +972 Magazine, os ataques aconteceram principalmente durante a noite, enquanto os indivíduos estavam em suas casas com toda a família reunida, impedindo que houvesse chance de fuga ou de mínima organização para proteger mulheres e crianças, fora de contexto de atividade militar.
O Ministério da Saúde de Gaza gerido pelo Hamas, contabilizou mais de 30.400 pessoas mortas na Faixa de Gaza desde 7 de outubro de 2023, enquanto que no mês de fevereiro de 2024, o ministro da Defesa de Israel, Yoav Gallant, afirmou terem eliminado 10.000 terroristas do Hamas.
Peron afirma acreditar que a tecnologia incorporada ao Lavender deve estar próxima dos drones já conhecidos, e acima de tudo fazendo comparativos com outras bases de dados mais sofisticadas, com reconhecimento facial, biometria dos indivíduos, identificação de possíveis armas e outros dados: “Isso tudo passa a uma configuração imagética mais profunda do que o SkyNet, por exemplo, que coletava dados diversos mas não tinha capacidade de leitura. Agora imagina todo esse sistema anterior de captação de dados, associado a um sistema de leitura e interpretação de imagens.”
Apesar de denúncias do assassinato de civis que não participam da guerra, neste caso, inteligência artificial do Lavender é entendida por Peron como “um sistema de capacidade destrutiva de alvos e indivíduos pontuais” não encarado como uma tecnologia de destruição em massa, e que não deve fazer abalar a relação de Israel com outros países.
Para Agostinelli, a inteligência artificial e outras formas de tecnologias sendo utilizadas como ferramenta política é sempre algo “imbuído de vieses e orientações discriminatórias”, e que toda a sociedade deveria se preocupar em saber como essas tecnologias serão utilizadas. “Quais são os critérios de criação dos algoritmos? Em quem eles miram e por que? São perguntas que devemos refletir, pois as respostas ainda não são claras”, conclui Isabela.