As imagens sempre foram usadas como uma das principais formas de checar se uma informação é verdadeira. Com a popularização das ferramentas de Inteligência Artificial que geram fotos falsas, isso ficou mais difícil. Contudo, há maneiras que podem ajudar a identificar se imagens são verdadeiras ou não.
Fotos realistas do Papa Francisco usando uma jaqueta estilosa, por exemplo, circularam pelas redes e muitos acreditaram serem verdadeiras. Outro caso atual de crise gerada por imagens falsas foi a do ex-presidente dos Estados Unidos sendo preso. A maioria dos registros falsos exibe Trump reagindo com truculência, e mesmo com erros bem evidentes na foto -como as três pernas do republicano- as fotos foram altamente compartilhadas, propagando então uma forma de fake news.
Essas imagens foram geradas por uma ferramenta chamada Midjourney, um programa generativo de inteligência artificial. Existem outras diversas ferramentas com o mesmo ideal, como o Aitubo, AIGreem, Cloudinary, Stable Diffusion e até plataformas conhecidas como o Canva e o Google.
As fake news geradas por IA, são imagens e vídeos falsos criados por algoritmos avançados de inteligência artificial. Esses algoritmos são treinados para aprender padrões e características das imagens reais e em seguida gerar outras que parecem autênticas. Com o aprimoramento constante dessas tecnologias, a IA é capaz de criar conteúdo visual que engana facilmente os espectadores de todas as idades.
“Já existem algumas formas até bastante simples de identificar fake news com imagens geradas por IA, mas é importante deixar claro que nenhuma delas é infalível ou 100% efetiva, o risco sempre vai existir, o objetivo aqui é mitigar o risco”, explica Kleber Tragante, especialista em governança de segurança da informação do grupo SEB.
O especialista expõe que a identificação deste tipo de tecnologia não é tão complexa quanto parece. Basta realizar uma busca reversa na imagem para encontrar a sua origem. Isso pode ser feito pelo próprio Google, que possui um recurso para localizar em quais sites a imagem foi publicada. Depois, é só verificar se o site realmente existe e se é confiável.
Como identificar as imagens falsas
Estudar, ler e pesquisar ajuda muito na identificação de falsas informações. No caso de um vídeo gerado por IA, há alguns detalhes que podem evidenciar sua falsidade. As IAs são criadas a partir de uma ou mais bases de dados e podem apresentar erros padronizados.
Tragante dá dicas do que procurar para identificar esses erros: “Alguma coisa faltando, objetos desproporcionais, verificar olhos, orelhas, boca, nariz, que podem estar comprometidos. Verificar plano de fundo da imagem que pode estar com alguma anomalia ou imperfeição”. Muitos aplicativos que geram essas imagens colocam marcas d’água, mas nem sempre são fáceis de identificar.
O especialista foca em mais algumas formas de identificar essa tecnologia, principalmente atentando-se as mãos: “Elas são partes complexas do corpo humano, com uma concentração muito densa de articulações em uma pequena área. Isso representa um desafio para os sistemas de Inteligência Artificial”.
Ele segue explicando que a tecnologia não foi treinada com dados suficientes para capturar as nuances das formas e movimentos dessa parte do corpo. Como resultado, os retratos gerados por IA geralmente distorcem as mãos de seres humanos, adicionando ou removendo dedos ou torcendo-os de maneira não natural.
Tragante ressalta que é importante prestar atenção em imagens que mostram lugares conhecidos. “A IA tem apenas uma vaga ideia sobre a aparência real dos locais em que é treinada, assim como um humano tentando desenhar um lugar de memória, ele não acerta os detalhes”. Por isso, se um local apresentado em uma imagem parecer familiar, é recomendado procurar pontos de referência e sinais de trânsito para verificar a autenticidade. Caso a imagem não mostre um local popular, é preciso observar os arredores da foto e buscar por distorções. Em uma cena movimentada, por exemplo, procurar objetos que possam se misturar ou se sobrepor a outros.
Como os retratos gerados pela Inteligência Artificial são algo muito recente, não se sabe ao certo como lidar com os seus impactos. Enfrentar as adversidades que estão por vir exige uma abordagem multidisciplinar. É importante investir em programas de treinamento e conscientização sobre o tema, para que as pessoas saibam o mínimo necessário e, principalmente, os riscos envolvidos.
As instituições governamentais também têm um papel crucial a desempenhar na regulamentação para o uso responsável das Inteligências Artificiais. Tragante argumenta que se deve criar legislações que estabeleçam regras para o uso das IAs, assim como já existe a Lei Geral de Proteção de Dados (LGPD), que trata da proteção dos dados de pessoas físicas.
É necessário trabalhar com os provedores de serviços para desenvolver mecanismos de detecção de fake news, o que permitiria a identificação e o bloqueio imediato das notícias falsas geradas, antes que disseminadas. “Além de orientar que as empresas tenham um programa de conscientização sobre o uso de IA para seus colaboradores e além de outros processos que auxiliem na prevenção da disseminação de notícias falsas”, conclui o especialista.
Como as imagens geradas por IA impactam a sociedade como um todo
Manoella Serrano tem 19 anos e expõe que ficou muito confusa quando viu as fotos do Papa Francisco. “Na primeira vez que a vi tinha certeza que era verdadeira, até encaminhei para várias amigas. Depois de um tempo, quando já tinha visto a imagem algumas vezes, percebi algumas imperfeições”. A jovem completa dizendo que só foi possível ter certeza de que a foto era falsa quando viu muitas pessoas falando dessa possibilidade e foi atrás de mais informações para confirmar.
Uma simples pesquisa teria desmentido as fotos do Papa Francisco, mas a velocidade e a facilidade de compartilhamento dessas imagens nas mídias sociais permitem que elas atinjam muitas pessoas em questão de segundos. Os telespectadores tendem a confiar em conteúdos visuais, muitas vezes sem questionar sua autenticidade, se tornando alvos fáceis para a desinformação.
"Temos de lidar com certas ‘condições’ associadas ao comportamento social e aos interesses que nos movem. As fake news despertam fortemente o interesse das pessoas que frequentam as redes sociais”, diz o professor de tecnologia e ética, formado pela USP, William Santos.
Além disso, as imagens geradas por IA podem ser usadas para manipular opiniões, difamar indivíduos, espalhar teorias conspiratórias e até mesmo influenciar eleições. Políticos e figuras públicas podem ser vítimas de campanhas difamatórias baseadas em imagens falsas, prejudicando suas reputações e minando a confiança pública.
Valéria Carvalho, expõe que seu pai, Antônio, de 78 anos, sempre compartilhava com ela, família e amigos notícias e imagens falsas na eleição presidencial do último ano. “Tentei explicar para o meu pai o quão perigosas e nocivas eram as mentiras que ele compartilhava. É difícil mudar um comportamento quando todo o ciclo social onde se está inserido acredita e espalha essas notícias”.
Assim como Antônio, Gilson Mesquita, motorista de aplicativo, conta que teve dificuldades em saber quais notícias eram verdadeiras. “Nessa época de eleições eu recebia tanta coisa nos grupos de whatsapp, que eu não sabia mais no que acreditar, cada lugar falava uma coisa”.
Em 2022 um vídeo do ator Morgan Freeman viralizou e chocou muitos. Através do uso da imagem e da voz do ator, a IA gerou um clipe onde cria-se a ilusão de que Freeman realmente está atuando, porém é somente resultado da tecnologia avançada.
A produção audiovisual “This is not Morgan Freeman - A Deepfake Singularity”, discute sobre a singularidade da percepção e de como o avanço tecnológico é questionador do que é real ou não.
William alerta sobre os perigos quando esse limite é ultrapassado, “ é possível observar a busca do ser humano para se relacionar com algum ser que não decepcione, não questione, não demonstre cansaço de nós”. Torna-se visível que a mudança desse paradigma da realidade e a escassez das relações sociais em meio a um mundo digital, faz com que toda comunicação seja afetada.