Quando ver não basta

Conta-se que um fiel arrependido procurou Santo Agostinho para confessar que havia espalhado uma mentira a respeito de alguém e queria uma recomendação sobre como poderia reparar o dano. Dizem que o santo teria pedido que ele subisse ao alto de uma colina, rasgasse um travesseiro de penas e deixasse o vento levá-las. O homem obedeceu e, no dia seguinte, Agostinho o encarou com serenidade e lhe disse que então fosse até a cidade e recolhesse todas as penas, momento em que o homem afirmou que tal tarefa era impossível. Então o santo concluiu dizendo que, assim como as penas, as palavras maledicentes, uma vez lançadas, não têm como ser trazidas de volta.

Deepfakes: vídeos criados por IA estão circulando e criando ilusões

A pequena história sobre a impossibilidade de reparar os danos advindos de uma mentira que se espalha é a porta de entrada para entendermos o poder da nova tecnologia que a Google lançou em março deste ano, mas que, nas últimas semanas, tem deixado a internet alvoroçada. Se trata do recurso chamado VEO 3, que é capaz de criar clipes com qualidade cinematográfica a partir de comandos textuais, ou seja, o usuário descreve a cena que gostaria de assistir e o VEO 3 cria o vídeo, que ainda pode incluir trilhas sonoras, ruídos de fundo e sincronização labial.

A novidade foi muito mal-recebida por diversos setores. A indústria cinematográfica, por exemplo, expressou preocupação sobre a possibilidade de substituição de artistas reais por personagens criados pelo usuário, o que reduziria a oferta de emprego no setor. No entanto, as críticas mais contundentes vieram daqueles que veem nessa tecnologia uma ferramenta perigosa, que pode ser usada por pessoas mal-intencionadas para gerar vídeos hiper-realistas com deepfakes convincentes e, com isso, obscurecer o debate público.

A expressão deepfake se refere a conteúdos gerados ou manipulados por algoritmos de inteligência artificial para simular, de maneira extremamente realista, falas, rostos, gestos. A nova tecnologia da Google permite a criação de qualquer vídeo, com qualquer conteúdo, sem a presença daquele famoso “delay”, que, até então, nos alertava para a manipulação. Não é mais possível, com a nova tecnologia, diferenciar um vídeo real de um manipulado por IA, o que abre espaço para a fabricação sofisticada da mentira e da manipulação da realidade em que vivemos.

O que estamos prestes a testemunhar é o surgimento de uma pós-verdade visual, na qual o que se vê pode não ser resultado daquilo que é ou foi. As imagens, que antes valiam mais do que mil palavras, serão agora fruto de suspeitas reais, já que nenhum vídeo, com segurança, pode mais ser tomado como expressão de algo que de fato ocorreu. E isso é problemático não apenas no campo da política, da justiça e da informação, mas sobre o próprio tecido simbólico que nos permite viver em sociedade.

Se não podemos mais confiar que o outro viu o que vimos, pois a realidade foi convertida num mosaico de imagens falsas, simuladas e adaptadas aos desejos individuais de cada um, a experiência comum se desfaz. E quando isso acontece, o risco não é apenas de que a verdade seja corrompida, mas que a própria realidade perca seus contornos partilhados. Se já não podemos confiar que o outro viu a mesma coisa que vimos, se aquilo que assistimos não garante que algo, de fato, aconteceu, então o que resta como ponto de ancoragem entre nós?

Foi Santo Agostinho quem nos advertiu sobre o poder irreversível da palavra lançada. Hoje as penas não precisam mais do vento, pois basta um comando de texto para espalhá-las. A nova tecnologia da Google inaugura um tempo em que o “ver” se torna suspeito e o real pode ser fabricado sob demanda. Já não se trata mais de diferenciar o falso do verdadeiro, mas de lidar com um mundo em que toda certeza é potencialmente manipulável e, nesse cenário, os vínculos de confiança se tornam frágeis.

E o que fazemos a esse respeito? Infelizmente, muito pouco.

As opiniões expressas neste texto são de responsabilidade exclusiva do(a) autor(a) e não refletem, necessariamente, o posicionamento e a visão do Estado de Minas sobre o tema.