A corrida entre quem falsifica e quem verifica
A nova base de dados para identificação de deepfake pode ajudar ou prejudicar o combate entre o bem e o mal
Mais lidas
As tentativas de fraude com deepfake no Brasil cresceram 126% em um ano, segundo levantamento da empresa de verificação de identidade Sumsub. Milhares de pessoas têm sido convencidas a agir de formas que lhes são prejudiciais por vídeos em que pessoas famosas ou familiares sintetizados por inteligência artificial lhes pedem ajuda ou dão “conselhos”. Em abril deste ano, pesquisadores do laboratório AI for Good, da Microsoft, da Northwestern University e da organização de direitos humanos WITNESS publicaram um artigo apresentando o MNW, um conjunto público com mais de 50 mil arquivos de áudio, imagem e vídeo destinado a avaliar sistemas de detecção de mídia sintética.
O MNW responde a um diagnóstico incômodo. Os conjuntos de avaliação da década passada nasceram na era das redes adversariais generativas e privilegiavam profundidade, muitos exemplos de poucos geradores. Mas o atual nível de difusão dessas tecnologias está mudando o panorama global. A grande questão é que um detector avaliado contra meia dúzia de geradores aprende a reconhecer aqueles geradores, e não a falsificação. No artigo, os autores invertem essa lógica, priorizando a amplitude, ou seja, focam em pequenas amostras do maior número possível de modelos e é isso que a base dados disponibilizada busca fazer.
Leia Mais
O MNW incorpora ainda casos reais recolhidos por jornalistas e defensores de direitos humanos, além de arquivos submetidos a compressão, recorte e ataques adversariais deliberados. O objetivo é diminuir as fragilidades atuais dos detectores de deepfake que dizem ter alto desempenho em testes controlados, mas vacilam diante de vídeos enviados em aplicativos de mensagem, sendo incapazes de identificar fraudes e proteger pessoas.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
Nem tudo são flores, há um risco que os próprios autores reconhecem e que merece a atenção do leitor. Um catálogo público e atualizado do que os detectores conseguem enxergar também pode ser um mapa do que precisa ser evitado por quem falsifica, ou seja, pode tornar ainda mais difícil a identificação da deepfake no futuro. Os autores tentam evitar esse risco proibindo o uso da base de dados para treinamento de IA, mas a verdade é que limitações de licença nunca foram barreira para quem já está disposto a fraudar. Para que os benefícios superem os riscos, o MNW precisa ser capaz de integrar e potencializar o trabalho de especialistas em segurança e a comunidade científica bem-intencionada, sem, ao mesmo tempo, dar demasiado insumo ao mercado criminoso
As opiniões expressas neste texto são de responsabilidade exclusiva do(a) autor(a) e não refletem, necessariamente, o posicionamento e a visão do Estado de Minas sobre o tema.
