Especialistas alertam que apenas a própria inteligência artificial (IA) será capaz de conter a proliferação de deepfakes — vídeos hiper-realistas manipulados por algoritmos.

Segundo a Organização Mundial da Propriedade Intelectual (OMPI), essas falsificações utilizam IA para sobrepor rostos, vozes e gestos, criando conteúdos que parecem autênticos, mas são completamente fabricados.

Deepfakes estão ficando mais comuns

• Em 2024, um novo deepfake foi criado a cada cinco minutos, conforme estima o think tank Entrust, um instituto de cibersegurança.
• Políticos como Marco Rubio e Guido Crosetto, além de figuras como Taylor Swift e Joe Rogan, foram vítimas recentes desse tipo de golpe.
• Os riscos são sérios: desde fraudes e roubos de dados até tentativas de manipular decisões políticas, como ocorreu quando a voz de Joe Biden foi clonada para desincentivar o voto em eleições locais.

A União Europeia prevê que 8 milhões de deepfakes serão compartilhados no bloco em 2024 — um salto significativo em relação aos 500 mil registrados em 2023. As informações são do EuroNews.

Leia mais:

• Espanha propõe criminalizar deepfakes sexuais não consensuais com IA
• Seu Direito Digital: fim das deepfakes?
• Real ou deepfake? Veja como identificar se uma imagem foi gerada por IA

IA que distingue conteúdo falso

Para conter a ameaça, pesquisadores têm treinado IAs para reconhecer sinais sutis que distinguem conteúdo falso do real.

Métodos incluem a análise de padrões visuais e vocais. Um sistema da empresa Pindrop, por exemplo, consegue identificar clonagens de voz em tempo real com base em milhões de pontos de dados.

A partir de 1º de agosto, a Lei de IA da UE exigirá que todo conteúdo gerado por IA, incluindo deepfakes, seja rotulado. Para os especialistas, essa transparência é essencial para manter a confiança na mídia digital.