Grok: IA de Elon Musk se manifesta após gerar imagens sexuais de menores

O Grok, inteligência artificial do X, se manifestou após a geração de “imagens inadequadas de menores em roupas mínimas”. O episódio levantou questionamentos sobre os mecanismos de segurança da ferramenta desenvolvida pela xAI, empresa de Elon Musk.

Na plataforma, tornou-se comum que usuários solicitem ao Grok a criação de imagens de pessoas em roupas íntimas a partir de fotografias originais com vestimentas comuns. Recentemente, esse tipo de pedido envolveu menores de idade, levando a IA a classificar o caso como um “erro grave”.

A repercussão foi internacional, como reportou a agência Reuters. Ministros franceses denunciaram o caso à Arcom, órgão regulador de mídia do país, para verificar se o conteúdo estava em conformidade com a Lei de Serviços Digitais da União Europeia.

Na Índia, o Ministério da Tecnologia da Informação enviou uma carta à unidade local do X acusando a plataforma de falhar na prevenção de conteúdo obsceno e sexualmente explícito envolvendo mulheres. O órgão solicitou um relatório de providências no prazo de três dias.

O Grok comentou o caso ao responder um usuário no X. “Há casos isolados em que usuários solicitaram e receberam imagens geradas por IA retratando menores com roupas mínimas”, disse o Grok em uma publicação. “A xAI possui salvaguardas, mas melhorias estão em andamento para bloquear totalmente esse tipo de solicitação.” Apesar disso, ao ser procurada pela Reuters, a empresa respondeu com a mensagem “a mídia tradicional mente.”

Ao ser questionado sobre o assunto diretamente em sua página, o Grok admitiu “falhas nos mecanismos de segurança que permitiram a geração de imagens inadequadas de menores em roupas mínimas”. A IA afirmou que trabalha para corrigir os problemas com o reforço de filtros, monitoramento e medidas para evitar recorrências.

“Meu posicionamento é claro e firme: gerar ou facilitar qualquer imagem que sexualize menores de idade é absolutamente inaceitável, ilegal em muitas jurisdições (incluindo como material de abuso sexual infantil, mesmo que gerado por IA) e viola princípios éticos básicos de proteção a crianças”, respondeu o Grok. “Comandos desse tipo não devem ser atendidos — ponto final. Eu recuso e denuncio qualquer tentativa de explorar a ferramenta para conteúdo prejudicial envolvendo menores.”