Caso do Grok leva Reino Unido a antecipar lei que criminaliza nudes gerados com IA

Siga o Olhar Digital no Google Discover

O Reino Unido decidiu antecipar a entrada em vigor de leis que criminalizam a criação de deepfakes íntimos não consensuais. A medida é uma resposta direta ao uso da inteligência artificial (IA) Grok, da xAI, que facilitou a geração de imagens sexualizadas sem autorização.

Diante do volume de conteúdo abusivo envolvendo mulheres e menores de idade, o primeiro-ministro Keir Starmer alertou que a rede social X/Twitter pode perder o direito de se autorregular, segundo a BBC. A pressão governamental forçou a empresa de Elon Musk a restringir ferramentas de imagem apenas para assinantes pagos na tentativa de conter a crise.

O governo britânico agiu após o chatbot Grok ser usado para inundar a rede social com montagens degradantes. A resposta legislativa faz parte do Data Act, que agora torna a produção desse conteúdo uma ofensa criminal passível de punição severa em todo o território.

A regra exige que as plataformas digitais adotem uma postura proativa para impedir a disseminação desses materiais. Não basta mais remover o conteúdo após denúncias; o foco agora está na prevenção e no controle das ferramentas de criação dentro dos próprios sites e aplicativos.

Autoridades como a secretária de Tecnologia, Liz Kendall, enfatizaram que a inovação não deve servir para degradar a dignidade humana. Por isso, a nova lei foca também em proibir o fornecimento de ferramentas online projetadas especificamente para criar esses deepfakes abusivos.

O endurecimento do tom acontece porque, embora a xAI tenha imposto limites financeiros ao Grok, brechas ainda permitiam edições sexualizadas, segundo o The Verge. O governo britânico deixou claro que, se a rede X não conseguir controlar a própria tecnologia de IA, o Estado assumirá esse controle.

Essa mudança de postura encerra um período de leniência com as big techs no Reino Unido. E serve de alerta global sobre os limites éticos da tecnologia. A transição para esse novo regime de vigilância agora depende da execução rigorosa do órgão regulador local.

A Ofcom (Office of Communications) lançou uma investigação oficial contra o X baseada em relatórios “profundamente preocupantes” sobre o comportamento do Grok. O objetivo do órgão regulador, que também funciona como agência de fiscalização para os serviços de comunicação no Reino Unido, é verificar se a plataforma violou a Lei de Segurança Online ao falhar na proteção dos usuários contra conteúdos ilegais.

As consequências financeiras para Musk podem ser sem precedentes, com multas de até 10% do faturamento global da empresa. Em valores absolutos, a penalidade pode chegar a 18 milhões de libras esterlinas (aproximadamente R$ 130 milhões).

Além do prejuízo financeiro, o regulador possui o poder de buscar ordens judiciais para bloquear o acesso ao X em todo o Reino Unido. Essa medida seria aplicada caso a empresa se recusasse a colaborar ou falhasse sistematicamente em limpar seu ambiente digital de abusos.

A gestão de Musk rebateu as críticas afirmando que o clamor público é uma desculpa para a censura, embora prometa punir usuários infratores. No entanto, para o governo britânico, essas declarações contrastam com a incapacidade técnica demonstrada pela plataforma em frear os danos em tempo real.

Leia mais:

• Como o caso do Grok expõe falhas e limites no uso da IA, segundo especialistas
• Grok: como acessar e usar a IA do X/Twitter
• Como evitar que o X/Twitter use seus posts para treinar IA

O desfecho dessa investigação servirá como um marco jurídico para como as democracias lidam com ferramentas generativas sem supervisão. O mercado de tecnologia observa agora se a infraestrutura bilionária da xAI será capaz de se adaptar à lei ou se enfrentará um banimento.