Instituto de Defesa de Consumidores pede ao governo suspensão do Grok no Brasil

Siga o Olhar Digital no Google Discover

O Instituto de Defesa de Consumidores (Idec) comunicou nesta segunda-feira (12) que enviou um ofício ao governo pedindo a suspensão do Grok no Brasil por violação de direitos de crianças, adolescentes e mulheres. O órgão também cita reações internacionais ao caso, incluindo investigações em andamento em outros países.

O pedido vem após diversos casos de geração de imagens sexualizadas e pornográficas usando a ferramenta de inteligência artificial da xAI, que funciona integrada ao X (antigo Twitter).

Idec pediu suspensão do Grok no Brasil

O ofício foi enviado aos integrantes do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda). O documento pede a adoção de providências cabíveis diante das violações associadas ao uso do Grok no X.

Em comunicado, o Idec cita “evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres”. O órgão justifica que o Grok tem sido usada para gerar imagens sexualizadas e não consentidas, incluindo de menores de idade.

Os casos são um “defeito grave” na prestação de serviço da rede social e ferem o Código de Defesa do Consumidor (CDC), já que a plataforma não oferece a segurança esperada pelos usuários.

O Idec também pede que o caso seja considerado nos debates sobre a Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital (o ECA Digital) e na regulação da inteligência artificial, de forma a garantir “proteção reforçada a crianças e adolescentes frente a usos de IA que possam causar danos irreversíveis”.

Reação internacional ao Grok

O Idec cita casos de fora do Brasil, como investigações formais e exigências de retirada de conteúdo na União Europeia, Reino Unido, França e Índia. Segundo o órgão, as ações reforçam o “caráter sistêmico e global” do problema.

Alguns países também já anunciaram a suspensão temporária do Grok pelo mesmo motivo. A Indonésia se tornou o primeiro país a fazê-lo no sábado (11), citando riscos relacionados à geração de conteúdo pornográfico. O Olhar Digital deu os detalhes aqui. Já nesta segunda-feira, foi a vez da Malásia pedir o bloqueio da ferramenta.

No Reino Unido, inclusive, parlamentares não descartam a suspensão do X no país. Confira os detalhes neste link.

O que diz o governo e o X?

O Olhar Digital entrou em contato com os ministérios citados e com a Secretaria de Comunicação Social da Presidência da República. A nota será atualizada mediante o retorno.

X, xAI e Elon Musk:

• Com a repercussão negativa, Elon Musk e a xAI afirmaram que podem tomar medidas contra internautas que produzirem conteúdo ilegal;
• A estratégia tem sido questionada por especialistas, já que foca em punições posteriores em vez de implementar barreiras técnicas que impeçam a criação desse tipo de material em primeiro lugar;
• No caso da investigação no Reino Unido, o X se pronunciou com uma declaração anterior dizendo tomar medidas contra conteúdo ilegal na plataforma, através da remoção e suspensão dos posts e das contas associadas. Também afirmou que trabalha com governos e autoridades policiais, conforme necessário.

Diante de repercussão negativa, a xAI começou a limitar quem pode gerar imagens no chatbot, passando a exigir a assinatura do plano pago. No entanto, o site The Verge descobriu que a restrição não é bem o que parece e é possível driblar essa limitação. Veja os detalhes neste link.