Instituto de Defesa de Consumidores pede ao governo suspensão do Grok no Brasil

Siga o Olhar Digital no Google Discover

O Instituto de Defesa de Consumidores (Idec) comunicou nesta segunda-feira (12) que enviou um ofício ao governo pedindo a suspensão do Grok no Brasil por violação de direitos de crianças, adolescentes e mulheres. O órgão também cita reações internacionais ao caso, incluindo investigações em andamento em outros países.

Ofertas

DAC 401PP-AZ, Pasta Polipropileno Ofício, Azul, 332 x 232 mm

Vendido por Amazon

DAC 401PP-AZ, Pasta Polipropileno Ofício, Azul, 332 x 232 mm

De: R$ 8,14
Por: R$ 4,66

Patriot Viper Gaming V570 RGB Blackout Edition Pro Laser Mouse até 12.000 Dpi

Vendido por Amazon

Patriot Viper Gaming V570 RGB Blackout Edition Pro Laser Mouse até 12.000 Dpi

Por R$ 99,00

soundcore Q20i da Anker, Fone de Ouvido Bluetooth com Cancelamento de Ruído Híbrido Ativo, Headphone Sem Fio, 60h Bateria, Áudio Hi-Res, Graves Potentes, App Personalização, Modo Transparência, Azul

Vendido por Amazon

soundcore Q20i da Anker, Fone de Ouvido Bluetooth com Cancelamento de Ruído Híbrido Ativo, Headphone Sem Fio, 60h Bateria, Áudio Hi-Res, Graves Potentes, App Personalização, Modo Transparência, Azul

Por R$ 311,29

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27

Vendido por Amazon

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27″ Ecrã tátil, à prova d’água IP68, 100+ Modos Esportivos, chamada Bluetooth, Compatível com Android iOS, voz por IA (Rosa)

De: R$ 299,00
Por: R$ 241,44

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27

Vendido por Amazon

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27″ Ecrã tátil, à prova d’água IP68, 100+ Modos Esportivos, chamada Bluetooth, Compatível com Android iOS, voz por IA (preto)

De: R$ 299,00
Por: R$ 241,44

Smart TV TCL 43 Polegadas LED Full HD S5400A Android TV WiFi Bluetooth Google Assistente 43S5400A

Vendido por Amazon

Smart TV TCL 43 Polegadas LED Full HD S5400A Android TV WiFi Bluetooth Google Assistente 43S5400A

De: R$ 1.899,00
Por: R$ 1.449,99

Garmin Relógio Instinct 3 Verde 45mm com Monitor Cardíaco de Pulso e GPS

Vendido por Amazon

Garmin Relógio Instinct 3 Verde 45mm com Monitor Cardíaco de Pulso e GPS

De: R$ 5.899,00
Por: R$ 3.799,00

SEMP SMART TV 55” 55S62 4K UHD GOOGLE TV

Vendido por Amazon

SEMP SMART TV 55” 55S62 4K UHD GOOGLE TV

De: R$ 2.499,00
Por: R$ 1.999,99

Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais

Vendido por Amazon

Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais

De: R$ 1.199,00
Por: R$ 899,00

soundcore AeroClip da Anker, Fones de Ouvido Blutooth Abertos, Clip-On, Conforto Adaptativo, Chamadas Claras com 4 Microfones e IA, Ajuste Estável, Drivers de 12mm para Graves Potentes, Rosa

Vendido por Amazon

soundcore AeroClip da Anker, Fones de Ouvido Blutooth Abertos, Clip-On, Conforto Adaptativo, Chamadas Claras com 4 Microfones e IA, Ajuste Estável, Drivers de 12mm para Graves Potentes, Rosa

De: R$ 1.199,00
Por: R$ 889,00

Mouse sem fio Logitech Pebble 2 M350s com Clique Silencioso, Design Slim Ambidestro, Conexão Bluetooth e Pilha Inclusa - Rosa

Vendido por Amazon

Mouse sem fio Logitech Pebble 2 M350s com Clique Silencioso, Design Slim Ambidestro, Conexão Bluetooth e Pilha Inclusa – Rosa

De: R$ 123,90
Por: R$ 79,90

Mouse Sem Fio Logitech M240 com Conexão Bluetooth, Clique Silencioso, Design Ambidestro Compacto, Bateria de 18 Meses, Compatível com Windows, macOS, ChromeOS - Branco

Vendido por Amazon

Mouse Sem Fio Logitech M240 com Conexão Bluetooth, Clique Silencioso, Design Ambidestro Compacto, Bateria de 18 Meses, Compatível com Windows, macOS, ChromeOS – Branco

De: R$ 95,90
Por: R$ 59,90

eufy Câmera S3 Pro Kit 2+1 por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Energia Solar, Visão Noturna MaxColor, Reconhecimento Facial por IA, Compatível com Alexa, Sem taxas mensais

Vendido por Amazon

eufy Câmera S3 Pro Kit 2+1 por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Energia Solar, Visão Noturna MaxColor, Reconhecimento Facial por IA, Compatível com Alexa, Sem taxas mensais

De: R$ 3.499,00
Por: R$ 3.324,00

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27

Vendido por Amazon

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27″ Ecrã tátil, à prova d’água IP68, 100+ Modos Esportivos, chamada Bluetooth, Compatível com Android iOS, voz por IA (Azul)

De: R$ 299,00
Por: R$ 241,44

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

Vendido por Amazon

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d’Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

De: R$ 339,00
Por: R$ 188,99

Novo Kindle Paperwhite Signature Edition (32 GB) - O Kindle mais rápido já lançado, com luz frontal autoadaptável, carregamento sem fio e bateria que dura semanas - Cor Preta Metálica

Vendido por Amazon

Novo Kindle Paperwhite Signature Edition (32 GB) – O Kindle mais rápido já lançado, com luz frontal autoadaptável, carregamento sem fio e bateria que dura semanas – Cor Preta Metálica

De: R$ 1.199,00
Por: R$ 949,00

Projetor BYINTEK U14 4K 1080P WiFi Smart Full HD Projetor, Foco Automático, 1250 ANSI Lumens, Totalmente Selado à Prova de Poeira, Alto-falante Integrado de 12 W, Home Theater móvel

Vendido por Amazon

Projetor BYINTEK U14 4K 1080P WiFi Smart Full HD Projetor, Foco Automático, 1250 ANSI Lumens, Totalmente Selado à Prova de Poeira, Alto-falante Integrado de 12 W, Home Theater móvel

Por R$ 2.199,00

O pedido vem após diversos casos de geração de imagens sexualizadas e pornográficas usando a ferramenta de inteligência artificial da xAI, que funciona integrada ao X (antigo Twitter).

grok
Grok virou alvo de denúncias após ser usado para gerar imagens pornográficas de mulheres e crianças (Imagem: Algi Febri Sugita/Shutterstock)

Idec pediu suspensão do Grok no Brasil

O ofício foi enviado aos integrantes do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda). O documento pede a adoção de providências cabíveis diante das violações associadas ao uso do Grok no X.

Em comunicado, o Idec cita “evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres”. O órgão justifica que o Grok tem sido usada para gerar imagens sexualizadas e não consentidas, incluindo de menores de idade.

Os casos são um “defeito grave” na prestação de serviço da rede social e ferem o Código de Defesa do Consumidor (CDC), já que a plataforma não oferece a segurança esperada pelos usuários.

O Idec também pede que o caso seja considerado nos debates sobre a Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital (o ECA Digital) e na regulação da inteligência artificial, de forma a garantir “proteção reforçada a crianças e adolescentes frente a usos de IA que possam causar danos irreversíveis”.

Celular mostrando logomarca do Grok; ao fundo, um monitor exibe uma foto de Elon Musk como se ele olhasse para o aparelho
Elon Musk chegou a defender o Grok, dizendo que o problema era o uso indevido por parte dos usuários (Imagem: miss.cabul/Shutterstock)

Reação internacional ao Grok

O Idec cita casos de fora do Brasil, como investigações formais e exigências de retirada de conteúdo na União Europeia, Reino Unido, França e Índia. Segundo o órgão, as ações reforçam o “caráter sistêmico e global” do problema.

Alguns países também já anunciaram a suspensão temporária do Grok pelo mesmo motivo. A Indonésia se tornou o primeiro país a fazê-lo no sábado (11), citando riscos relacionados à geração de conteúdo pornográfico. O Olhar Digital deu os detalhes aqui. Já nesta segunda-feira, foi a vez da Malásia pedir o bloqueio da ferramenta.

No Reino Unido, inclusive, parlamentares não descartam a suspensão do X no país. Confira os detalhes neste link.

Página do Grok em um smartphone
Grok já foi suspenso na Indonésia e Malásia (Imagem: Bangla press/Shutterstock)

O que diz o governo e o X?

O Olhar Digital entrou em contato com os ministérios citados e com a Secretaria de Comunicação Social da Presidência da República. A nota será atualizada mediante o retorno.

X, xAI e Elon Musk:

  • Com a repercussão negativa, Elon Musk e a xAI afirmaram que podem tomar medidas contra internautas que produzirem conteúdo ilegal;
  • A estratégia tem sido questionada por especialistas, já que foca em punições posteriores em vez de implementar barreiras técnicas que impeçam a criação desse tipo de material em primeiro lugar;
  • No caso da investigação no Reino Unido, o X se pronunciou com uma declaração anterior dizendo tomar medidas contra conteúdo ilegal na plataforma, através da remoção e suspensão dos posts e das contas associadas. Também afirmou que trabalha com governos e autoridades policiais, conforme necessário.

Diante de repercussão negativa, a xAI começou a limitar quem pode gerar imagens no chatbot, passando a exigir a assinatura do plano pago. No entanto, o site The Verge descobriu que a restrição não é bem o que parece e é possível driblar essa limitação. Veja os detalhes neste link.