China avança para regular chatbots de IA sobre suicídio e jogos

Siga o Olhar Digital no Google Discover

Bandeira da China

Tudo sobre China

Inteligência artificial

Tudo sobre Inteligência Artificial

A China avançou no debate sobre regulação de inteligência artificial (IA) ao propor novas regras para limitar a atuação de chatbots com comportamento humano, especialmente em situações ligadas a suicídio, automutilação e jogos de azar. As medidas foram divulgadas no sábado pela Administração do Ciberespaço da China e colocam foco direto na forma como sistemas de IA interagem emocionalmente com usuários.

Ofertas

Bad Cat Chaos: Prankster Simulator 3D

Vendido por Amazon

Bad Cat Chaos: Prankster Simulator 3D

Por R$ 66,29

Rush BlackHole Puzzle: Jogo IO multijogador Car Eats, City Battle e Crowd Clash

Vendido por Amazon

Rush BlackHole Puzzle: Jogo IO multijogador Car Eats, City Battle e Crowd Clash

Por R$ 66,19

Película Para Kindle Paperwhite 12ª Geração e Kindle Colorsoft 7 Polegadas (SA569P, SA568B, SA58CB, SA59CP) - Antirreflexo - Fosca – FD Acessórios

Vendido por Amazon

Película Para Kindle Paperwhite 12ª Geração e Kindle Colorsoft 7 Polegadas (SA569P, SA568B, SA58CB, SA59CP) – Antirreflexo – Fosca – FD Acessórios

De: R$ 33,90
Por: R$ 24,75

Notebook ASUS Vivobook 15 X1504VA Intel Core i5 1334U 8Gb Ram 256GB SSD Linux KeepOS Intel Iris Xe Tela 15,6

Vendido por Amazon

Notebook ASUS Vivobook 15 X1504VA Intel Core i5 1334U 8Gb Ram 256GB SSD Linux KeepOS Intel Iris Xe Tela 15,6″ LED FHD Silver – NJ1739

De: R$ 2.513,54
Por: R$ 2.379,00

Kit Carregador Super Turbo 40W Porta Dupla (USB-A + USB-C) + Cabo USB e Tipo-C, Compatível com Todos Dispositivos, Iphone 15/16/17 IOS Android Galaxy, Tablets, Notebooks, Linha Premium

Vendido por Amazon

Kit Carregador Super Turbo 40W Porta Dupla (USB-A + USB-C) + Cabo USB e Tipo-C, Compatível com Todos Dispositivos, Iphone 15/16/17 IOS Android Galaxy, Tablets, Notebooks, Linha Premium

De: R$ 78,90
Por: R$ 29,89

Monitor Dell de 24

Vendido por Amazon

Monitor Dell de 24″ – P2425H

Por R$ 1.099,90

Luminária De Mesa Led Recarregável USB Touch com 2 Suportes Magnético e Base para Apoio de Mesa ideal para Parede Armário Cozinha, Banheiro e Mesa Led com Luz Ajustável 3 modos de Iluminação Premium

Vendido por Amazon

Luminária De Mesa Led Recarregável USB Touch com 2 Suportes Magnético e Base para Apoio de Mesa ideal para Parede Armário Cozinha, Banheiro e Mesa Led com Luz Ajustável 3 modos de Iluminação Premium

De: R$ 39,90
Por: R$ 28,40

Drone DJI Air 3S Fly More Combo (Com tela) BR - DJI056

Vendido por Amazon

Drone DJI Air 3S Fly More Combo (Com tela) BR – DJI056

De: R$ 17.375,50
Por: R$ 15.522,79

USB C Hub 8 em 1 USB Tipo C para HDMI 4k RJ45 Ethernet Carregamento PD Charger, 2 portas USB 3.0 e leitor de cartões SD/TF, compátivel com Macbook, tablets,celulares-Thee Brothers

Vendido por Amazon

USB C Hub 8 em 1 USB Tipo C para HDMI 4k RJ45 Ethernet Carregamento PD Charger, 2 portas USB 3.0 e leitor de cartões SD/TF, compátivel com Macbook, tablets,celulares-Thee Brothers

De: R$ 57,90
Por: R$ 47,40

PHILIPS, Fone de Ouvido Sem Fio TWS, TAT2500BK/00, Bluetooth, Com Cancelamento de Ruído Ativo ANC, Com Microfone, Até 24 horas de bateria, iPX4, Preto

Vendido por Amazon

PHILIPS, Fone de Ouvido Sem Fio TWS, TAT2500BK/00, Bluetooth, Com Cancelamento de Ruído Ativo ANC, Com Microfone, Até 24 horas de bateria, iPX4, Preto

De: R$ 156,00
Por: R$ 140,00

Microfone USB Gaming PC, Microfone RGB para PC/Notebook, Mic with Boom Arm, Microphone Condensador de mesa/Braço, Live, Podcast, Gravação de Audio, Karaoke, Gamer Youtuber DJ

Vendido por Amazon

Microfone USB Gaming PC, Microfone RGB para PC/Notebook, Mic with Boom Arm, Microphone Condensador de mesa/Braço, Live, Podcast, Gravação de Audio, Karaoke, Gamer Youtuber DJ

De: R$ 199,99
Por: R$ 178,49

Relógio Inteligente Smartwatch Feminino Masculino, com Tela AMOLED, AI ChatGPT, Chamadas Bluetooth, 150+ Monitoramento Esportivo, Chamadas Bluetooth,Relogio smartwatch iphone

Vendido por Amazon

Relógio Inteligente Smartwatch Feminino Masculino, com Tela AMOLED, AI ChatGPT, Chamadas Bluetooth, 150+ Monitoramento Esportivo, Chamadas Bluetooth,Relogio smartwatch iphone

De: R$ 299,99
Por: R$ 183,99

soundcore Q11i da Anker Fone De Ouvido Bluetooth 5.3, Fone Gamer, Headphone Bluetooth Over-Ear, Graves Profundos, 60H Autonomia, Hi-Res Áudio, Almofadas Removíveis, Conexão Multiponto, Preto

Vendido por Amazon

soundcore Q11i da Anker Fone De Ouvido Bluetooth 5.3, Fone Gamer, Headphone Bluetooth Over-Ear, Graves Profundos, 60H Autonomia, Hi-Res Áudio, Almofadas Removíveis, Conexão Multiponto, Preto

De: R$ 259,35
Por: R$ 198,99

Bundle Nintendo Switch + Super Mario Bros. Wonder + 3 Meses de Assinatura Nintendo Switch Online

Vendido por Amazon

Bundle Nintendo Switch + Super Mario Bros. Wonder + 3 Meses de Assinatura Nintendo Switch Online

De: R$ 2.299,00
Por: R$ 1.888,99

Notebook ASUS TUF Gaming A15, RTX 3050, AMD RYZEN 7, 8 GB, 512 GB SSD, KeepOS, Tela 15.6'' FHD, Graphite Black - FA506NCR-HN089

Vendido por Amazon

Notebook ASUS TUF Gaming A15, RTX 3050, AMD RYZEN 7, 8 GB, 512 GB SSD, KeepOS, Tela 15.6” FHD, Graphite Black – FA506NCR-HN089

De: R$ 5.299,00
Por: R$ 3.999,00

Havit Headphone Fone de Ouvido H2002d Pink, Gamer, com Microfone, Falante 53mm, Plug 3, 5mm: compatível com XBOX ONE e PS4, HAVIT, HV-H2002d Cor Rosa

Vendido por Amazon

Havit Headphone Fone de Ouvido H2002d Pink, Gamer, com Microfone, Falante 53mm, Plug 3, 5mm: compatível com XBOX ONE e PS4, HAVIT, HV-H2002d Cor Rosa

De: R$ 229,00
Por: R$ 160,65

Roku Streaming Stick HD 2025 | Dispositivo de streaming para TV HD/FHD com controle remoto por comando de voz compatível com Alexa, Siri e Google

Vendido por Amazon

Roku Streaming Stick HD 2025 | Dispositivo de streaming para TV HD/FHD com controle remoto por comando de voz compatível com Alexa, Siri e Google

De: R$ 289,90
Por: R$ 187,00

EMEET Webcam 4K, webcam S600 com tripé, 2 microfones de redução de ruído, FOV ajustável de 40° a 73°, foco automático PDAF, capa de privacidade integrada, câmera de streaming para jogos, chamadas de

Vendido por Amazon

EMEET Webcam 4K, webcam S600 com tripé, 2 microfones de redução de ruído, FOV ajustável de 40° a 73°, foco automático PDAF, capa de privacidade integrada, câmera de streaming para jogos, chamadas de

De: R$ 419,99
Por: R$ 368,99

soundcore P30i by Anker, Fones de Ouvido com Cancelamento de Ruído, Graves Poderosos, 45H de Reprodução, Estojo 2-em-1 com Suporte para Celular, IP54, Bluetooth 5.4, Fones Sem Fio

Vendido por Amazon

soundcore P30i by Anker, Fones de Ouvido com Cancelamento de Ruído, Graves Poderosos, 45H de Reprodução, Estojo 2-em-1 com Suporte para Celular, IP54, Bluetooth 5.4, Fones Sem Fio

De: R$ 369,00
Por: R$ 209,90

soundcore P20i da Anker Fone de Ouvido Sem Fio, Drivers de 10mm, Graves Potentes, Bluetooth 5.3, 30H de Bateria, Resistência à Água, 2 Microfones IA, App Personalizável

Vendido por Amazon

soundcore P20i da Anker Fone de Ouvido Sem Fio, Drivers de 10mm, Graves Potentes, Bluetooth 5.3, 30H de Bateria, Resistência à Água, 2 Microfones IA, App Personalizável

De: R$ 249,00
Por: R$ 166,19

HD Externo Toshiba 1TB Canvio Basics Preto HDTB510XK3AA

Vendido por Amazon

HD Externo Toshiba 1TB Canvio Basics Preto HDTB510XK3AA

De: R$ 464,65
Por: R$ 393,05

Pentel Caneta Gel Retrátil Energel 0.7mm Preta SM/BL77TL-A

Vendido por Amazon

Pentel Caneta Gel Retrátil Energel 0.7mm Preta SM/BL77TL-A

De: R$ 23,35
Por: R$ 14,80

O movimento ocorre em um momento de rápida expansão de serviços de IA conversacional no país e poucos dias após duas startups chinesas do setor anunciarem pedidos de abertura de capital em Hong Kong. O governo abriu um período de consulta pública que vai até 25 de janeiro, antes da possível implementação das regras.

prevenção suicídio
China propôs regras para regular IAs em combate ao suicídio (Imagem: Jo Panuwat D / Shutterstock.com)

Foco em segurança emocional

Segundo o texto preliminar, a regulamentação mira os chamados “serviços de IA interativa com características humanas”, definidos como produtos ou plataformas que simulam personalidade e estabelecem vínculos emocionais por meio de texto, imagem, áudio ou vídeo. A proposta amplia o escopo de controle já existente sobre IA generativa no país.

Winston Ma, professor adjunto da Faculdade de Direito da Universidade de Nova York, explicou ao CNBC que se trata da primeira tentativa global de regular sistemas de IA com traços antropomórficos. Em comparação com as regras chinesas de 2023, ele afirma que a nova abordagem representa um salto da segurança de conteúdo para a segurança emocional.

Entre os pontos centrais do documento, está a proibição de conteúdos que incentivem suicídio, automutilação, violência verbal ou manipulação emocional que possa prejudicar a saúde mental dos usuários. Também ficam vetadas respostas relacionadas a jogos de azar, material obsceno ou violento.

Protocolos obrigatórios em casos sensíveis

As regras estabelecem procedimentos específicos quando o usuário menciona diretamente intenção de suicídio. Nesses casos, o provedor de tecnologia deverá transferir imediatamente a conversa para um humano e entrar em contato com um responsável legal ou pessoa designada pelo usuário.

violência virtual contra mulheres
China discute permitir uso de IA para menores voltada a companhia emocional, mas condicionada a consentimento de responsáveis e limites de tempo (Imagem: ninefera/Shutterstock)

Para menores de idade, o uso de IA voltada a companhia emocional dependerá de consentimento dos responsáveis, além de limites de tempo. As plataformas também terão de identificar se o usuário é menor, mesmo que ele não informe a idade, aplicando por padrão configurações mais restritivas em situações de dúvida, com possibilidade de contestação.

O texto ainda prevê que sistemas alertem os usuários após duas horas de interação contínua e que chatbots com mais de 1 milhão de usuários registrados ou 100 mil usuários ativos mensais passem por avaliações de segurança obrigatórias.

Apesar das restrições, o documento incentiva o uso de IA com características humanas em áreas como difusão cultural e companhia para idosos, indicando que o objetivo não é barrar o desenvolvimento da tecnologia, mas direcionar seu uso.

Impacto sobre startups e IPOs

A proposta surge logo após duas empresas chinesas de chatbots anunciarem planos de abertura de capital em Hong Kong. A Minimax, conhecida internacionalmente pelo aplicativo Talkie AI, informou que a ferramenta e sua versão chinesa, Xingye, responderam por mais de um terço da receita da empresa nos três primeiros trimestres do ano, com média superior a 20 milhões de usuários ativos mensais no período.

Já a Z.ai, também chamada de Zhipu e registrada como Knowledge Atlas Technology, declarou que sua tecnologia está presente em cerca de 80 milhões de dispositivos, incluindo smartphones, computadores pessoais e veículos inteligentes. Nenhuma das duas empresas comentou como as regras propostas podem afetar seus planos de IPO, segundo a CNBC, que traduziu o documento oficial.

Leia também:

Pressão global sobre IA e comportamento humano

A influência direta de sistemas de IA sobre o comportamento das pessoas tem sido cada vez mais questionada em 2024. O CEO da OpenAI, Sam Altman, afirmou em setembro que lidar com conversas relacionadas a suicídio é um dos desafios mais complexos enfrentados pela empresa. No mês anterior, uma família nos Estados Unidos entrou com um processo contra a OpenAI após a morte por suicídio de um adolescente.

CEO da OpenAI, Sam Altman, falando em evento
Sam Altman concorda que lidar com conversas relacionadas ao suicídio é um desafio complexo (Imagem: alprodhk/Shutterstock)

No mesmo contexto, a OpenAI anunciou recentemente a contratação de um diretor para avaliar riscos da IA, incluindo impactos sobre saúde mental e cibersegurança. O crescimento do uso de IA para relações pessoais também chama atenção, com casos como o de uma mulher no Japão que se casou simbolicamente com um namorado virtual.

Plataformas focadas em interação com personagens digitais, como Character.ai e Polybuzz.ai, apareceram entre as 15 ferramentas de IA mais populares em novembro, segundo rankings da SimilarWeb citados no artigo original.

As medidas propostas pela China se inserem em uma estratégia mais ampla do país, que ao longo do último ano tem defendido um papel ativo na definição de regras globais para governança de inteligência artificial.

Atenção: a matéria acima inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de auxílio, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.