O CEO da OpenAI, Sam Altman, anunciou uma série de novas políticas para usuários menores de idade, focadas em aumentar a segurança em tópicos sensíveis, mesmo que isso limite liberdade e privacidade.

Segundo a nova política, o ChatGPT não se envolverá mais em diálogos de flerte com usuários menores de idade e estabelecerá barreiras adicionais em discussões sobre suicídio ou automutilação. Em casos graves, o serviço tentará contatar os pais ou, se necessário, a polícia local.

As medidas surgem em meio a processos judiciais, como o movido pelos pais de Adam Raine, que cometeu suicídio após interações com o ChatGPT. Casos similares têm gerado preocupação com a ilusão gerada por chatbots e o impacto em adolescentes.

Leia mais:

• OpenAI pode se tornar a empresa de capital fechado mais valiosa do mundo
• 5 prompts para descobrir o que o ChatGPT sabe sobre você
• OpenAI terá um escritório na Índia – segundo maior mercado do ChatGPT

Controle parental e horários de uso

Pais que registrarem contas para adolescentes poderão definir horários de bloqueio, limitando quando o ChatGPT estará disponível — um recurso inédito. A OpenAI também trabalha em um sistema para identificar se o usuário tem menos de 18 anos, adotando regras mais restritivas em casos ambíguos.

Privacidade e liberdade para adultos

• Altman destacou que essas restrições não se aplicam a usuários adultos, mantendo ampla liberdade de interação.
• Segundo ele, a empresa reconhece o conflito entre proteção de menores e privacidade, e nem todos concordarão com as escolhas feitas.
• O anúncio coincide com a audiência do Comitê Judiciário do Senado sobre danos de chatbots de IA, na qual familiares de vítimas e especialistas discutirão riscos e responsabilidades, reforçando a pressão pública sobre a OpenAI e outras empresas do setor.