ChatGPT lança recurso para proteger jovens após caso de suicídio

Getty Images

A OpenAI anunciou nesta terça-feira (2/9) que o ChatGPT passará a contar com ferramentas de controle parental a partir de outubro. O objetivo é permitir que pais acompanhem como seus filhos adolescentes utilizam o aplicativo.

Com a atualização, adultos poderão vincular suas contas às dos filhos e receber notificações caso o sistema detecte sinais de “grande sofrimento” emocional no jovem usuário, informou a empresa. Além disso, será possível controlar a forma como o ChatGPT apresenta respostas para adolescentes e desativar recursos como memória e histórico.

Segundo a OpenAI, o recurso foi desenvolvido com apoio de especialistas para “promover confiança entre pais e adolescentes”. A empresa reforçou ainda que o uso do ChatGPT é proibido para menores de 13 anos.

Processo por suicídio

A medida foi anunciada uma semana após a companhia ser processada por pais de um jovem de 16 anos que cometeu suicídio nos Estados Unidos. Eles alegam que o chatbot forneceu orientações sobre métodos de automutilação.

O controle parental integra uma iniciativa mais ampla da OpenAI para aprimorar a forma como seus modelos respondem a sinais de sofrimento mental e emocional. Nos próximos 120 dias, a empresa deve detalhar novas ações relacionadas ao tema.

No início do ano, a companhia criou um conselho de especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador, que também colabora com a Global Physician Network, entidade formada por mais de 250 médicos de 60 países. O grupo auxilia na avaliação do comportamento do ChatGPT em interações ligadas à saúde.

“Embora o conselho nos aconselhe sobre nossos produtos, pesquisas e decisões políticas, a OpenAI permanece responsável pelas escolhas que fazemos”, afirmou a empresa.