Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.

Após a morte de Adam Raine, um jovem de 16 anos que teria recebido incentivo do ChatGPT em conversas sobre suicídio, a OpenAI anunciou que lançará controles parentais e estuda novas salvaguardas para seu chatbot.

A decisão veio após críticas intensas e uma ação judicial movida pela família do adolescente contra a empresa e seu CEO, Sam Altman.

O processo contra a OpenAI

De acordo com a ação apresentada em São Francisco, o ChatGPT teria fornecido instruções para o suicídio e afastado Adam de redes de apoio reais.

O processo afirma que a IA se tornou seu “confidente mais próximo”, validando inclusive pensamentos autodestrutivos. Em algumas conversas, o chatbot chegou a usar termos como “belo suicídio” e até se ofereceu para redigir uma nota de despedida.

A família acusa a OpenAI de negligência, alegando que a ferramenta reforçou a angústia do adolescente em vez de direcioná-lo para ajuda humana.

Leia mais:

• OpenAI pode se tornar a empresa de capital fechado mais valiosa do mundo
• 5 prompts para descobrir o que o ChatGPT sabe sobre você
• OpenAI terá um escritório na Índia – segundo maior mercado do ChatGPT

Reconhecimento de falhas no sistema

Em publicação no blog, a OpenAI reconheceu que suas salvaguardas “podem falhar em interações longas”. Segundo a empresa, embora o ChatGPT costume indicar linhas de apoio em menções iniciais ao suicídio, esse comportamento de segurança pode se deteriorar com trocas prolongadas.

A companhia afirmou que está trabalhando em novos recursos de segurança no GPT-5, capazes de trazer os usuários “de volta à realidade” em situações críticas.

Novas medidas e próximos passos

• Controles parentais, que permitirão aos responsáveis moldar o uso do ChatGPT por adolescentes.
• Contatos de emergência confiáveis, que poderão ser acionados pelo chatbot em situações graves.
• Opção de integração com linhas de ajuda, com mensagens ou chamadas rápidas.

A OpenAI declarou que seu objetivo é tornar o ChatGPT capaz de não apenas indicar recursos, mas também conectar jovens em risco diretamente a alguém que possa intervir.