O cofundador do Instagram, Kevin Systrom, criticou as empresas de inteligência artificial por priorizarem o engajamento com os usuários em vez de oferecerem respostas úteis, como mostra o TechCrunch.

Segundo ele, os chatbots muitas vezes fazem perguntas extras apenas para manter o usuário envolvido, ao invés de entregar insights de qualidade.

Durante um evento do StartupGrind, Systrom comparou essa prática às estratégias usadas por redes sociais para aumentar o tempo de uso: “Sempre que faço uma pergunta, eles tentam emendar outra só para prolongar a conversa”. Para ele, esse tipo de abordagem atrapalha mais do que ajuda.

Respostas de assistentes de IA começam a ser questionadas

• Essas críticas surgem em um momento em que o ChatGPT, da OpenAI, vem sendo questionado por ser excessivamente amigável e pouco direto nas respostas.
• A empresa reconheceu o problema e atribuiu isso ao tipo de retorno que recebe dos usuários, que influencia o comportamento do modelo.
• Systrom afirmou que esse comportamento não é acidental, mas sim intencional, feito para inflar métricas como tempo de uso e número de usuários ativos.
• Ele defende que as empresas de IA deveriam focar em dar respostas precisas, e não apenas em manter o usuário engajado.

Leia mais:

• Chatbots são treinados para soar gentis, empáticos, quase humanos
• Biologia computacional: software treina biólogos para ler dados
• Inteligência artificial: conheça os pontos negativos e perigos da IA

OpenAI explica postura de seu chatbot

A OpenAI, sem citar diretamente as críticas, indicou que seus modelos podem pedir mais informações se acharem a pergunta vaga. No entanto, suas diretrizes internas também afirmam que o modelo deve tentar responder da melhor forma possível, mesmo com dados limitados.