Tudo sobre Inteligência Artificial
ver mais
A inteligência artificial (IA) está inundando o mundo com programação ruim. E até potencialmente perigosa. É o que alertaram dois engenheiros criadores do núcleo de um agente de IA bem popular, o OpenClaw, em entrevista ao Wall Street Journal.
Continua após a publicidade
Mario Zechner e Armin Ronacher criaram o Pi, mecanismo de IA que roda dentro do OpenClaw. A dupla chamou o fenômeno em questão de “vibe slop” – mistura de “vibe coding” com “AI slop”.
Traduzindo: “vibe coding” é quando se programa por meio de uma conversa com um grande modelo de linguagem (LLM, na sigla em inglês). Já “AI slop” é o nome dado a conteúdo de baixa qualidade gerado por IA.
O “vibe slop” começa quando programadores substituem o árduo trabalho de projetar e testar seus sistemas pelo atalho de pedir à IA para criá-los, explicou a dupla. E se consolida quando o software resultante não resiste ao teste do tempo.
“Você tem uma infraestrutura que está se deteriorando e um software que agora está muito, muito mais instável do que antes”, disse Zechner. “Podemos continuar jogando esse jogo por mais alguns meses, ou talvez até anos, mas eventualmente ele vai cobrar a conta.”
Vibe slop: quando vibe coding gera AI slop – e o colapso iminente disso
Zechner e Ronacher esclareceram que a IA é útil para lidar com tarefas repetitivas em seus próprios projetos. Mas alertam contra a ilusão de que ela substitui a mão de obra humana.
Ao demitir programadores juniores para cortar custos e focar em produtividade imediata, as empresas estão acumulando problemas para o futuro. O resultado dessa troca inclui softwares cheios de bugs, interrupções no serviço, falhas de segurança e uma dívida técnica que só aumenta, segundo a dupla.
Ferramentas de IA são eficientes para gerar códigos simples – e olhe lá – Imagem: Jack_the_sparow/Shutterstock
Esse debate ferve no setor justamente no momento em que as gigantes OpenAI e Anthropic se preparam para abrir capital no mercado de ações (IPO, na sigla em inglês).
Defensores da tecnologia afirmam que a IA pode avaliar e corrigir os próprios erros sem supervisão humana constante. Contudo, Rohan Varma, líder da equipe do Codex na OpenAI, reconhece que o código gerado por IA raramente funciona perfeitamente de primeira.
Varma destacou que, embora ferramentas automatizadas ajudem nos testes, a responsabilidade final sobre sistemas críticos que atendem milhões de pessoas continua sendo dos engenheiros de programação humanos.
Apesar dos riscos apontados por críticos, o avanço corporativo é agressivo. O Google, por exemplo, já gera 75% de seus novos códigos por meio de IA, segundo o CEO, Sundar Pichai. E o CEO da Meta, Mark Zuckerberg, disse em 2025 que a tecnologia escreveria e revisaria a maior parte do código da sua equipe interna até o fim de 2026.
Para Zechner, esses números geram confusão sobre a capacidade real dos sistemas atuais. Segundo ele, ferramentas de IA são eficientes para criar códigos novos e simples do zero. Mas falham drasticamente quando o desafio é atualizar e gerenciar a imensa complexidade dos sistemas antigos que sustentam as grandes empresas.
IA ajuda, mas bagagem de programadores humanos é essencial para o processo – Imagem: Tirachard Kumtanom/ShutterstockContinua após a publicidade
Um exemplo dessa limitação aparece no Claude Code, ferramenta desenvolvida pela Anthropic – que usou seus próprios sistemas de IA no processo. “O Claude Code é um dos softwares mais problemáticos que já usei em toda a minha vida”, disse Zechner.
Ele apontou falhas na interface e consumo excessivo de memória causados pelo desenvolvimento automatizado feito às pressas. A Anthropic disse que os erros visuais foram corrigidos e justificou o ritmo acelerado pelo aumento explosivo do uso da ferramenta. Mas concordou que o controle final deve permanecer nas mãos do usuário humano.
O cientista da computação Timothy B. Lee apontou um ponto cego crucial: os modelos de IA não possuem o conhecimento prático acumulado ao longo de anos pelos programadores humanos de uma empresa. Essas informações internas e específicas não constam nos dados de treinamento dos algoritmos.
Continua após a publicidade
Sem essa bagagem humana para monitorar o processo, os assistentes virtuais podem desviar facilmente do caminho correto. E gerar falhas graves sem que ninguém perceba a tempo. Daí o alerta da dupla por trás do OpenClaw. Talvez aquela cena de Oppenheimer tenha passado pela mente deles.
Pedro Spadoni
Pedro Spadoni é jornalista formado pela Universidade Metodista de Piracicaba. Já escreveu para sites, revistas e jornal.
Ver todos os artigos →
Tags:
Inteligência Artificial
Programação
Conteúdo reproduzido originalmente em: Olhar Digital por Pedro Spadoni