Google revela como o Chrome vai impedir erros e ataques com a chegada dos agentes de IA

Siga o Olhar Digital no Google Discover

O Google apresentou detalhes sobre como o Gemini no Chrome vai manter a navegação segura com a chegada dos agentes de IA. A novidade promete impedir ações indesejadas e proteger dados sensíveis durante a navegação.

Com foco em transparência e controle do usuário, a empresa explica as camadas de defesa criadas para evitar que ataques comprometam transações financeiras ou informações confidenciais, comenta o 9to5Google.

Novidade do Google promete segurança reforçada, evitando que agentes de IA executem ações não autorizadas na web.
Novidade do Google promete segurança reforçada, evitando que agentes de IA executem ações não autorizadas na web. Imagem: Summit Art Creations / Shutterstock

Proteção contra ameaças de agentes de IA

O Google identifica a “injeção indireta de prompts” como a principal ameaça aos navegadores com agentes de IA. Esse ataque tenta fazer com que o agente execute ações não autorizadas, como iniciar pagamentos ou acessar dados pessoais, podendo surgir em sites maliciosos, iframes de terceiros ou conteúdo gerado por usuários, como avaliações online.

Para enfrentar esse desafio, a empresa investiu em uma defesa em camadas que combina métodos determinísticos e probabilísticos, tornando mais difícil para invasores manipular o agente.

O Google fortalece o navegador com estratégias para impedir que ataques comprometam agentes de IA, como o Gemini.
O Google fortalece o navegador com estratégias para impedir que ataques comprometam agentes de IA, como o Gemini. Imagem: daily_creativity / Shutterstock.com

Alinhamento e supervisão do usuário

Um dos recursos centrais é o Crítico de Alinhamento do Usuário, um modelo separado que analisa cada ação proposta pelo agente. Se a ação não estiver de acordo com o objetivo do usuário, o modelo a rejeita e reformula o plano. Falhas repetidas devolvem o controle ao usuário.

Leia mais:

O foco principal é garantir que as ações estejam alinhadas ao que o usuário deseja, sem expor o agente a conteúdos não confiáveis da web. Além disso, o Chrome amplia o isolamento de origem, limitando as interações do agente apenas às fontes necessárias para a tarefa.

Gemini no Chrome começa a oferecer proteções que aumentam segurança e confiança na navegação com agentes de IA.
Gemini no Chrome começa a oferecer proteções que aumentam segurança e confiança na navegação com agentes de IA. Imagem: Ahyan Stock Studios/Shutterstock

Transparência e confirmações do usuário

O Gemini mantém um registro detalhado de cada etapa e permite que o usuário interrompa ou assuma o controle a qualquer momento. A segurança é reforçada por confirmações obrigatórias antes de ações críticas:

  • Navegação em sites com transações bancárias ou dados médicos pessoais;
  • Login em sites via Gerenciador de Senhas do Google, sem acesso direto às senhas;
  • Conclusão de compras, envios de mensagens ou outras ações importantes na web.

Essas verificações combinam decisões determinísticas e baseadas em modelos para proteger o usuário contra erros e ataques, garantindo que ele esteja sempre no comando.

O Gemini do Google no Chrome já começa a oferecer essas proteções, trazendo mais segurança e confiança na navegação com agentes. As informações foram detalhadas pelo próprio Google, garantindo transparência sobre como os usuários terão controle total de suas interações online.