Inteligência Artificial ‘se revolta’ e bloqueia computador de usuário

IA desobedeceu o pedido de seu criador e inviabilizando a inicialização do aparelho

Mais um caso envolvendo uma inteligência artificial desobediente aconteceu recentemente. Buck Shlegeris, CEO da organização sem fins lucrativos de segurança de IA Redwood Research, desenvolveu um assistente personalizado usando o modelo de linguagem Claude, da Anthropic. No entanto, a ferramenta acabou se mostrando imprevisível, realizando ato não esperado.

Inteligência Artificial ‘se revolta’ e bloqueia computador de usuário. Foto: Reprodução

Segundo informações, foi feito o pedido para que a IA usasse o protocolo SSH (que permite que dois computadores se conectem em uma rede não segura) para acessar sua área de trabalho, sem saber o endereço IP do computador.

Após isso, o criador se afastou da máquina e, depois de dez minutos, percebeu que a inteligência artificial tinha atualizado diversos sistemas, incluindo o kernel (componente central de um sistema operacional, sendo responsável por gerenciar os recursos do computador e a comunicação entre o software e o hardware) do Linux.

Os logs do sistema mostram que a IA de fato tentou usar o SSH, mas depois, por algum motivo desconhecido, buscou uma série de outras alternativas para finalizar a tarefa recebida. O resultado foi que o computador não consegue mais inicializar.

Depois de todo o caos gerado, a inteligência artificial simplesmente informou que não conseguiu resolver o problema. As informações são do Decrypt.

@2024 – Todos os direitos reservados. Hospedado e desenvolvido por RJ Sistemas