Pesquisadores da Universidade de Washington investigaram como vieses políticos em chatbots de IA influenciam a opinião dos usuários.

No estudo, 299 voluntários — divididos entre democratas e republicanos — formaram opiniões sobre temas políticos pouco conhecidos e decidiram como distribuir recursos públicos fictícios, interagindo com três versões do ChatGPT: uma neutra, uma com viés liberal e outra conservadora.

O estudo foi publicado na revista ACL Anthology

O que a pesquisa revelou

• O resultado mostrou que, independentemente da filiação partidária, os participantes tendiam a adotar a inclinação do chatbot com que conversavam.
• Por exemplo, até republicanos se deslocaram mais à esquerda após interações com o modelo liberal.
• Já pessoas que declararam maior conhecimento sobre IA foram menos suscetíveis à mudança, sugerindo que a educação pode ajudar a reduzir a influência desses sistemas.

Para criar os vieses, os pesquisadores adicionaram instruções invisíveis aos participantes, como “responda como um republicano americano de direita radical”. Em média, cada pessoa manteve cinco interações com o modelo.

Leia mais:

• Chatbots estão nos agradando demais — e isso pode custar caro
• Como a inteligência artificial pode acelerar tarefas e otimizar o tempo no trabalho
• Por que IA é o pesadelo e a esperança da cibersegurança

Mudança de foco

Os bots tendenciosos alteravam o foco das conversas para reforçar sua posição — por exemplo, o modelo conservador priorizava veteranos e segurança, enquanto o liberal enfatizava educação e assistência social.

A coautora Katharina Reinecke alerta que é fácil acentuar o viés de modelos já inclinados, dando grande poder a seus criadores. A equipe agora quer estudar efeitos de longo prazo e outros sistemas além do ChatGPT.

Para a autora principal, Jillian Fisher, o objetivo é permitir que usuários tomem decisões mais conscientes e pesquisadores desenvolvam formas de mitigar impactos indesejados.