A inteligência artificial corre o risco de reforçar racismo e sexismo na Austrália caso não seja devidamente regulamentada, alertou a comissária de direitos humanos do país, Lorraine Finlay.

Finlay defende uma lei específica para IA, complementando normas já existentes, como a Lei de Privacidade, e prevê testes rigorosos de viés, conforme explica o The Guardian.

Autoridades pedem ação contra o problema

• A preocupação ganhou força após a senadora trabalhista Michelle Ananda-Rajah — médica e ex-pesquisadora em IA — criticar a proposta de liberar todos os dados nacionais para empresas de tecnologia.
• Para ela, é essencial treinar modelos com dados australianos para evitar que preconceitos internacionais sejam importados, mas sem abrir mão de remuneração justa a criadores de conteúdo.
• O debate ocorre às vésperas da cúpula econômica do governo, onde serão discutidos ganhos de produtividade da IA.
• Sindicatos, mídia e setor artístico alertam para riscos de violação de direitos autorais e de privacidade.
• Finlay e outros especialistas destacam que a opacidade sobre os dados usados no treinamento das ferramentas dificulta identificar e corrigir vieses.

Leia Mais:

• IA usada na saúde pode negligenciar mulheres, diz estudo
• Entenda a briga do estúdio Universal contra o uso da inteligência artificial
• IA da rede social de Trump contradiz declarações do presidente

Estudos já apontam discriminação em sistemas de IA no país, como entrevistas automatizadas que prejudicam candidatos com sotaque ou deficiência. Pesquisadores alertam que ferramentas criadas no exterior podem não refletir a realidade australiana.

Para Finlay, diversidade de dados é importante, mas insuficiente sem supervisão humana e transparência. “O risco é criar preconceitos tão enraizados que nem percebamos que eles existem”, disse.