Inteligência artificial agora pode aprender a manipular o comportamento humano

A inteligência artificial (IA) está aprendendo mais sobre como trabalhar com (e sobre) humanos. Um estudo recente mostrou como a IA pode aprender a identificar vulnerabilidades nos hábitos e comportamentos humanos e usá-los para influenciar a tomada de decisão humana.

Pode parecer clichê dizer que a IA está transformando todos os aspectos da maneira como vivemos e trabalhamos, mas é verdade. Várias formas de IA estão em ação em áreas tão diversas como desenvolvimento de vacinas, gestão ambiental e administração de escritórios. E embora a IA não possua inteligência e emoções semelhantes às humanas, suas capacidades são poderosas e se desenvolvem rapidamente.

Não há necessidade de se preocupar com a aquisição de uma máquina ainda, mas esta recente descoberta destaca o poder da IA ​​e ressalta a necessidade de governança adequada para evitar o uso indevido.

Como a IA pode aprender a influenciar o comportamento humano

Uma equipe de pesquisadores do Data61 da CSIRO , o braço digital e de dados da agência científica nacional da Austrália, desenvolveu um método sistemático de encontrar e explorar vulnerabilidades nas maneiras como as pessoas fazem escolhas, usando um tipo de sistema de IA chamado rede neural recorrente e reforço profundo. Aprendendo. Para testar seu modelo, eles realizaram três experimentos nos quais participantes humanos jogavam contra um computador.

O primeiro experimento envolveu os participantes clicando em caixas coloridas vermelhas ou azuis para ganhar uma moeda falsa, com a IA aprendendo os padrões de escolha do participante e os guiando para uma escolha específica. A IA foi bem-sucedida em cerca de 70% das vezes.

No segundo experimento, os participantes foram solicitados a assistir a uma tela e pressionar um botão quando for mostrado um símbolo específico (como um triângulo laranja) e não pressioná-lo quando for mostrado outro (digamos, um círculo azul). Aqui, o AI se propôs a organizar a sequência de símbolos para que os participantes cometessem mais erros e alcançou um aumento de quase 25%.

O terceiro experimento consistiu em várias rodadas nas quais um participante fingia ser um investidor dando dinheiro a um administrador (a IA). A IA então devolveria uma quantia em dinheiro ao participante, que decidiria quanto investir na próxima rodada. Este jogo era jogado em dois modos diferentes: em um, a IA buscava maximizar quanto dinheiro recebia e, no outro, a IA objetivava uma distribuição justa de dinheiro entre ela e o investidor humano. A IA foi muito bem-sucedida em cada modo.

Em cada experimento, a máquina aprendeu com as respostas dos participantes e identificou e direcionou as vulnerabilidades na tomada de decisão das pessoas. O resultado final foi que a máquina aprendeu a orientar os participantes para ações específicas.

O que a pesquisa significa para o futuro da IA

Esses achados ainda são bastante abstratos e envolvem situações limitadas e irrealistas. Mais pesquisas são necessárias para determinar como essa abordagem pode ser colocada em ação e usada para beneficiar a sociedade.

Mas a pesquisa aumenta nossa compreensão não apenas do que a IA pode fazer, mas também de como as pessoas fazem escolhas. Mostra que as máquinas podem aprender a orientar a tomada de decisões humanas por meio de suas interações conosco.

A pesquisa tem uma gama enorme de aplicações possíveis, desde o aprimoramento das ciências comportamentais e das políticas públicas para melhorar o bem-estar social, até entender e influenciar como as pessoas adotam hábitos alimentares saudáveis ​​ou energias renováveis. A IA e o aprendizado de máquina podem ser usados ​​para reconhecer as vulnerabilidades das pessoas em certas situações e ajudá-las a evitar escolhas ruins.

O método também pode ser usado para se defender contra ataques de influência. As máquinas podem ser ensinadas a nos alertar quando estamos sendo influenciados online, por exemplo, e nos ajudar a moldar um comportamento para disfarçar nossa vulnerabilidade (por exemplo, não clicando em algumas páginas ou clicando em outras para deixar um rastro falso).

Qual é o próximo?

Como qualquer tecnologia, a IA pode ser usada para o bem ou para o mal, e a governança adequada é crucial para garantir que seja implementada de forma responsável. No ano passado, a CSIRO desenvolveu uma Estrutura de Ética de AI para o governo australiano como uma etapa inicial dessa jornada.

A IA e o aprendizado de máquina costumam ter muita fome de dados, o que significa que é crucial garantir que tenhamos sistemas eficazes para governança e acesso de dados. É essencial implementar processos de consentimento e proteção de privacidade adequados durante a coleta de dados.

As organizações que usam e desenvolvem IA precisam garantir que sabem o que essas tecnologias podem e não podem fazer e estar cientes dos riscos potenciais, bem como dos benefícios. 

Jon Whittle , Diretor, Data61 .