ONU pede ação urgente sobre o risco da inteligência artificial aos direitos humanos, quer novas regras emolduradas
Michelle Bachelet observou que, embora a inteligência artificial possa ser benéfica para a sociedade, ela também pode “ter efeitos nocivos e até catastróficos”.
A alta comissária das Nações Unidas para os Direitos Humanos, Michelle Bachelet, alertou nesta quarta-feira sobre a necessidade urgente de se estabelecer uma moratória aos sistemas de inteligência artificial (IA), considerando que representam um sério risco em termos de direitos .
“A inteligência artificial pode ser uma força para o bem, ajudando as sociedades a superar alguns dos maiores desafios de nosso tempo. Mas as tecnologias de IA também podem ter efeitos prejudiciais e até catastróficos, quando usadas de forma descuidada. Em sua capacidade de violar os direitos humanos”, declarou Bachelet.
Nesse sentido, o alto comissário instou a suspender temporariamente a comercialização de certas tecnologias de interesse, especialmente aquelas utilizadas em espaços públicos, e enfatizou a necessidade de estabelecer a proibição total de aplicações de IA que não cumpram o direito internacional.
“Quanto maior o risco para os direitos humanos, mais rígidos os requisitos legais para o uso de tecnologia de IA devem ser. Mas como avaliar os perigos e como superá-los ainda pode levar algum tempo, os Estados devem implementar agora moratórias sobre o uso de tecnologias que apresentam um potencial de alto risco “, acrescentou.
Eles violam vários direitos
Um relatório publicado no mesmo dia pela ONU revela que certas tecnologias de aprendizado de máquina violam diretamente vários direitos, como os relacionados à privacidade, saúde, educação, liberdade de movimento e liberdade de expressão . Além disso, os sistemas de reconhecimento facial, cada vez mais utilizados para identificar determinadas pessoas à distância e em tempo real, suscitam dúvidas, pois permitem um seguimento ilimitado dos indivíduos.
Levando-se em consideração que tanto Estados quanto empresas têm se precipitado em incorporar esse tipo de tecnologia sem exercer a devida diligência, já houve casos de pessoas que acabam recebendo tratamento injusto ou discriminatório, seja por ter sido negado algum tipo de serviço ou por terem recebido acusado injustamente devido a erros nos sistemas de reconhecimento facial, afirma a ONU.
Outro problema que o documento descreve é que os sistemas de IA são baseados em grandes bancos de dados, alimentados com informações pessoais dos usuários. “Dado o rápido crescimento contínuo da IA, preencher a enorme lacuna de responsabilidade em como os dados são coletados, armazenados, compartilhados e usados é uma das tarefas de direitos humanos mais urgentes que enfrentamos”, disse Bachelet.
