Papa Francisco pede proteção aos humanos devido à ameaça terrível das máquinas IA
O Papa Francisco pediu na quarta-feira aos líderes da inteligência artificial que “protejam a dignidade humana nesta nova era de máquinas”.
Em uma mensagem para uma conferência sobre ética em IA em Hiroshima, Japão, com líderes da Microsoft, IBM, Cisco, Nações Unidas e representantes de todas as principais religiões do mundo, o papa destacou que a inteligência artificial tem implicações para o futuro da guerra e da paz em nosso mundo.
O pontífice pediu a proibição de sistemas de armas autônomas letais — uma classe de armas que usa algoritmos de computador para mirar e empregar armas de forma independente, sem controle humano manual do sistema.
“Nenhuma máquina deveria escolher tirar a vida de um ser humano”, disse Francisco na mensagem publicada em 10 de julho.
O papa ressaltou a importância simbólica de discutir a ética da IA no local do bombardeio atômico em Hiroshima, um lugar que serve como um lembrete das consequências que podem surgir do avanço da tecnologia sem considerar todas as implicações.
“É crucial que, unidos como irmãos e irmãs, lembremos ao mundo que, à luz da tragédia que é o conflito armado, é urgente reconsiderar o desenvolvimento e o uso de dispositivos como as chamadas ‘armas autônomas letais’ e, finalmente, proibir seu uso”, disse Francisco, renovando um apelo que fez na cúpula do G7 na Itália em junho.
“Isto parte de um compromisso efetivo e concreto de introduzir um controlo humano cada vez maior e adequado.”
A conferência de dois dias em Hiroshima reuniu líderes da indústria de tecnologia com representantes de religiões do mundo, incluindo cristianismo, judaísmo, islamismo, budismo, hinduísmo, zoroastrismo, bahá’í e outras religiões orientais.
Brad Smith, vice-presidente e presidente da Microsoft, disse que Hiroshima, com seu lugar profundo na história humana, serviu como “um cenário convincente para ajudar a garantir que uma tecnologia criada pela humanidade sirva a toda a humanidade e à nossa casa comum”.
Em um dos discursos de abertura da conferência, o rabino Eliezer Simcha Weisz disse que “como indivíduos de fé, temos a responsabilidade única de infundir nossa busca pela IA com clareza moral e integridade ética”.
O Apelo de Roma, um documento da Pontifícia Academia para a Vida, destaca a necessidade do uso ético da IA de acordo com os princípios de transparência, inclusão, responsabilização, imparcialidade, confiabilidade, segurança e privacidade.
O Papa Francisco escolheu a inteligência artificial como tema de sua mensagem de paz de 2024, que recomendou que os líderes globais adotassem um tratado internacional para regular o desenvolvimento e o uso da IA.
