Japão promete tomar ‘medidas destrutivas’ após a Coreia do Norte anunciar lançamento de satélite
Impedir que a inteligência artificial descontrolada leve à extinção humana deve ser uma prioridade em todo o mundo, disse o Center for AI Safety, sem fins lucrativos, na terça-feira, em um comunicado assinado por 350 pessoas importantes em IA e áreas relacionadas.
“Conter o risco de extinção da IA deve ser uma prioridade global ao lado de outros riscos sociais, como pandemias e guerra nuclear”, disse o comunicado.
Os
signatários incluíram o CEO do Google DeepMind, Demis Hassabis, o CEO da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, que recentemente disse ao Congresso que estava preocupado com a possibilidade de a tecnologia dar “muito errado” e pediu que introduzisse regulamentos neste setor. Os três líderes do setor se reuniram com o presidente dos EUA, Joe Biden, e a vice-presidente, Kamala Harris, no início deste mês para discutir possíveis regulamentações. Vários executivos de suas
empresas também acrescentaram seus nomes ao comunicado de terça-feira.
Geoffrey Hinton e Yoshua Bengio, considerados os “padrinhos da IA” por seu trabalho em redes neurais, foram listados em primeiro lugar no jornal, embora Yann LeCun, que pesquisou com eles e agora lidera a pesquisa de IA para a Meta, não tenha concordado. . Hinton renunciou ao cargo no Google no início deste mês para alertar sobre os riscos da IA e disse que às vezes se arrepende do trabalho de sua vida.
A carta representa uma “revelação” para os líderes da indústria que anteriormente mantinham suas preocupações sobre o futuro da IA em segredo, disse Dan Hendrycks, diretor executivo do Center for AI Safety, ao New York Times na terça-feira.
“Mesmo na comunidade da EIA, há um equívoco comum de que há apenas um punhado de críticos”, explicou ele, esclarecendo que “acima de tudo, muitas pessoas expressariam suas preocupações sobre essas coisas.”
A mensagem ecoa outra carta aberta publicada pelo Future of Life Institute em março, pedindo uma moratória de seis meses em desenvolvimentos de IA em larga escala para evitar “uma corrida acelerada para desenvolver e implantar mentes digitais cada vez mais poderosas”..” Esta mensagem foi assinada por mais de 1.000 figuras influentes da tecnologia, incluindo o bilionário Elon Musk, que acaba de receber a aprovação do governo dos EUA para testes em humanos de sua interface cérebro-computador Neuralink, que visa dar às pessoas uma vantagem competitiva para fornecer à IA.
No entanto, nem todos os influenciadores de IA são tímidos. O CEO da Nvidia, Jensen Huang, disse recentemente a uma platéia na National Taiwan University que aqueles que não entram no rolo compressor da IA devem, pelo menos metaforicamente, assistir enquanto seus empregos são roubados, suas empresas afundam e eles próprios são comidos . , enquanto o cofundador da Microsoft, Bill Gates , um grande investidor em IA, insiste que a tecnologia só trará “enormes benefícios”.
