O Papa Leão XIV apelou na segunda-feira a uma forte regulamentação da inteligência artificial e apelou aos seus criadores para que trabalhem para o bem comum e não para o lucro, emitindo uma declaração abrangente para proteger a humanidade, uma vez que a tecnologia afecta tudo, desde o trabalho à guerra.
A primeira encíclica de Leão, Magnifica Humanitas, tem sido ansiosamente aguardada desde que o primeiro papa nascido nos Estados Unidos anunciou, dias após a sua eleição, que considerava a inteligência artificial o maior desafio que a humanidade enfrenta hoje.
No artigo, Leo denunciou a “cultura do poder” que impulsiona a corrida para a inteligência artificial, particularmente no desenvolvimento de métodos mais sofisticados de guerra de longo alcance. A sua declaração de que decisões irreversíveis e fatais “não podem ser permitidas” serem confiadas a sistemas de inteligência artificial levantou outro ponto de conflito entre o papa dos EUA e a administração Trump, que tem desregulamentado activamente o desenvolvimento da inteligência artificial.
“A inteligência artificial exige agora ser desarmada e libertada da lógica que a transforma num instrumento de dominação, exclusão e morte”, disse o papa numa introdução especial à encíclica no Vaticano. A encíclica é um dos tipos de documentos de ensino com maior autoridade que um papa pode emitir.
Especialistas da indústria tecnológica, do meio académico e da ética católica afirmam que o documento deverá tornar-se uma referência para debates sobre inteligência artificial, fornecendo uma referência para decisores políticos, investigadores e o público em geral. Ao mesmo tempo, o rápido desenvolvimento da ciência e da tecnologia suscitou preocupações sobre a possibilidade de a inteligência artificial substituir o trabalho humano e até mesmo a inteligência humana.
“É para pessoas que estão na vanguarda dessas ferramentas e podem ver as coisas incríveis que podem fazer e fazer suas próprias perguntas sobre ‘O que significa ser humano?'”, disse Taylor Black, executivo de IA da Microsoft e diretor do Instituto de Inteligência Artificial da Universidade Católica da América.
Papa também apela às empresas de inteligência artificial enquanto preside a humanidade
O briefing do Vaticano também incluiu comentários do cofundador da Anthropic, uma empresa atualmente envolvida numa disputa legal com a administração Trump sobre o acesso à sua tecnologia de inteligência artificial. O Vaticano decidiu envolver a Anthropic como parte do seu esforço de uma década para dialogar com Silicon Valley sobre o custo humano da inteligência artificial.
No entanto, Leo atacou repetidamente a concentração de poder e de dados nas mãos de um número muito pequeno de pessoas no sector privado como um perigo, especialmente para as crianças e os mais vulneráveis, e apelou à regulamentação externa do seu trabalho.
“Invocações abstratas de ética não são suficientes; também são necessários um quadro jurídico robusto, uma supervisão independente, utilizadores informados e um sistema político que não abdique de responsabilidade”, escreveu ele. “Uma IA mais ética não é suficiente se a moralidade for determinada por poucos.”
Leo apelou repetidamente aos criadores de IA e aos líderes políticos responsáveis pela sua regulamentação para que abrandassem e reflectissem sobre o que estão a fazer. Ele os exortou a seguirem princípios morais e espirituais e a optarem por trabalhar não para seu próprio ganho ou poder, mas para a melhoria da humanidade.
Os concorrentes de inteligência artificial OpenAI e Anthropic são a segunda e a terceira empresas privadas mais valiosas dos Estados Unidos, respetivamente, com avaliações de centenas de milhares de milhões de dólares cada, ultrapassando o PIB de muitos países.
Por que a Anthropic não está lançando seu modelo de IA Claude Mythos ao público
O cofundador da Anthropic, Christopher Olah, acolheu bem as críticas e preocupações de Leo. Ele disse que essas verificações externas sobre a IA e os pesquisadores por trás delas são críticas para o “desenvolvimento suave” da tecnologia humana porque há muito em jogo – “a IA tem o potencial para substituir a força de trabalho humana em grande escala”.
“Precisamos de mais pessoas em todo o mundo – grupos religiosos, sociedade civil, académicos, governos – para fazerem o que Sua Santidade está a fazer aqui: levar esta questão a sério, olhar mais de perto e levar as coisas numa direção melhor”, disse Ora. “Precisamos de críticos informados que digam ao laboratório quando falharmos. Precisamos de vozes morais e incentivos que não possam mudar.”
Especialistas dizem que o texto se tornará referência
Num artigo sistemático, o estudante de matemática traça a história da doutrina social da Igreja Católica e aplica os seus conceitos fundamentais – justiça, solidariedade, dignidade do trabalho e destino universal dos recursos – à revolução digital.
Receba as últimas notícias nacionais
Receba as últimas notícias do Canadá em sua caixa de entrada para nunca perder uma notícia importante.
“Acredito que este será o documento definidor do nosso tempo, um documento profundo e profético”, disse Paolo Carozza, professor de direito na Faculdade de Direito da Universidade de Notre Dame e presidente do comité de supervisão do Meta.
“O Papa Leão deu uma voz clara, abrangente e coerente, instando-nos a assumir a responsabilidade pela construção de um mundo onde a tecnologia servirá a humanidade em vez de prejudicá-la”, disse ele.
No seu capítulo mais poderoso, Leo denuncia como a inteligência artificial está a ajudar a acelerar a “normalização da guerra”, ao dessensibilizar as pessoas para os custos da guerra. Ele não identificou conflitos específicos, mas citou “imperialismo antagônico entre um país poderoso que deseja manter a sua hegemonia e um país poderoso que deseja tomar a hegemonia”.
Papa Leão critica ‘mestres da guerra’ que gastam bilhões em ‘matança e destruição’
Ele pediu transparência e responsabilidade dos desenvolvedores de IA para que a cadeia de comando de tomada de decisão que ordena ataques usando armas de IA seja sempre conhecida. Ele afirmou que a teoria da “guerra justa” da Igreja Católica, que fornece critérios específicos para quando a força é justificada, está agora “ultrapassada”, dados os avanços na tecnologia de guerra.
Textos da Tradição de Justiça Social da Igreja
Leão assinou este texto em 15 de maio para comemorar o 135º aniversário da publicação da Rerum Novarum (A Coisa Nova), o documento didático mais importante do herói e homônimo de Leão, o Papa Leão XIII. O documento discute os direitos dos trabalhadores, os limites do capitalismo e as obrigações do Estado e dos empregadores para com os trabalhadores durante a Revolução Industrial.
Tornou-se a base do pensamento social católico moderno, e o atual papa citou-o no início do seu pontificado a respeito da revolução da inteligência artificial, que, segundo ele, levantou as mesmas questões existenciais levantadas pela revolução industrial há mais de um século. A Magnifica Humanitas torna-se assim o capítulo mais recente de uma história centenária de papas que adaptaram a Rerum Novarum às questões sociais do seu tempo, muitas vezes enfatizando a dignidade de trabalhar para o florescimento humano.
A inteligência artificial está a alimentar medos existenciais e visões utópicas, e acirra o debate sobre se será um catalisador para o enriquecimento da humanidade ou um veneno tecnológico que enfraquecerá a inteligência humana e eliminará milhões de empregos bem remunerados.
“A procura de maiores lucros não pode justificar escolhas que sacrifiquem sistematicamente as oportunidades de emprego, porque as pessoas são fins, não meios, e a ordem económica deve estar subordinada à dignidade humana e ao bem comum”, escreveu Leo.
Papa encontra-se e reza com primeira mulher arcebispa de Cantuária
Leo expressou preocupação com a preservação da dignidade humana no trabalho e pediu desculpas pela primeira vez pelo papel da Santa Sé na legitimação da escravatura, dando aos estados soberanos europeus poderes claros para conquistar e escravizar os “infiéis”.
Uma conversa de uma década com o Vale do Silício
As autoridades do Vaticano recusaram-se a identificar os contribuidores específicos da encíclica de Leão. Mas o Vaticano e as autoridades da Igreja têm mantido negociações com empresas de tecnologia do Vale do Silício há uma década. No final do seu pontificado, o Papa Francisco começa a falar mais sobre a inteligência artificial e os riscos que ela representa para a humanidade.
A decisão de incluir a Anthropic no evento de lançamento do Vaticano foi criticada por alguns, que a viram como um sinal da aprovação do papa à empresa de inteligência artificial. A empresa está atualmente processando a administração Trump depois que esta ordenou que todas as agências dos EUA parassem de usar a tecnologia da Anthropic devido à sua recusa em permitir que os militares dos EUA usassem sua tecnologia sem restrições.
Brian Boyd, representante religioso dos EUA no Future of Life Institute, uma organização sem fins lucrativos, acredita que a inclusão do cofundador da Anthropic, Ola, é como se o papa recebesse um chefe de estado: não um endosso.
“Acho que é mais um reconhecimento desta empresa extremamente poderosa que está vencendo a corrida para substituir os trabalhadores humanos neste momento”, disse Boyd.
Boyd prosseguiu dizendo que a Anthropic é uma “grande empresa que acarreta enormes riscos e responsabilidades”, mas disse que a empresa “demonstrou genuína boa vontade, integridade e interesse no diálogo”.
