Papa Leão XIV apelou na segunda-feira a uma forte regulamentação da inteligência artificial e a que os seus criadores trabalhem para o bem comum em vez do lucro, ao mesmo tempo que emitiu um manifesto abrangente sobre a proteção da humanidade à medida que a tecnologia tem impacto em tudo, desde o trabalho à guerra.
“Grande Humanidade” (Grande Humanidade), A primeira mensagem de Leotem sido ansiosamente aguardado desde que o primeiro papa nascido nos Estados Unidos anunciou, dias após a sua eleição, que vê a IA como o maior desafio que a humanidade enfrenta hoje.
No texto, Leo denuncia a “cultura de poder” que impulsiona a corrida pela IA, especialmente no desenvolvimento de métodos cada vez mais sofisticados de guerra remota. Declarou que “não é permitido” confiar decisões irreversíveis e letais a sistemas de IA, estabelecendo outro ponto de conflito entre o Papa dos EUA e a administração Trump, o que causou muita controvérsia. tem trabalhado arduamente para desregulamentar o desenvolvimento da IA.
“A inteligência artificial hoje exige ser desarmada, libertada das lógicas que a transformam num instrumento de dominação, exclusão e morte”, disse o papa numa apresentação especial da encíclica no Vaticano, um dos documentos de ensino mais autorizados que um papa pode emitir.
Especialistas da indústria tecnológica, da academia e da ética católica dizem que o documento provavelmente se tornará uma pedra de toque no debate sobre IA, um ponto de referência para formuladores de políticas, pesquisadores e cidadãos comuns. Acontece que os desenvolvimentos quase diários na tecnologia levantam preocupações sobre a substituição dos empregos humanos e até da inteligência humana pela IA.
Taylor Black, executivo-chefe de IA da Microsoft e diretor do instituto de IA da Universidade Católica da América, disse que o documento lembrará aqueles “na vanguarda dessas ferramentas” de fazer perguntas como “O que significa ser humano?”
Papa pede empresas de IA mesmo enquanto hospeda a Anthroponic
O lançamento do Vaticano também incluiu comentários do cofundador da Anthropic, que atualmente está presa a um Batalha legal com a administração Trump sobre o acesso à sua tecnologia de IA. O Vaticano decidiu convidar a Anthropic para participar como parte de um esforço de décadas para envolver o Vale do Silício num diálogo sobre os custos humanos da IA.
No entanto, no seu texto, Leo criticou repetidamente a concentração de poder e de dados nas mãos de muito poucas pessoas no sector privado como um perigo, especialmente para as crianças e os mais vulneráveis, e apelou à regulamentação externa do seu trabalho.
“Invocar a ética em abstrato não é suficiente; é preciso haver um quadro jurídico forte, uma supervisão independente, utilizadores informados e um sistema político que não abdique das suas responsabilidades”, escreveu ele. “Uma IA mais ética não é suficiente se essa ética for determinada por poucos.”
Leo exorta os desenvolvedores de IA e os líderes políticos responsáveis por regulamentá-los a desacelerar e refletir sobre o que estão fazendo. Ele exortou-os a usarem as suas orientações morais e espirituais para fazerem a escolha de trabalhar não para o seu próprio lucro ou poder, mas para a melhoria da humanidade.
Os concorrentes da IA, OpenAI e Anthropic, são a segunda e a terceira empresas privadas mais valiosas da América, cada uma valendo centenas de milhares de milhões de dólares, mais do que o PIB de muitos países. Ambas as empresas estão de olho em IPOs no valor de quase um trilhão de dólares.
O cofundador da Anthropic, Christopher Olah, acolheu bem as críticas e preocupações de Leo. Ele disse que tais verificações externas são fundamentais para que a tecnologia “corra bem” para a humanidade porque há muito em jogo – “a possibilidade real de que a IA substitua o trabalho humano em grande escala”.
“Precisamos que mais pessoas do mundo – comunidades religiosas, sociedade civil, académicos, governos – façam o que o Santo Padre fez aqui: levem esta questão a sério, examinem-na e empurrem os acontecimentos numa direção melhor”, disse Olah. “Precisamos de vozes morais cujos incentivos não possam ser contornados.”
Especialistas dizem que os documentos se tornarão uma norma
Num texto metódico, o papa da matemática traça a história da doutrina social da Igreja Católica e aplica os seus conceitos fundamentais – justiça, solidariedade, dignidade do trabalho e destinação universal dos recursos – à revolução digital.
“Estou convencido de que este será um documento decisivo para os nossos tempos, um documento profundo e profético”, disse Paolo Carozza, professor de direito na Notre Dame Law School e presidente do Meta Oversight Board.
“O Papa Leão está a levantar uma voz clara, abrangente e coerente, apelando-nos a assumir a responsabilidade pela construção de um mundo em que a tecnologia servirá as pessoas em vez de as degradar”, disse ele.
Nos seus capítulos mais poderosos, Leo denuncia como a IA ajudou a acelerar a “normalização da guerra”, tornando as pessoas menos sensíveis aos seus custos. Ele não nomeou conflitos específicos, mas citou “imperialismos opostos, entre forças que querem preservar o seu poder supremo e aquelas que aspiram a usurpar esse poder supremo”.
Ele pediu aos desenvolvedores de IA que fossem transparentes e responsáveis, para que a cadeia de comando de decisão ao ordenar ataques com armas de IA seja sempre claramente conhecida. Afirmou que a teoria da “guerra justa” da Igreja Católica, que estabelece critérios específicos para quando a força pode ser justificada, está agora “ultrapassada” devido aos avanços tecnológicos da guerra.
Um texto na tradição de justiça social da Igreja
Leão assinou o documento em 15 de maio, no 135º aniversário da publicação da “Rerum Novarum” (Sobre Coisas Novas), o documento didático mais importante do herói homônimo de Leão, o Papa Leão XIII. Esse documento abordava os direitos dos trabalhadores, os limites do capitalismo e as obrigações que o Estado e os empregadores tinham para com os trabalhadores durante o início da Revolução Industrial.
Tornou-se uma pedra angular do pensamento social católico moderno, e o atual papa citou-o no início do seu pontificado em conexão com Revolução da IAque ele acredita levantar as mesmas questões existenciais que a Revolução Industrial colocou há mais de um século. “Magnifica Humanitas” torna-se assim o capítulo mais recente de uma história secular de papas que adaptaram a “Rerum Novarum” às questões sociais dos seus tempos, muitas vezes abordando a dignidade do trabalho para o florescimento humano.
A IA está evocando ambos pavor existencial e visões utópicas no meio de um debate acirrado sobre se se tornará num catalisador que enriquece a humanidade ou num veneno tecnológico que degrada a inteligência humana, ao mesmo tempo que elimina milhões de empregos bem remunerados.
“A procura de maiores lucros não pode justificar escolhas que sacrifiquem sistematicamente o trabalho, porque os seres humanos são os fins, não os meios, e a ordem económica deve depender da dignidade humana e do bem comum”, escreveu Leo.
Leão estendeu a sua preocupação pela promoção da dignidade humana no trabalho para emitir o primeiro pedido de desculpas papal à própria Santa Sé. papel na legalização da escravidão dando aos soberanos europeus poder explícito para conquistar e escravizar os “infiéis”.
Um diálogo de décadas com o Vale do Silício
As autoridades do Vaticano recusaram-se a dizer quem contribuiu para a mensagem de Leo. Mas o Vaticano e as autoridades da Igreja têm mantido diálogo com as empresas tecnológicas do Vale do Silício há uma década.
A decisão de incluir o Antrópico no lançamento do Vaticano foi criticada por alguns que a viram como uma aprovação papal da empresa de IA, que agora está processando a administração Trump depois de ordenar que todas as agências dos EUA Pare de usar Tecnologia Antrópica por se recusar a permitir que os militares dos EUA a usassem sem restrições.
Brian Boyd, representante religioso dos EUA para o Instituto sem fins lucrativos Future of Life, vê a inclusão de Olah como cofundador da Anthropic como um reconhecimento da proeminência da organização no campo e semelhante a uma audiência papal com um chefe de estado: não um endosso.
A Anthropic é uma “corporação gigante que está assumindo enormes riscos e responsabilidades”, disse Boyd, acrescentando que a empresa “demonstrou genuína boa vontade, integridade e interesse no diálogo”.
___
Winfield relatou de Middletown, Connecticut e Huamani relatou de Los Angeles. Os redatores da Associated Press Kelvin Chan em Londres e Colleen Barry em Milão contribuíram para este relatório.
