O Papa Leão XIV apelou na segunda-feira a uma forte regulamentação da inteligência artificial, exortando os seus criadores a trabalharem para o bem comum e não para o lucro. Ele emitiu um manifesto abrangente, ampla humanidade (The Magnificent Humanity), sobre proteger a humanidade à medida que a tecnologia afeta tudo, desde o trabalho até a guerra.
O tão aguardado documento é a primeira encíclica de Leo, após a sua declaração, poucos dias após a eleição, de que a inteligência artificial representa o maior desafio da humanidade. Nele, o Papa Leão denunciou a “cultura do poder” que impulsiona a corrida pela inteligência artificial, particularmente no desenvolvimento de guerras sofisticadas de longo alcance.
Leo assumiu um tom mais duro nos últimos meses, depois de irritar o presidente dos EUA, Donald Trump, com as suas críticas à guerra com o Irão.
Declarou que “não seria permitido” que decisões irreversíveis e fatais fossem delegadas a sistemas de inteligência artificial, postura que levanta outro ponto de conflito com a administração Trump, que tem trabalhado agressivamente para desregulamentar o desenvolvimento da inteligência artificial.
Especialistas da indústria tecnológica, da academia e da ética católica dizem que o documento provavelmente se tornará uma referência no debate sobre IA, fornecendo uma referência para formuladores de políticas, pesquisadores e pessoas comuns. Ao mesmo tempo, o rápido desenvolvimento da tecnologia levantou preocupações sobre a possibilidade de a inteligência artificial substituir os empregos humanos e até mesmo a inteligência humana.
“É para pessoas que estão na vanguarda dessas ferramentas, capazes de ver as coisas incríveis que podem fazer e fazer suas próprias perguntas sobre ‘O que significa ser humano?'”, disse Taylor Black, executivo de IA da Microsoft e diretor do Instituto de Inteligência Artificial da Universidade Católica da América.
Papa também chama empresas de IA enquanto preside a humanidade
O papa apresentará o texto numa apresentação no Vaticano, na segunda-feira, com a participação do cofundador da Anthropic, uma empresa atualmente envolvida numa disputa legal com a administração Trump sobre o acesso à sua tecnologia de inteligência artificial. O Vaticano decidiu envolver a Anthropic como parte do seu esforço de uma década para ter uma conversa com o Vale do Silício sobre o custo humano da inteligência artificial.
No entanto, Leo ataca repetidamente a concentração de poder e de dados nas mãos de um número muito pequeno de pessoas no sector privado como um perigo, especialmente para as crianças e os mais vulneráveis, e apela à regulamentação externa do seu trabalho.
“Meras invocações abstratas de ética não são suficientes; também são necessários um quadro jurídico robusto, uma supervisão independente, utilizadores informados e um sistema político que não abdique de responsabilidade”, escreveu ele. “Uma IA mais ética não é suficiente se a moralidade for determinada por poucos.”
Leo apelou repetidamente aos criadores de IA e aos líderes políticos responsáveis pela sua regulamentação para que abrandassem e reflectissem sobre o que estão a fazer. Ele os exortou a seguirem princípios morais e espirituais e a optarem por trabalhar não para seu próprio ganho ou poder, mas para a melhoria da humanidade.
Os rivais da inteligência artificial OpenAI e Anthropic são a segunda e a terceira empresas privadas mais valiosas dos Estados Unidos, respetivamente, com avaliações na casa das centenas de milhares de milhões de dólares cada, ultrapassando o PIB de muitos países.
Especialistas dizem que o texto se tornará referência
Num artigo sistemático, o estudante de matemática traça a história da doutrina social da Igreja Católica e aplica os seus conceitos fundamentais – justiça, solidariedade, dignidade do trabalho e destino universal dos recursos – à revolução digital.
“Acredito que este será o documento definidor do nosso tempo, um documento profundo e profético”, disse Paolo Carozza, professor de direito na Faculdade de Direito da Universidade de Notre Dame e presidente do comité de supervisão do Meta.
“O Papa Leão deu uma voz clara, abrangente e coerente, instando-nos a assumir a responsabilidade pela construção de um mundo onde a tecnologia servirá a humanidade em vez de prejudicá-la”, disse ele.
No seu capítulo mais poderoso, Leo denuncia como a IA está a ajudar a acelerar a “normalização da guerra”, ao dessensibilizar as pessoas para os custos da guerra. Ele não identificou conflitos específicos, mas citou “imperialismo antagônico entre um país poderoso que deseja manter a sua hegemonia e um poder que deseja tomá-la”.
A inteligência artificial “só causará conflitos mais rapidamente e os tornará mais objetivos”, disse Leo. Ele pediu critérios específicos ao tomar decisões de greve. Isto inclui uma cadeia de responsabilidade identificável que também se aplica a “aqueles que concebem, treinam, autorizam e utilizam a tecnologia” e medidas para que a segmentação tenha em conta as diferenças entre combatentes e não combatentes, bem como o impacto nas populações indefesas.
Os requisitos não negociáveis incluem garantias de responsabilidade e que o emprego de força letal não pode ser automatizado. Leo também pediu um quadro internacional comum “para conter a corrida armamentista tecnológica e garantir uma forte proteção aos civis”.
Ele afirmou que a doutrina da “guerra justa” da Igreja Católica, que fornecia critérios específicos para quando a força era justificada, estava agora “ultrapassada”, dados os avanços na tecnologia de guerra.
Textos da Tradição de Justiça Social da Igreja
Leão assinou o texto em 15 de maio para comemorar o 135º aniversário da publicação da Rerum Novarum (A Coisa Nova), o documento didático mais importante do Papa Leão XIII, herói e homônimo de Leão. O documento discute os direitos dos trabalhadores, os limites do capitalismo e as obrigações do Estado e dos empregadores para com os trabalhadores durante a Revolução Industrial.
Tornou-se a base do pensamento social católico moderno, e o atual papa citou-o no início do seu pontificado a respeito da revolução da inteligência artificial, que, segundo ele, levantou as mesmas questões existenciais levantadas pela revolução industrial há mais de um século. A Magnifica Humanitas torna-se assim o capítulo mais recente de uma história centenária de papas que adaptaram a Rerum Novarum às questões sociais do seu tempo, muitas vezes enfatizando a dignidade de trabalhar para o florescimento humano.
A inteligência artificial está a alimentar medos existenciais e visões utópicas, com o debate crescente sobre se será um catalisador para o enriquecimento da humanidade ou um veneno tecnológico que enfraquecerá a inteligência humana e eliminará milhões de empregos bem remunerados.
“A procura de maiores lucros não pode justificar escolhas que sacrifiquem sistematicamente as oportunidades de emprego, porque as pessoas são fins, não meios, e a ordem económica deve estar subordinada à dignidade humana e ao bem comum”, escreveu Leo.
Leo expressou a sua preocupação em preservar a dignidade do trabalho humano e pediu desculpas pela primeira vez pelo papel da Santa Sé na legalização da escravatura.
Papas anteriores pediram desculpas pela participação dos cristãos no comércio transatlântico de escravos. Mas nenhum papa alguma vez reconheceu publicamente, e muito menos se desculpou, pelo papel do próprio papa em dar aos estados soberanos europeus autoridade explícita para conquistar e escravizar os “infiéis”.
Uma conversa de uma década com o Vale do Silício
As autoridades do Vaticano recusaram-se a identificar os contribuidores específicos da encíclica de Leão. Mas o Vaticano e as autoridades da Igreja têm mantido negociações com empresas de tecnologia do Vale do Silício há uma década. No final do seu pontificado, o Papa Francisco começa a falar mais sobre a inteligência artificial e os riscos que ela representa para a humanidade.
A decisão de incluir o Antrópico no evento de lançamento do Vaticano foi criticada por alguns, que a viram como um endosso do papa à empresa de inteligência artificial.
Em fevereiro, a administração Trump ordenou que todas as agências dos EUA parassem de usar a tecnologia da Anthropic depois de se recusar a permitir o uso irrestrito da tecnologia pelos militares dos EUA. A Anthropic, que se descreve como uma empresa de inteligência artificial que coloca a segurança e a mitigação de riscos na vanguarda da pesquisa, está processando o governo.
Brian Boyd, representante religioso dos EUA no Future of Life Institute, uma organização sem fins lucrativos, acredita que a inclusão do cofundador da Anthropic, Christopher Olah, é como se o papa recebesse um chefe de estado: não um endosso.
“Acho que é mais um reconhecimento desta empresa extremamente poderosa que está vencendo a corrida para substituir os trabalhadores humanos neste momento”, disse Boyd.
Boyd prosseguiu dizendo que a Anthropic é uma “grande empresa que acarreta enormes riscos e responsabilidades”, mas disse que a empresa “demonstrou genuína boa vontade, integridade e interesse no diálogo”.
