Na segunda-feira, o Papa Leão
“Magnifica Humanitas”, a primeira encíclica de Leão, tem sido ansiosamente aguardada desde que o primeiro papa nascido nos EUA na história anunciou, dias após a eleição, que considerava a IA o maior desafio que a humanidade enfrenta hoje.
No texto, Leo denuncia a “cultura de poder” que impulsiona a corrida pela IA, especialmente no desenvolvimento de métodos cada vez mais sofisticados de guerra remota. Declarou que “não é permitido” confiar decisões irreversíveis e letais a sistemas de IA, estabelecendo outro ponto de conflito entre o Papa dos EUA e a administração Trump, que tem trabalhado activamente para desregulamentar o desenvolvimento da IA.
Especialistas da indústria tecnológica, da academia e da ética católica dizem que o documento provavelmente se tornará uma pedra de toque no debate sobre IA, um ponto de referência para formuladores de políticas, pesquisadores e cidadãos comuns. Acontece que os desenvolvimentos quase diários na tecnologia levantam preocupações sobre a substituição dos empregos humanos e até da inteligência humana pela IA.
“Isso ajuda as pessoas que estão na vanguarda dessas ferramentas e podem ver as coisas incríveis que podem fazer, a se perguntarem ‘O que significa ser humano?’”, disse Taylor Black, executivo-chefe de IA da Microsoft e diretor do instituto de IA da Universidade Católica da América.
Papa pede empresas de IA mesmo enquanto hospeda a Anthroponic
O papa apresentou o texto num lançamento do Vaticano na segunda-feira, que incluiu o cofundador da Anthropic, atualmente travando uma batalha legal com a administração Trump sobre o acesso à sua tecnologia de IA. O Vaticano decidiu convidar a Anthropic para participar como parte de um esforço de décadas para envolver o Vale do Silício num diálogo sobre os custos humanos da IA.
No entanto, no seu texto, Leo criticou repetidamente a concentração de poder e de dados nas mãos de muito poucas pessoas no sector privado como um perigo, especialmente para as crianças e os mais vulneráveis, e apelou à regulamentação externa do seu trabalho.
“Invocar a ética em abstrato não é suficiente; é preciso haver um quadro jurídico forte, uma supervisão independente, utilizadores informados e um sistema político que não abdique das suas responsabilidades”, escreveu ele. “Uma IA mais ética não é suficiente se essa ética for determinada por poucos.”
Leo apelou repetidamente aos criadores de IA e aos líderes políticos responsáveis pela sua regulamentação para que abrandassem e reflectissem sobre o que estão a fazer. Ele exortou-os a usarem as suas orientações morais e espirituais para fazerem a escolha de trabalhar não para o seu próprio lucro ou poder, mas para a melhoria da humanidade.
Os concorrentes da IA, OpenAI e Anthropic, são a segunda e a terceira empresas privadas mais valiosas da América, cada uma valendo centenas de milhares de milhões de dólares, mais do que o PIB de muitos países.
O co-fundador da Anthropic, Christopher Olah, acolheu bem as críticas e preocupações de Leo, dizendo que tais verificações externas sobre a IA e os investigadores por trás dela são fundamentais para que a tecnologia “corra bem” para a humanidade porque existem tantas ameaças – “a possibilidade real de que a IA substitua o trabalho humano em grande escala”.
“Precisamos que mais pessoas do mundo – comunidades religiosas, sociedade civil, académicos, governos – façam o que o Santo Padre fez aqui: levem esta questão a sério, examinem-na e empurrem os acontecimentos numa direção melhor”, disse Olah. “Precisamos de críticos informados que dirão aos laboratórios quando falharmos. Precisamos de vozes morais que os incentivos não possam dobrar”.
Especialistas dizem que o texto se tornará a norma
Num texto metódico, o papa da matemática traça a história da doutrina social da Igreja Católica e aplica os seus conceitos fundamentais – justiça, solidariedade, dignidade do trabalho e destinação universal dos recursos – à revolução digital.
“Estou convencido de que este será um documento decisivo para os nossos tempos, um documento profundo e profético”, disse Paolo Carozza, professor de direito na Faculdade de Direito Notre Dame e presidente do conselho de supervisão do Meta.
“O Papa Leão está a levantar uma voz clara, abrangente e coerente, apelando-nos a assumir a responsabilidade pela construção de um mundo em que a tecnologia servirá as pessoas em vez de as degradar”, disse ele.
Nos seus capítulos mais poderosos, Leo denuncia como a IA ajudou a acelerar a “normalização da guerra”, tornando as pessoas menos sensíveis aos seus custos. Ele não nomeou conflitos específicos, mas citou “imperialismos opostos, entre forças que querem preservar o seu poder supremo e aquelas que aspiram a usurpar esse poder supremo”.
Ele pediu aos desenvolvedores de IA que fossem transparentes e responsáveis, para que a cadeia de comando de decisão ao ordenar ataques com armas de IA seja sempre claramente conhecida. Afirmou que a teoria da “guerra justa” da Igreja Católica, que estabelece critérios específicos para quando a força pode ser justificada, está agora “ultrapassada” devido aos avanços tecnológicos da guerra.
Um texto na tradição de justiça social da Igreja
Leão assinou o documento em 15 de maio, no 135º aniversário da publicação da “Rerum Novarum” (Sobre Coisas Novas), o documento didático mais importante do herói homônimo de Leão, o Papa Leão XIII. Esse documento abordava os direitos dos trabalhadores, os limites do capitalismo e as obrigações que o Estado e os empregadores tinham para com os trabalhadores durante o início da Revolução Industrial.
Tornou-se uma pedra angular do pensamento social católico moderno, e o atual Papa citou-o no início do seu pontificado em conexão com a revolução da IA, que ele acredita levantar as mesmas questões existenciais que a Revolução Industrial levantou há mais de um século. “Magnifica Humanitas” torna-se assim o capítulo mais recente de uma história secular de papas que adaptaram a “Rerum Novarum” às questões sociais dos seus tempos, muitas vezes abordando a dignidade do trabalho para o florescimento humano.
A IA está a evocar medos existenciais e visões utópicas no meio de um debate acirrado sobre se se tornará num catalisador que enriquece a humanidade ou num veneno tecnológico que degrada a inteligência humana, ao mesmo tempo que elimina milhões de empregos bem remunerados.
“A procura de maiores lucros não pode justificar escolhas que sacrifiquem sistematicamente o trabalho, porque os seres humanos são os fins, não os meios, e a ordem económica deve depender da dignidade humana e do bem comum”, escreveu Leo.
Leão expandiu a sua preocupação com a promoção da dignidade humana no trabalho para emitir o primeiro pedido de desculpas papal pelo próprio papel da Santa Sé na legitimação da escravatura, dando aos soberanos europeus o poder explícito de subjugar e escravizar os “infiéis”.
Um diálogo de décadas com o Vale do Silício
As autoridades do Vaticano recusaram-se a dizer exatamente quem contribuiu para a mensagem de Leo. Mas o Vaticano e as autoridades da Igreja têm mantido diálogo com as empresas tecnológicas do Vale do Silício há uma década. Perto do final do seu papado, o Papa Francisco começou a falar mais sobre a IA e os riscos que ela representa para a humanidade.
A decisão de incluir o Antrópico no lançamento do Vaticano foi criticada por alguns que a viram como uma aprovação papal da empresa de IA.
Em fevereiro, a administração Trump ordenou que todas as agências dos EUA parassem de usar a tecnologia da Anthropic depois que a empresa se recusou a permitir o uso irrestrito pelos militares dos EUA. A Anthropic, que se autodenomina uma empresa de IA que coloca a segurança e a mitigação de riscos na vanguarda de suas pesquisas, está agora processando o governo.
Brian Boyd, representante religioso dos EUA para o Instituto sem fins lucrativos Future of Life, disse que a inclusão de Olah, cofundador da Anthropic, é semelhante a uma audiência papal com um chefe de estado: não um endosso.
“Acho que é uma espécie de reconhecimento de (como) esta é uma empresa incrivelmente poderosa que agora está vencendo a corrida para substituir os trabalhadores humanos”, disse Boyd.
A Anthropic é uma “corporação gigante que está assumindo enormes riscos e responsabilidades”, continuou Boyd, mas disse que a empresa “demonstrou genuína boa vontade, integridade e interesse no diálogo”.
