Joshua McElwee
Cidade do Vaticano: No seu primeiro grande documento, o Papa Leão instou os governos a abrandar e a regulamentar rigorosamente o desenvolvimento de sistemas de inteligência artificial, alertando que estes espalham desinformação, dão prioridade aos conflitos e correm o risco de colocar o mundo no caminho de uma guerra sem fim.
O primeiro papa nascido nos Estados Unidos também expressou preocupação com um evento no Vaticano que divulgou um texto dizendo que alguns sistemas de armas autônomos são tão avançados que “na verdade excedem o controle humano”.
Chris Olah, cofundador da Anthropic, uma das maiores empresas de inteligência artificial do mundo, também participou do evento. Leo, que assumiu um tom mais duro nos últimos meses e irritou o presidente dos EUA, Donald Trump, depois de criticar a guerra com o Irão, emitiu uma série de apelos apaixonados aos líderes mundiais no extenso documento conhecido como encíclica.
Leo apelou para que a propriedade dos dados de IA não permaneça inteiramente em mãos privadas, para que os decisores políticos protejam os direitos dos trabalhadores e garantam que as crianças sejam protegidas da tecnologia e para que a concorrência entre as empresas de IA arrefeça.
“O que precisamos é de uma participação política mais activa que possa abrandar as coisas quando tudo está a acelerar”, disse Leo numa declaração intitulada “O que precisamos é de uma participação política mais activa”. Magnifica Humanitas: Sobre a Proteção da Humanidade na Era da Inteligência Artificial– Lançado na segunda-feira (horário do Vaticano)
Apelou a “um quadro jurídico sólido, uma supervisão independente, utilizadores informados e um sistema político que não abdique de responsabilidades”.
As encíclicas são uma das formas mais elevadas de instrução religiosa para os 1,4 mil milhões de membros da Igreja. O tão aguardado texto, que abrange quase 43.000 palavras, está em obras quase desde que Leão foi eleito papa, há mais de um ano.
O documento com tema de inteligência artificial também denunciou o número de guerras que assolam o mundo, lamentou o enfraquecimento das organizações multilaterais e alertou que os lucros da indústria armamentista eram a força motriz por trás do conflito.
“Os conflitos dos últimos 60 anos foram extremamente brutais, afectando frequentemente civis em grande escala”, disse Leo no texto em inglês.
“A humanidade está a escorregar para uma cultura violenta de poder, onde a paz já não é vista como uma responsabilidade, mas como um frágil interlúdio entre conflitos”, disse ele.
No evento do Vaticano, Ora agradeceu a Leo por resolver problemas causados por novas tecnologias disruptivas. Ele disse que empresas como a dele enfrentam forte pressão comercial e exigem escrutínio externo.
“Todo laboratório de inteligência artificial de ponta, incluindo o Anthropic, opera sob um conjunto de incentivos e restrições que às vezes podem entrar em conflito com fazer a coisa certa”, disse Olah. Anthropic é uma empresa que produz ferramentas Claude AI.
Na sua encíclica, Leão também fez uma das declarações mais claras de um papa até à data, rejeitando a doutrina da guerra justa, uma doutrina que a Igreja tem usado para avaliar conflitos globais desde pelo menos o século V.
Esta doutrina geralmente sustenta que a guerra só pode ser travada para defesa contra agressões. Funcionários da administração Trump também invocaram esta doutrina para defender a guerra do Irão, incluindo o vice-presidente Vance, um católico.
“Não podemos excluir a possibilidade de que alguns líderes possam ver o conflito armado como uma forma eficaz de desviar a atenção dos problemas internos e como uma ferramenta cínica para lidar com as dificuldades”.
Papa Leão
“A teoria da ‘guerra justa’, frequentemente usada para justificar qualquer tipo de guerra, está agora ultrapassada”, escreveu Leo.
“O uso da força, da violência e das armas reflecte uma pobreza relacional que tem sempre consequências catastróficas para os civis.”
Leo também temia que os líderes pudessem iniciar guerras para distrair os cidadãos dos problemas internos.
“Não podemos excluir que alguns líderes possam ver o conflito armado como uma forma eficaz de desviar a atenção dos problemas internos e como uma ferramenta para gerir as dificuldades”, disse ele.
O papa disse que o uso da inteligência artificial na guerra “deve estar sujeito às mais estritas restrições morais” e disse que era “inadmissível” confiar decisões letais a sistemas de inteligência artificial.
Leão, o 14º papa a escolher o nome, citou séculos de ensinamentos papais sobre questões de justiça social antes de falar sobre a ética dos sistemas de inteligência artificial.
Citou em particular o seu antecessor Leão XIII, que publicou A famosa encíclica de 1891 Isso exigiu melhores salários e condições para os trabalhadores durante a Revolução Industrial.
Leão XIV denunciou o que chamou de “novas formas de escravidão” sofridas por pessoas que cuidam de sistemas de inteligência artificial e por trabalhadores de fábricas que produzem dispositivos tecnológicos como computadores e smartphones que utilizam inteligência artificial.
“Em algumas partes do mundo, crianças e adolescentes trabalham em condições perigosas, triturando materiais usados para extrair elementos de terras raras”, escreveu ele.
“Os corpos dessas pessoas estão tão marcados e marcados que o processo computacional pode continuar sem interrupção”, disse ele. “Esta realidade desafia profundamente a consciência moral do nosso tempo.”
Reconheceu também que a Igreja Católica não condenou veementemente a escravatura transatlântica até ao século XIX e emitiu um pedido pessoal de desculpas.
“Isso constitui uma ferida na memória cristã”, escreveu ele. “Por isso peço sinceramente perdão em nome da Igreja”.
Leo começou a sua carta dizendo que queria dirigir-se aos católicos e a todas as pessoas de boa vontade, dizendo que a sociedade deve enfrentar “questões críticas” sobre como a inteligência artificial se desenvolverá e a direção geral da liderança global.
Citando a história bíblica da Torre de Babel – uma tribo de humanos que, movidos pelo orgulho, tentaram construir uma torre alta o suficiente para alcançar o céu, irritando Deus – o papa disse que a história ilustra os riscos enfrentados por qualquer empresa que “aspira alcançar o céu sem a bênção de Deus”.
“Com coração de pastor e pai, peço a todos que desistam de construir outra Torre de Babel e trabalhem juntos para construir o bem comum”, disse o papa.
Leo exorta o mundo a não desistir de enfrentar os possíveis riscos dos sistemas de inteligência artificial.
“Pode haver uma tentação subtil de pensar que o problema é demasiado grande e que nós somos demasiado pequenos, de modo que as nossas escolhas não podem fazer diferença”, escreve ele.
“É claro que nem todos têm a mesma capacidade de fazer a diferença”, disse Leo. “No entanto, ninguém está isento de responsabilidade. Todos nós temos nossas próprias áreas de ação.”
