Por KIM BELLARD
Até poucos dias atrás, eu nunca tinha ouvido falar do termo “computador de carne”. Aparentemente, isso já existe há algum tempo e, como Laura Kelly discutir em New York Timesas elites tecnológicas estão cada vez mais usando-a, seja como uma forma de humanizar a IA ou como uma forma de minimizar o que os humanos podem fazer com a IA (por exemplo, Elon Musk publicado no verão passado, “Somos todos computadores burros em comparação com a superinteligência digital.”).
Raphael Milliere, professor associado da Universidade de Oxford, disse a Kelly que a metáfora pretendia “despertar a percepção pública de como os modelos borderline são humanos e inteligentes”.
Bem, Papa Leo não acredita.
Na segunda-feira, ele publicou sua primeira encíclica, “Magnifica humanitas: Sobre a preservação da pessoa humana na era da inteligência artificial.Tem cerca de 200 páginas, por isso desculpem-me se tiver de confiar em resumos, mas levanta questões que espero que os nossos políticos e líderes empresariais dêem a devida atenção.
As encíclicas parecem ser uma das formas mais elevadas de ensino que um papa pode dar, e é raro que um papa publique uma, por isso é algo que ele leva muito a sério. Como deveria.
A IA, argumenta, é a nova revolução industrial e apela a que a “desarmemos”: “Desarmar a IA significa libertá-la da mentalidade de competição ‘armada’, que hoje não se limita apenas ao contexto militar, mas é também um fenómeno económico e cognitivo.
“A inteligência artificial deve ser desarmada, libertada da lógica que a tornou um instrumento de dominação, exclusão e morte”, afirmou. “Deve estar ao serviço de todos e do bem comum”.
O Papa deixa claro que não é contra a tecnologia em si – “a tecnologia não deve ser vista em si como uma força antagónica à humanidade” – mas a questão é como ela é usada e qual será o impacto nas pessoas. “Por isso não basta apenas regulamentá-lo; é preciso que seja desarmado, acolhedor e acessível”, afirmou.
Ele está particularmente preocupado com o controle da IA e a riqueza que dela advém não deve ser concentrada entre algumas elites:
A IA tende a amplificar o poder daqueles que já possuem recursos económicos, conhecimentos especializados e acesso a dados. Grupos pequenos mas poderosos podem moldar os padrões de informação e consumo, influenciar os processos democráticos e orientar a dinâmica económica a seu favor, minando a justiça social e a solidariedade entre as nações.
E observa: “Uma sociedade que garante emprego apenas a uma pequena parte da população, apesar de ter um elevado nível de desenvolvimento técnico, corre o risco de expor muitos à inatividade forçada. Isto cria um paradoxo de progresso material e regressão antropológica que mina os fundamentos de uma paz social justa e estável”.
Marx e Engels teriam reconhecido isto, embora talvez não a metáfora do “computador de carne”.
O Papa repudia implícita mas firmemente a metáfora da carne do computador:
Construir para o bem comum significa aceitar as limitações e fragilidades da humanidade sem considerá-las como falhas a corrigir… Devemos evitar o equívoco de equiparar este tipo de “inteligência” com a do ser humano. Estes sistemas simplesmente imitam certas funções da inteligência humana. Ao fazê-lo, ultrapassam frequentemente a inteligência humana em velocidade e capacidade computacional, oferecendo benefícios tangíveis em muitas áreas. No entanto, este poder permanece inteiramente ligado ao processamento de dados.
O Papa apresenta a nossa escolha com uma referência bíblica à Babilónia ou a Jerusalém: “A escolha principal não é entre sim ou não à tecnologia, mas antes entre construir Babilónia ou reconstruir Jerusalém; entre um poder que afirma dominar os céus e um povo que trabalha em conjunto na presença de Deus para reconstruir os muros da coexistência fraterna”.
Sua escolha é clara:
Devemos, portanto, evitar a “Síndrome de Babilónia”, nomeadamente a idolatria do lucro que sacrifica os fracos, a uniformidade que neutraliza as diferenças e a pretensão de que uma única linguagem – mesmo digital – pode traduzir tudo, incluindo o mistério da personalidade, em dados e eficiência.
O papa foi acompanhado no lançamento por Christopher Ola, cofundador da Anthropic. Ola disse: “Hoje é apenas o começo – o início de uma longa colaboração entre aqueles de nós que estão construindo isso e aqueles que podem ver o que nós, por dentro, não podemos”. Ele acrescentou: “Precisamos de críticos informados para informar aos laboratórios quando estamos falhando. Precisamos de vozes morais que os incentivos não possam mudar”.
“Leo vê o desafio da IA como escolhas sobre o seu design e sobre quem pode fazer essas escolhas”, Vincent Miller, professor de teologia na Universidade de Dayton, em Ohio. disse O Wall Street Journal.
Não é de surpreender que o Papa aborde diretamente o uso da IA em operações militares. “O julgamento moral não pode ser reduzido à calculabilidade porque envolve consciência, responsabilidade pessoal e o reconhecimento do outro como pessoa”, escreveu ele. “Portanto, não é permitido confiar decisões letais ou de outra forma irreversíveis a sistemas artificiais”.
Ele também está preocupado com seu uso na política e seu potencial impacto nas crianças. E ele chama nossos dados de “os novos elementos de poder de terras raras”, alertando:
É aqui que reside um dos desafios morais mais prementes do nosso tempo: garantir que o conhecimento partilhado se torne um genuíno bem comum e não um instrumento de dominação. Isto requer devolver aos indivíduos não apenas os dados que os descrevem, mas também a capacidade de decidir como são utilizados, por quem e em benefício de quem.
O Papa adverte: “São necessários quadros jurídicos estáveis, supervisão independente, consumidores informados e um sistema político que não abdique da sua responsabilidade”. Precisaremos de mais do que “esperança e orações” para que isso aconteça.
À luz da recente troca verbal, mal posso esperar para ver como o Presidente Trump responderá. Na verdade, Anna Rowlands, uma teóloga britânica que esteve entre as apresentadoras da encíclica, disse: “Acho que o perigo para o público americano é que tudo se trate de algum drama entre Trump e Leo.” No entanto, ela acrescentou: “É claro que haverá perguntas que podem ser feitas sobre os EUA quando você ler esta seção sobre poder, mas também há perguntas sobre outros líderes mundiais e a própria indústria tecnológica”.
É maior que Trump, maior que os EUA, maior que a tecnologia.
O Papa não tem todas as respostas e provavelmente nem sequer levanta todas as questões certas. Mas ele lançou o desafio com algumas preocupações muito específicas, e cabe a todos nós, PCs, entendê-las e agir de acordo com elas.
Kim é um ex-executivo de marketing eletrônico em um grande plano do Blues, editor recentemente e lamentou Tintura.ioe agora um contribuidor regular do THCB
