Benanti: que a Inteligência Artificial esteja a serviço do bem comum

Alessandro Gisotti

Muitos falam sobre isso, muitos começaram a usá-la, mas poucos ainda entendem o que é e principalmente quais podem ser suas consequências na vida humana. Estamos falando de Inteligência Artificial, que aparece cada vez mais como a grande inovação tecnológica do nosso tempo. Para alguns, melhorará a vida de todos; para outros, conduzirá à catástrofe do ser humano. Entretanto, o seu valor econômico cresce exponencialmente e os governos tentam regulá-la com muitas dificuldades, dada a velocidade com que estas "máquinas inteligentes" se tornam cada vez mais poderosas. Um dos maiores especialistas no assunto é o padre Paolo Benanti, teólogo e filósofo, franciscano da Terceira Ordem Regular. Em outubro, o secretário-geral das Nações Unidas, António Guterres, o convocou para integrar o Comitê de Especialistas em Inteligência Artificial (IA) da ONU, que se reuniu nos últimos dias na sede da ONU, em Nova Iorque. Nesta entrevista à mídia vaticana, Benanti se detém nos aspectos éticos e também tecnológicos da IA ​​e indica a contribuição que a Igreja, "especialista em humanidade", pode dar ao debate sobre Inteligência Artificial.

Hoje em dia todo mundo fala sobre a Inteligência Artificial. Na linguagem comum, quase se tornou um mantra: "A Inteligência Artificial cuidará disso". Mas, estamos realmente diante uma realidade que, como dizem alguns, terá um impacto maior na humanidade do que a da Revolução Industrial?​

Na verdade, há uma certa inflação do termo “revolução”. Gostamos de pensar que muitas coisas são revolucionárias, no sentido de que mudam tudo. Deste ponto de vista eu diria que em vez de termos uma verdadeira revolução pela frente, temos uma evolução da Revolução Industrial. A Revolução Industrial foi caracterizada como um sistema para substituir algumas tarefas realizadas pelo homem por máquinas. O início da Revolução Industrial substituiu a força muscular; hoje gostaríamos de substituir um pouco o que é a capacidade cognitiva do homem. A máquina imita tudo isso muito bem; é muito capaz de ter um objetivo e, no entanto, esta máquina ainda é uma imitação e não tem consciência própria, vontade própria. Portanto, revolução é um termo demasiado forte. É uma evolução dessa automação. No entanto, o que deve ficar claro de imediato é que os efeitos que pode ter no impacto social podem ser “revolucionários”. Se a primeira Revolução Industrial impactou os trabalhadores de colarinho azul, tornando-os menos necessários no processo de produção, a Inteligência Artificial pode impactar e impactará os trabalhadores de colarinho branco, ou seja, os trabalhos que formam a classe média, e se não a gerenciarmos de acordo com critérios que também sejam critérios de justiça social, os efeitos poderão ser realmente devastadores ou, pelo menos, muito fortes na capacidade de coesão dos Estados democráticos.

Um grande cientista, o astrofísico Stephen Hawking, disse há alguns anos que o sucesso da Inteligência Artificial pode ser o maior evento da história da humanidade, mas, se não evitarmos os riscos, também poderá acabar com a humanidade. Quais devem ser as etapas corretas para um desenvolvimento que não tenha consequências destrutivas?

Eu diria, com base também numa reflexão que é própria da Doutrina Social da Igreja, que é preciso distinguir bem entre inovação e desenvolvimento para responder a essa pergunta. Inovação ou progresso tecnológico é a capacidade de fazer algo de maneira cada vez mais eficiente e cada vez mais forte. Pensemos num âmbito negativo, mas infelizmente cotidiano, como a guerra. Um revólver, uma metralhadora, uma bomba, uma bomba atômica, são alguns pontos de uma inovação bélica. No entanto, ninguém acha que a bomba atômica seja melhor ou mais legal que o revólver. Em vez disso, o desenvolvimento é o que pega a inovação tecnológica e a transforma em algo que também visa ao bem social, ao bem comum.

Todas as inovações tecnológicas trazem consigo questões éticas. Com a Inteligência Artificial, essas questões parecem muito mais complexas do que no passado. Por quê?

Os ingleses, quando falam dessas máquinas, usam um termo que é difícil de traduzir para o italiano porque está repleto, talvez, de outros significados. Essas máquinas têm um tipo de agency, em que poderíamos traduzir agency com uma série de palavras: a capacidade de se adaptar aos contextos para atingir os objetivos. Mas, como sempre, o fim não justifica os meios! Portanto, a máquina que, até certo ponto, pode determinar quais meios são mais apropriados para atingir seu objetivo, é uma máquina que, por sua natureza, precisa de "proteções éticas" muito amplas, porque justamente o fim não justifica os meios.

A Inteligência Artificial poderia fazer perguntas éticas a si mesma e encontrar respostas, ou essa dimensão moral sempre permanecerá reservada aos seres humanos?

Não. Apesar do que alguns filmes de ficção científica podem nos fazer pensar, a consciência não é algo que pertence à máquina. Portanto, não há subjetividade que se questione a si mesma ou que questione o mundo. É uma máquina que executa tarefas. Ela recebe comandos do homem, como o pequeno robô que pode limpar a casa, então eu lhe digo: "Limpe a casa", e ela adapta os meios usando o aspirador de pó. Encontra um obstáculo, volta. Isso acontece quando ela talvez encontra as escadas, todas as coisas relacionadas a esse fim. Portanto, essa parte, o "novo controle" da Inteligência Artificial, ou seja, a escolha dos fins apropriados, deve e só pode estar nas mãos do ser humano. Isso não diminui o fato de que dar comandos à máquina sem pensar muito, sem fazer as perguntas certas, pode levar a resultados catastróficos, mesmo sem a presença de uma máquina consciente.

ChatGpt, a ferramenta de inteligência artificial mais “popular”, completou um ano recentemente. Para alguns é pouco mais que um brinquedo, para outros já nos dá a ideia das mudanças que pode trazer para as nossas vidas. Qual é a sua avaliação?

O sucesso que o ChatGpt teve é ​​impressionante. Foi o aplicativo mais baixado de todos os tempos. Foi o aplicativo que invadiu nosso cotidiano digital. Se por um lado isto nos diz o quanto a Inteligência Artificial nos fascina, por outro também nos expõe ao risco de uma má compreensão, porque o ChatGpt nasceu não como um produto industrial destinado a ser utilizado para alguma coisa, mas como uma espécie da grande demo (versão de demonstração de um programa ndr.) que esta empresa, OpenAI, abriu ao público para mostrar a potência do que estava desenvolvendo. ChatGpt é simplesmente uma expansão de outros produtos chamados Gpt, sem “Chat” na frente, que são grandes modelos linguísticos, ou seja, são máquinas que trabalharam com enormes quantidades de texto - apropriadamente cortados em pequenas partes que são chamadas de “parâmetros” e a partir disso elas determinaram, até certo ponto, estatisticamente o quão bem as palavras se encaixam. Portanto, ChatGpt é um sistema pelo qual, dada uma frase de input, produz um texto de output. Mas este texto é refinado com a interação de muitos homens que - infelizmente, mal pagos em partes muito pobres do mundo - começaram a responder a esta máquina e a "dizer" à máquina quais eram as melhores e piores respostas entre as que fornecia. A maioria das pessoas infelizmente, quando o ChatGpt chegou, não o entendeu desta forma, ou seja, uma demonstração de alguém que responde a qualquer pergunta que fosse feita, mas como um verdadeiro mecanismo de busca, pedindo informações ao sistema ou confiando no que ele dizia.

Então, esse mal-entendido sobre o instrumento ChatGpt que problemas poderiam gerar?

Isso leva a grandes erros, porque a máquina é feita de tal forma que o texto tem que sair da minha pergunta de entrada, mas esse texto não é absolutamente verificado quanto aos fatos. Se o ChatGpt produz um texto tão bonito, não é dito que produza conteúdos que sejam reais. É aí que reside todo a potencialidade e o risco da máquina. A potencialidade é a de ter finalmente um instrumento que lida com a língua de uma forma muito poderosa. A limitação é que não entendemos que essa é uma espécie de grande demo e não um instrumento definitivo, e confiamos em uma máquina para coisas que não têm nenhum valor. Nunca pergunte a essa máquina como curar uma doença!

Há anos se fala em um digital divide que separa as nações mais avançadas tecnologicamente das nações em desenvolvimento. Com a inteligência artificial, essa divisão não corre o risco de aumentar, deixando ainda mais para trás as nações que já estão lutando para se afirmar em um mundo e uma economia cada vez mais globalizados?

Com certeza. A inteligência artificial pode funcionar como um multiplicador. Onde ela encontra riqueza e um tecido com muitos recursos, ela pode multiplicá-los. Onde ela encontra, de fato, não um sinal de mais, mas um sinal de menos, ela pode marcar esse sinal de menos, principalmente porque esses sistemas - por mais globais que sejam - são prerrogativas e de propriedade de pouquíssimas empresas globais. No momento, as grandes inovações em inteligência artificial estão sendo feitas por nove empresas globais, todas com uma capitalização superior ao trilhão de dólares. Para colocar isso em perspectiva, todo o PIB da Grã-Bretanha é de 3,3 trilhões, portanto, estamos falando de números surpreendentes. Em resumo, não é um produto difundido, não é algo a que todos possam chegar. Há um risco crescente de uma forma de dependência de um número muito pequeno de monopolistas. Outro elemento a ser considerado nesse balanço é o "custo oculto" dessas tecnologias, que são feitas em computadores baseados em terras raras e outros materiais que têm um custo ambiental muito alto e consomem muita energia. Portanto, embora seja bom nos questionarmos e nos perguntarmos o que significam as maravilhas dessas máquinas, também não podemos esquecer que elas têm um lado muito menos visível, mas muito mais caro em termos de igualdade, custos ambientais e de energia, que devem ser levados em conta para que não se tornem uma despesa que vão pagar as nações mais pobres do mundo.

Os governos estão adotando regulamentações sobre a Inteligência Artificial, e as Nações Unidas também estão tratando do assunto. O senhor foi nomeado pelo secretário geral da ONU para fazer parte de um comitê de 39 especialistas que lidam com Inteligência Artificial. Quais são as tarefas desse organismo?

Como o título desse órgão de trabalho diz, é um comitê para aconselhar o secretário geral da ONU. O que nos pedem é, em primeiro lugar, que façamos uma fotografia do que está ocorrendo com essa forma de inovação e que o façamos de maneira muito equilibrada. Em primeiro lugar, devemos fazer uma fotografia dos grandes benefícios que essas tecnologias podem trazer para a humanidade. Pensemos no aumento da capacidade de cura, nas oportunidades em que se podem criar novas formas de riqueza. Mas também somos solicitados a avaliar os riscos, não apenas por causa das desigualdades que podem aumentar, mas porque, especialmente nas formas mais recentes de Inteligência Artificial, como a que mencionamos anteriormente - ChatGpt -, temos uma máquina capaz de "narrar", capaz de contar histórias, e as histórias podem ajudar a formar a opinião pública. Portanto, essa máquina pode ser usada para fins que não são exatamente positivos, como aumentar o ódio social ou criar inimigos onde não existem. Uma máquina que pode influenciar tanto a opinião pública é claramente uma máquina que deve ser observada com muito cuidado, especialmente por aqueles órgãos que desejam colaborar com a paz global ou com o desenvolvimento equitativo. A tarefa do comitê da ONU é, então, também oferecer uma possível moldura dentro da qual acordos internacionais possam ser buscados com base em plataformas de valores que possam ajudar a ser uma forma de desenvolvimento e não simplesmente uma forma de lucro para poucos.

A Igreja não se esquiva do debate sobre a Inteligência Artificial. Isso também é demonstrado por seu compromisso pessoal. A Santa Sé também está trabalhando nessa fronteira em várias áreas. As próximas mensagens do Papa para o Dia Mundial da Paz e para o Dia das Comunicações Sociais terão a Inteligência Artificial como tema. Qual é a contribuição mais importante que a Igreja pode dar?

A Igreja se entende como uma "especialista em humanidade". É uma instituição que, como tal, está presente em toda parte. Recolher e oferecer o que é a vida do homem de hoje em todas as suas grandes aspirações, seus sonhos, mas também em suas fragilidades e medos, é o primeiro terreno fértil sobre o qual a Igreja oferece reflexão ao mundo inteiro. Desde 2020, o tema tem habitado e tocado as reflexões da Santa Sé de muitas maneiras. É claro que, como todos os grandes temas, também precisa amadurecer nesse encontro com essa riqueza de humanidade que vem de baixo, da presença pastoral e dessa capacidade de reflexão também ligada ao Evangelho e à reflexão teológica. Essa grande atenção chega em um momento em que o Santo Padre quis dar grande destaque a certos temas globais, como o cuidado com a Casa Comum e a fraternidade. O cuidado com a Casa Comum e a fraternidade poderiam ser duas das grandes perspectivas em que a Igreja traz sua contribuição única, original e positiva para esse debate. Não é apenas a contribuição política que é necessária, não é apenas a contribuição industrial. Essa contribuição da humanidade, de uma humanidade que se encontra vivendo em um ambiente, em uma casa que é o nosso planeta, e que se encontra vivendo como irmãos, é uma contribuição de "humanização" da Inteligência Artificial, ou seja, de transformar o progresso em autêntico desenvolvimento humano, que é tão necessário hoje.