Cardeal Scherer: Inteligência artificial e paz

Cardeal Odilo Pedro Scherer - Arcebispo Metropolitano de São Paulo 

A inteligência artificial, nova maravilha da ciência e da tecnologia, está cada vez mais presente na vida pública e privada. Não há como não reconhecer que a chegada da inteligência artificial representa o início de uma nova etapa no desenvolvimento da humanidade.

Porém, já são muitas as discussões, em diversos níveis de responsabilidade, sobre a inteligência artificial, e ainda não se chegou a definir certos parâmetros mínimos e básicos que sejam aceitos por todos os interessados na sua produção e uso. É inevitável constatar, pela experiência da humanidade, que as melhores invenções humanas acabaram sempre sendo utilizadas com finalidades opostas: para promover o que é bom, ou para promover o mal. Com a inteligência artificial, que traz um potencial enorme de aplicações, o risco de mau uso também é enorme.

Na sua recente mensagem ao mundo no Dia Mundial da Paz, que a Igreja Católica comemora no dia de Ano-Novo, o papa Francisco abordou a questão do ponto de vista da promoção da paz: como a inteligência artificial pode contribuir para a paz no mundo? Francisco manifesta apreço pela ciência e pela tecnologia, atividades que já ajudaram a comunidade humana a desvendar tantos segredos da natureza e a encontrar a solução para inúmeros e grandes desafios na vida cotidiana. Ao mesmo tempo, a ciência e a tecnologia permitem ao homem estabelecer um controle nunca visto antes sobre a natureza e também sobre a convivência humana.

No entanto, a ciência e as inovações da tecnologia, enquanto atividades humanas, não são neutras, mas condicionadas pela cultura, por interesses e intenções na sua produção e no seu uso. A dimensão ética está presente em toda atividade humana, ligada intimamente às decisões e intenções de quem produz e de quem aplica e usa os conhecimentos conquistados. Não é diferente com as diferentes formas e usos da inteligência artificial, capaz de imitar, reproduzir e até criar ações típicas do homem. Mas é preciso lembrar que ela não deixa de ser um mecanismo que executa comandos dados pelo homem. Mesmo que sejam comandos implícitos, frutos de combinação de algoritmos. A máquina não tem senso ético, nem executa ações com responsabilidade subjetiva. A dimensão ética é do sujeito “real” e humano, e não da inteligência “artificial”.

Surgem daí algumas preocupações com o uso da inteligência artificial. Deixaremos que o mundo seja governado por máquinas, com base em cálculos e previsões que os algoritmos vão produzindo? São elas capazes de captar a realidade complexa do mundo das coisas e de as relacionar entre si com base em critérios de liberdade, vontade, decisão, compaixão, arrependimento, amor, solidariedade? Até onde a aplicação da inteligência artificial deve entrar na privacidade das pessoas e interferir nas suas escolhas livres? Seremos nós os futuros autômatos, enquanto as máquinas comandam nossa vida?

Parecem perguntas sem maior importância, mas elas trazem à reflexão questões humanas cruciais, que se referem à dignidade da nossa condição humana. A inteligência artificial poderá, certamente, melhorar muito o grau de eficiência nos processos e sistemas práticos; mas, tratando-se da pessoa humana, até que ponto pode ser privilegiado o critério da eficiência sem que a dignidade da pessoa humana seja ferida? Além disso, a convivência democrática e pacífica pode ser colocada em risco pelo emprego de critérios nada claros, subjacentes a certas escolhas que interessam a toda a coletividade humana.

Francisco manifesta grave preocupação de que essa nova maravilha da tecnologia venha a ser colocada a serviço da guerra e da produção de armamentos sempre mais sofisticados, capazes da promover a destruição e a morte a distância, como se fosse um espetáculo de cinema para ser assistido. E recorda que os sujeitos moralmente responsáveis não são os sistemas autônomos. A responsabilidade é sempre de quem decide sobre as armas (cf. n.° 6). O papa faz um forte apelo à comunidade internacional para que se estabeleçam limites para o uso da inteligência artificial na produção de armamentos e na guerra. Há também o risco de que tais armas venham a cair em mãos erradas, fora de qualquer controle.

A inteligência artificial precisa ser empregada na promoção da paz e do desenvolvimento humano integral, na superação da fome e da pobreza, das doenças, na proteção do ambiente e na produção de alimentos, no desenvolvimento de sistemas que favoreçam a superação da pobreza e o melhor acesso aos recursos necessários à vida com dignidade. Que o uso da inteligência artificial não aumente ainda mais as desigualdades sociais e econômicas entre os povos e os cidadãos. “O objetivo da regulamentação da inteligência artificial não deveria ser apenas a prevenção de más aplicações, mas também o incentivo às boas aplicações” (cf. n.º 8). A inteligência artificial não deve ser vista apenas como uma preocupação, mas também como uma promessa esperançosa. Dependerá de como a usarmos.

Publicado originalmente no jornal O Estado de S. Paulo em 13 de janeiro de 2024