Santa Sé sobre armas autônomas: as máquinas não podem ter última a palavra sobre as pessoas

Vatican News

A guerra tem uma “natureza fundamentalmente desumana” e “o objetivo último, aquele que é digno da vocação do homem e da civilização humana, é a abolição da guerra”, afirma o observador permanente da Santa Sé nas Nações Unidas e outras organizações internacionais em Genebra, arcebispo Ettore Balestrero.

O núncio reiterou esta firme convicção da Santa Sé na segunda-feira, 4 de março, durante a troca geral de opiniões do Grupo de Peritos Governamentais (GGE) 2024 sobre Tecnologias Emergentes no setor de Sistemas de Armas Autônomas Letais (LAWS). O seu discurso se articulou a partir da Mensagem do Papa Francisco para o Dia Mundial da Paz de 2024.

Em particular, Balestrero reiterou a passagem em que o Pontífice afirma: “A pesquisa sobre as tecnologias emergentes no setor dos chamados «sistemas de armas letais autónomas», incluindo a utilização bélica da inteligência artificial, é um grave motivo de preocupação ética. Visto que conflitos e divisões continuam a atingir a humanidade, não podem ser evitadas sérias interrogações éticas relacionadas ao setor dos armamentos.”

Uma máquina, por mais “inteligente” que seja, continua sendo uma máquina

“A urgência desta questão está aumentando devido ao desenvolvimento e utilização generalizada de drones armados, incluindo drones kamikaze e em enxames”, o que levou a “uma menos percepção da devastação por eles causada e da responsabilidade pela sua utilização, contribuindo para uma abordagem ainda mais fria e distanciada da imensa tragédia da guerra", observou o representante pontifício.

“Os sistemas de armas autônomos não podem ser considerados sujeitos moralmente responsáveis”, acrescentou. De fato, “os seres humanos possuem uma capacidade única de juízo moral e de decisões éticas que não pode ser replicada por um conjunto complexo de algoritmos”; em vez disso, "uma máquina, embora sendo 'inteligente', continua a ser uma máquina".

O risco é real, alerta o arcebispo: “Se operarem sem supervisão humana direta, tais sistemas podem cometer erros na identificação dos alvos pretendidos devido a preconceitos não identificados induzidos pelas suas capacidades de aprendizagem automática”. E faz um apelo a uma “adequada, significativa e constante supervisão humana dos sistemas de armas dotados de funções de inteligência artificial”. Uma questão “crucial”.

A dignidade da pessoa e uma cultura de paz

As máquinas, acrescentou o observador permanente, “sendo objetos e não sujeitos, não podem realmente pensar, sentir, decidir ou ser considerados responsáveis pelas suas ações. Podem somente executar instruções e simular comportamentos humanos. Portanto, é incorreto dizer que as máquinas possam ‘decidir’ ou ‘julgar’.” Em suma, por outras palavras, “apesar da sua complexidade, as máquinas não podem ter a última palavra sobre os seres humanos!”.

Para a Santa Sé, é portanto urgente que o Grupo de Peritos Governamentais trabalhe “especificamente no campo das proibições e das regulamentações dos sistemas de armas com base no seu grau de autonomia”, mantendo firmemente no centro das deliberações “a referência fundamental à dignidade da pessoa humana”. Neste contexto, uma últiam advertência: “O desenvolvimento de armamentos cada vez mais sofisticados, mesmo com o objetivo de reduzir os danos colaterais, não é uma solução duradoura”, afirmou Balestrero, “assim como qualquer forma de mal, a guerra tem origem no coração humano”.

Portanto, concluiu, “a verdadeira solução está na conversão a uma cultura de paz que coloque os avanços tecnológicos ao serviço da humanidade, do desenvolvimento humano integral e do bem comum”.