Inteligência artificial: também um algoritmo precisa de ética

Michele Raviart - Cidade do Vaticano

"As decisões, também as mais importantes, como as das áreas médica, econômica ou social, são hoje o resultado do querer humano e de uma série de contribuições algorítmicas". A "vida humana", portanto, "encontra-se no ponto de convergência entre a contribuição verdadeiramente humana e o cálculo automático, de modo que é cada vez mais complexo compreender seu objeto, prever seus efeitos, definir suas responsabilidades".

Para o presidente da Pontifícia Academia para a Vida, Dom Vincenzo Paglia, esses são os aspectos críticos da relação entre homem e tecnologia, tema do workshop “O bom algoritmo? Inteligência artificial: ética, leis, saúde", apresentado nesta terça-feira na Sala de imprensa da Santa Sé.

Um compromisso pelo futuro

Serão três dias de conferências no Vaticano, com a participação de acadêmicos, cientistas e engenheiros de empresas multinacionais de tecnologia que culminarão, em 28 de fevereiro com a assinatura no Auditório da Via Conciliação de um "call for ethics”, um texto compartilhado sobre relação entre ética e tecnologia, que servirá como guia para as futuras evoluções do setor e que será apresentada ao Papa Francisco.

A quarta revolução industrial

Naquela que pode ser definida como uma "quarta revolução industrial", depois daquela do vapor, da eletricidade e da automação, a era da inteligência artificial implica que, com base nos dados e algoritmos que dela derivam, seja a própria tecnologia a ter capacidades preditivas sobre atividades humanas.

Ao simular o que as pessoas fariam - explica o padre Paolo Benanti, professor da Pontifícia Academia da Vida - os algoritmos podem escolher quais tratamentos são melhores para um paciente, mas também quais são as pessoas com maior probabilidade de pagar um empréstimo concedido por um banco, assim como encontrar a pessoa com maiores afinidades para um relacionamento afetivo.

Problemas que não podem ser resolvidos por computadores

"Se, com um computador podemos transformar os problemas humanos em estatísticas, gráficos e equações -  explica ainda padre Benanti - criamos a ilusão de que esses problemas possam ser resolvidos com o computador". Não é assim, porque "quando ele faz escolhas, o ser humano conhece uma qualificação profunda e radical de suas ações: o bem e o mal".

A própria medicina, explica por sua vez Maria Chiara Carrozza, docente de bioengenharia industrial na Escola Secundária Sant'Anna em Pisa, "é uma prerrogativa humana", na qual a inteligência artificial pode ser um apoio ao profissional, mas não pode representar um elemento de possível desresponsabilização do médico.”

O "Algor-ético"

"Os algoritmos - reitera padre Benanti - devem incluir valores éticos e não apenas numéricos". Uma espécie de "algor-ético" exigido pelas próprias empresas. De fato, foi a própria Microsoft - explica Dom Vincenzo Paglia - que pediu à Pontifícia Academia da Vida um encontro desse tipo, seguida pela IBM e por outras multinacionais.

Essas empresas - explica ele ao Vatican News - "estão bem conscientes de que grande parte de seus responsáveis são todos engenheiros" e a deles é uma "perspectiva tecnológica e tecnocrática, certamente não ética. Eles, no entanto, sentiram a urgência de serem acompanhados”. Disto que nasce, portanto, a exigência de "uma mesa ideal em torno da qual certamente existam engenheiros, mas também políticos, economistas, filósofos, representantes de religiões. Indispensável para que se possa seguir um percurso humano rtambém na tecnologia.”