Orientar la inteligencia artificial a una comunicación humana
Salvatore Cernuzio – Vatican News
Fake news y deep fakes, echo chambers, machine learning, social media. Nuevas herramientas, nuevos canales, nuevas oportunidades pero, al mismo tiempo, nuevas "patologías" y trampas, especialmente para el campo de la comunicación, que corre el riesgo de acabar sometido a la "contaminación cognitiva", es decir, a la alteración de la realidad a través de narraciones falsas, mensajes de voz falsos y fotografías falsas (incluso el Papa ha sido objeto de esto), o a la anulación del valioso papel de los reporteros sobre el terreno, especialmente en escenarios de guerra.
El Papa Francisco vuelve a reflexionar sobre la IA en su Mensaje sobre el tema Inteligencia artificial y sabiduría del corazón: por una comunicación plenamente humana que firmó en San Juan de Letrán el 24 de enero, fiesta de San Francisco de Sales, patrono de los periodistas. El Pontífice mira con admiración y preocupación la evolución de los sistemas que están "modificando radicalmente incluso la información y la comunicación" y, "algunos de los fundamentos de la convivencia civil".
La importancia de los reporteros
El Papa reflexiona en particular sobre el mundo del periodismo, la información sobre las guerras y esa "guerra paralela" a través de las campañas de desinformación. "Cuántos reporteros son heridos o mueren sobre el terreno para permitirnos ver lo que han visto sus ojos", escribe Francisco, "sólo tocando con las manos el sufrimiento de niños, mujeres y hombres, se puede comprender lo absurdo de las guerras."
El Papa reflexiona en particular sobre el mundo del periodismo, la información sobre las guerras y esa "guerra paralela" a través de las campañas de desinformación. "Cuántos reporteros son heridos o mueren sobre el terreno para permitirnos ver lo que han visto sus ojos", escribe Francisco, "sólo tocando con las manos el sufrimiento de niños, mujeres y hombres, se puede comprender lo absurdo de las guerras."
No endurecerse ante lo nuevo, sino permanecer sensibles a lo que no es humano
Ante la acelerada difusión de "inventos maravillosos" que suscitan "un asombro que oscila entre el entusiasmo y la desorientación", el Papa invita a preguntarse: "¿Cómo permanecer plenamente humanos y orientar hacia el bien el cambio cultural en curso?".
Mientras tanto, "hay que despejar el terreno de lecturas catastrofistas y de sus efectos paralizantes"; por tanto, como dice Romano Guardini, "no hay que endurecerse contra lo 'nuevo' para intentar preservar un mundo bello condenado a desaparecer". Al mismo tiempo, sin embargo, hay que permanecer "sensibles" a todo lo que es "destructivo" y "no humano". Es decir, hay que recomenzar desde el corazón "en esta época que corre el riesgo de ser rica en tecnología y pobre en humanidad". Necesitamos sabiduría, prosigue Francisco, y no podemos exigírsela a las máquinas.
El peligro de las fake news
Es una antigua tentación del hombre "llegar a ser como Dios sin Dios". Y "toda extensión técnica del hombre puede ser instrumento de servicio amoroso o de dominación hostil", subraya el Papa.
Pero también pueden ser instrumentos de "contaminación cognitiva", es decir, aquellas fake news que se sirven del deep fake, de la "creación" y "difusión de imágenes que parecen perfectamente verosímiles pero que son falsas (a mí también me ha pasado)", o de "mensajes de audio que utilizan la voz de una persona diciendo cosas que esa misma persona nunca ha dicho". La simulación en su base "se vuelve perversa cuando distorsiona la relación con los demás y con la realidad", advierte el Pontífice.
Oportunidades y riesgos de los social
El Papa también se detiene en las redes sociales, que son "herramientas que en las manos equivocadas podrían abrir escenarios negativos". "Como todo lo que ha salido de la mente y de las manos del hombre, también los algoritmos no son neutros", señala Francisco, y pide una "acción preventiva", proponiendo modelos de regulación ética. El llamamiento se dirige de nuevo a la comunidad internacional para que formule "un tratado internacional vinculante que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas".
"La revolución digital puede hacernos más libres", añade el Pontífice, subrayando que, sin embargo, "no es aceptable que el uso de la inteligencia artificial conduzca a un pensamiento anónimo, a un ensamblaje de datos no certificados, a una irresponsabilidad editorial colectiva". La representación de la realidad en big data corre el riesgo de "dañar nuestra misma humanidad".
Preguntas cruciales
De ahí una serie de preguntas para reflexionar sobre el presente y el futuro, punto central de todo el Mensaje pontificio:
¿Cómo proteger la profesionalidad y la dignidad de los trabajadores del ámbito de la comunicación y la información, junto con la de los usuarios de todo el mundo? ¿Cómo garantizar la interoperabilidad de las plataformas? ¿Cómo garantizar que las empresas que desarrollan plataformas digitales asuman la responsabilidad de lo que difunden y de lo cual obtienen beneficios, del mismo modo que los editores de los medios de comunicación tradicionales? ¿Cómo hacer más transparentes los criterios en los que se basan los algoritmos de indexación y desindexación y los motores de búsqueda, capaces de exaltar o cancelar personas y opiniones, historias y culturas?
Una vez más, el Papa pregunta:
¿Cómo garantizar la transparencia de los procesos de información? ¿Cómo hacer evidente la autoría de los escritos y rastreables las fuentes, evitando el manto del anonimato? ¿Cómo poner de manifiesto si una imagen o un vídeo retratan un acontecimiento o lo simulan? ¿Cómo evitar que las fuentes se reduzcan a un pensamiento único, elaborado algorítmicamente? ¿Y cómo fomentar, en cambio, un entorno que preserve el pluralismo y represente la complejidad de la realidad? ¿Cómo hacer sostenible esta herramienta potente, costosa y de alto consumo energético? ¿Cómo hacerla accesible también a los países en desarrollo?
Nuevas esclavitudes y conquistas de la libertad
A partir de las respuestas a estas preguntas, "entenderemos si la inteligencia artificial acabará construyendo nuevas castas basadas en el dominio de la información, generando nuevas formas de explotación y desigualdad" o, insiste Francisco, si "traerá más igualdad", promoviendo una información correcta y una mayor conciencia del paso del tiempo.
La respuesta no está escrita, depende de nosotros: "Depende del hombre decidir si se convierte en alimento de algoritmos o si alimenta su corazón con libertad".
Gracias por haber leído este artículo. Si desea mantenerse actualizado, suscríbase al boletín pulsando aquí
