Mensaje de la Paz 2024: el Papa advierte sobre los riesgos de la IA

En su mensaje para la 57ª Jornada Mundial de la Paz, el Papa reflexiona sobre el impacto de la inteligencia artificial en la paz global.

El Papa Francisco considera "notable" el progreso de las nuevas tecnologías de la información, especialmente en el sector digital, pero al mismo tiempo advierte acerca de "graves riesgos": así lo expresa en su mensaje para la 57ª Jornada Mundial de la Paz -que la iglesia celebrará el próximo 1º de enero-, publicado por el Vaticano este juevese y que se centra en el tema de la inteligencia artificial (IA).

El Papa denuncia, en su mensaje, los riesgos de los sistemas de regulación de las “opciones personales” basados en algoritmos, con riesgos de manipulación de individuos y sociedades.

“Estas formas de manipulación o control social requieren una cuidadosa atención y vigilancia, lo que implica una clara responsabilidad jurídica por parte de los productores, de quienes los contratan y de las autoridades gubernamentales”, escribe en un texto titulado 'Inteligencia artificial y paz'.

En una reflexión sobre los sistemas de inteligencia artificial, Francisco observa que son susceptibles de difundir “formas de prejuicios y discriminación”.

“Además, algunas formas de inteligencia artificial parecen a veces capaces de influir en las decisiones de los individuos a través de opciones predeterminadas, asociadas con estímulos y elementos disuasorios”, añade.

El mensaje advierte sobre el “uso invasivo de la vigilancia o la adopción de sistemas de crédito social.

"No se debe permitir que los algoritmos determinen la forma en que entendemos los derechos humanos, dejen de lado los valores esenciales de la compasión, la misericordia y el perdón, o eliminen la posibilidad de que un individuo cambie y deje atrás el pasado”, expresa al respecto.

El Papa señala el impacto de las nuevas tecnologías en el lugar de trabajo y pide a los responsables políticos que promuevan “el respeto por la dignidad de los trabajadores y la importancia del empleo para el bienestar económico de las personas, las familias y las sociedades, la estabilidad de los empleos y la equidad salarial. "

Francisco alude a los retos que plantea para la educación el uso de formas de inteligencia artificial, defendiendo el “fomento del pensamiento crítico”.

“Hablar de 'formas de inteligencia', en plural, puede ayudar sobre todo a poner de relieve la brecha insalvable que existe entre estos sistemas, por sorprendentes y poderosos que sean, y la persona humana”, añade.

El mensaje destaca además la necesidad de establecer organizaciones internacionales que puedan “examinar las cuestiones éticas emergentes y proteger los derechos” de las personas.

“La dignidad intrínseca de cada persona y la fraternidad que nos une como miembros de la única familia humana debe ser la base para el desarrollo de las nuevas tecnologías”, insiste Francisco.

El Papa supone que la inteligencia artificial será “cada vez más importante”, planteando desafíos “no sólo de carácter técnico, sino también antropológico, educativo, social y político”.

“Así, los notables avances en las nuevas tecnologías de la información, especialmente en la esfera digital, presentan oportunidades apasionantes, pero también graves riesgos, con graves implicaciones para la búsqueda de la justicia y la armonía entre los pueblos”, continúa.

“Espero que esta reflexión fomente el progreso en el desarrollo de formas de inteligencia artificial para, en última instancia, servir a la causa de la fraternidad humana y de la paz”, apela Francisco.

La Jornada Mundial de la Paz fue instituida en 1968 por san Pablo VI (1897-1978), y se celebra el primer día de cada año, con un mensaje papal especialmente elaborado para la ocasión.+

» Texto completo del Mensaje para la Jornada Mundial de la Paz 2024