El papa León XIV advierte sobre los riesgos de la IA y su control en pocas manos

El papa León XIV advierte que la inteligencia artificial “no es neutral” y alerta sobre su concentración en pocas manos

El papa León XIV ha lanzado una importante advertencia sobre los riesgos y desafíos que plantea la inteligencia artificial (IA) en su primera encíclica, Magnifica Humanitas. En este documento, presentado oficialmente en el Vaticano, el pontífice destaca la necesidad de garantizar la dignidad humana en plena era digital y subraya el peligro de que el control de esta tecnología se concentre en unos pocos actores.

Un llamado a la justicia social en la era digital

León XIV, reconocido por su formación en matemáticas y derecho canónico, utiliza su primera gran encíclica para actualizar la Doctrina Social de la Iglesia frente a la revolución de la inteligencia artificial. Inspirándose en la histórica Rerum Novarum de León XIII, el papa propone un “orden social justo en la era digital”, apoyado en marcos legales adecuados, reglas equitativas y mecanismos de protección efectivos.

Según el texto, las innovaciones tecnológicas, incluida la IA, “no son neutrales”; pueden servir tanto para promover la participación y la justicia social como para aumentar las desigualdades, el control y la exclusión. El pontífice advierte sobre usos “evidentemente antihumanos” de la IA, entre los que destaca la manipulación informativa y la violación de la privacidad. También señala que, aunque muchos sistemas se presentan como objetivos, suelen reflejar los prejuicios y las ideologías de quienes los diseñan.

Concentración de poder y riesgos para la democracia

El papa enfatiza que el desarrollo de la IA y otras tecnologías digitales está en manos de unas pocas empresas y plataformas, las cuales definen las condiciones de acceso, las reglas de visibilidad y las oportunidades económicas. Cuando tanto poder se concentra en pocas manos, advierte León XIV, aumenta la opacidad, se dificulta el control público y se incrementa el riesgo de desigualdades, manipulaciones y nuevas formas de dependencia.

Para mitigar estos peligros, León XIV insta a los estados y organismos internacionales a establecer normas justas y mecanismos de protección, de modo que comunidades locales, instituciones educativas, organizaciones sociales y la propia Iglesia puedan participar activamente en la toma de decisiones que afectan a la vida cotidiana: empleo, acceso a servicios, gestión de datos y relaciones digitales.

Protección de los más vulnerables y responsabilidad de los desarrolladores

El documento subraya la importancia de garantizar un acceso igualitario a las oportunidades tecnológicas, protegiendo especialmente a los niños, los jóvenes y los colectivos más vulnerables. León XIV hace un llamado a contrarrestar el odio y la desinformación en los entornos digitales, y a someter el uso de los datos y la tecnología a control público, priorizando la dignidad humana por encima del beneficio económico.

Además, destaca los riesgos de la IA en la interacción social, advirtiendo que la simulación artificial de la empatía o la amistad puede inducir a error, especialmente entre usuarios poco informados, generando la falsa percepción de estar interactuando con una persona real.

• El pontífice reclama responsabilidades claras para los desarrolladores de IA.
• Exige marcos legales, vigilancia independiente y educación para los usuarios.
• Subraya la necesidad de una política activa que evite que el cambio tecnológico quede solo en manos de lógicas tecnocráticas.

Impacto en los jóvenes y riesgos de la adicción digital

León XIV alerta sobre los riesgos de un acceso prematuro a dispositivos móviles por parte de los jóvenes, especialmente sin supervisión adulta, lo que puede aumentar la vulnerabilidad ante el aislamiento, el acoso, la presión para compartir información íntima y las adicciones digitales. Por ello, solicita límites de edad y una mayor responsabilidad por parte de los proveedores de tecnología.

La inteligencia artificial y el mundo laboral

En el ámbito laboral, el papa señala que la introducción de la IA puede tener efectos adversos, como la desespecialización, la vigilancia automatizada y la relegación de trabajadores a tareas repetitivas. Propone que cualquier automatización o implementación de IA se acompañe de medidas verificables de protección del empleo, recualificación y participación de los trabajadores, orientando la tecnología a liberar y potenciar las capacidades humanas, no a profundizar la exclusión.

Ética y límites en el uso militar de la IA

El papa León XIV se pronuncia firmemente contra el uso de la inteligencia artificial en conflictos bélicos, afirmando que “no existe algoritmo que pueda hacer moralmente aceptable la guerra”. Denuncia que la IA puede reducir a las víctimas a simples datos y contribuir a la deshumanización de los conflictos armados.

La encíclica dedica un apartado a la “cultura del poder”, donde se critica la transformación de la naturaleza de los conflictos por la revolución digital. Además de la guerra convencional, surgen nuevas formas híbridas como los ciberataques, la manipulación informativa y la automatización de decisiones estratégicas. La IA, según el papa, puede tanto proteger como aumentar el riesgo de un uso indiscriminado de la fuerza y dificultar la atribución de responsabilidades.

• El documento denuncia la estrecha relación entre intereses económicos, militares y políticos en el desarrollo de tecnologías avanzadas.
• Advierte sobre la proliferación de armas basadas en IA y la urgencia de someter su desarrollo a las más estrictas restricciones éticas.
• Reclama reglas internacionales que detengan la carrera armamentística tecnológica y protejan a los civiles.

El ciberespacio como nuevo terreno de confrontación

La encíclica señala que el ciberespacio se ha convertido en un escenario central de disputas, donde los ciberataques, la manipulación de datos y las campañas de influencia pueden desestabilizar países enteros antes de que estalle la violencia armada. Ante este panorama, León XIV subraya la necesidad de establecer normas internacionales compartidas que regulen el uso de tecnologías emergentes y aseguren la protección de los derechos fundamentales.

Conclusión: Priorizar la dignidad humana frente al avance tecnológico

A través de Magnifica Humanitas, el papa León XIV realiza un llamado contundente a la responsabilidad colectiva en el desarrollo y uso de la inteligencia artificial. Insiste en que el avance tecnológico debe estar al servicio de la justicia social, la inclusión y la protección de la dignidad humana, y no convertirse en un instrumento de concentración de poder, exclusión o manipulación. La Iglesia Católica, concluye el pontífice, seguirá promoviendo la reflexión ética y el debate público ante los desafíos de la era digital.