Advertencias del Papa sobre la IA están respaldadas por estudios

Este es un artículo original de FactChequeado que puedes leerlo completo aquí.

El papa León XIV publicó Magnifica Humanitas (o “magnífica humanidad”), donde analiza el impacto de la inteligencia artificial en la sociedad. En el documento advierte sobre la concentración de esta tecnología en actores privados, su uso para amplificar desinformación y sus efectos en la vida social, especialmente en niños y jóvenes.

También plantea limitar su uso cuando sea necesario para proteger el pensamiento crítico y evitar que la tecnología desplace decisiones humanas.

1. El control de la IA en pocas manos

El Papa señala que el control de plataformas, datos e infraestructura tecnológica está en manos de grandes actores privados, que definen las condiciones de acceso y visibilidad en el entorno digital.

Advierte que esta concentración puede dificultar el control público, especialmente cuando estas empresas tienen más capacidad que algunos Estados.

Este planteamiento coincide con el libro The Open Future and Its Enemies, donde Paul Nemitz, Mathias Pfeffer y Jürgen Pfeffer describen una concentración de poder sin precedentes en empresas y gobiernos, con potencial para vigilancia y control social.

2. La IA como amplificador de la desinformación

La encíclica señala que la IA no crea la desinformación, pero facilita su difusión masiva mediante la generación de contenidos manipulados, como imágenes, audios y videos.

El AI Index Report 2025 de la Universidad de Stanford identifica este fenómeno como un riesgo creciente, especialmente por el uso de deepfakes en procesos electorales.

En la encíclica, León XIV advierte que la desinformación no surge con la inteligencia artificial, pero encuentra en ella un “potente multiplicador”.

Esto se debe a la capacidad de generar y manipular contenidos —como imágenes, audios y videos— a gran escala y a bajo costo, lo que puede exponer a las personas a información engañosa o parcial.

Esta advertencia coincide con el AI Index Report 2025 de la Universidad de Stanford, que identifica la desinformación como uno de los principales riesgos asociados a la IA, especialmente por el aumento de contenidos sintéticos y deepfakes durante procesos electorales.

3. El impacto en niños y jóvenes

El papa también advierte sobre los efectos de los entornos digitales en el comportamiento y desarrollo de niños y adolescentes.

Señala que el uso intensivo de estas tecnologías puede fomentar una cultura de inmediatez y sobreestimulación, que dificulta el pensamiento crítico y el esfuerzo por buscar información verificada. En esa línea, plantea la necesidad de educar en el uso de la IA, incluyendo la capacidad de decidir cuándo no utilizarla.

Estudios previos han abordado preocupaciones similares. En 2023, el cirujano general de Estados Unidos , Vivek Murthy, reportó que los adolescentes que pasan más de tres horas al día en redes sociales tienen mayor riesgo de desarrollar síntomas de depresión y ansiedad.

4. La tecnología no es neutral

Otro de los puntos centrales de la encíclica es que la inteligencia artificial no es una tecnología neutral.

El papa sostiene que la IA puede tener efectos positivos —como mejorar la salud, la educación o la conectividad—, pero también puede generar desigualdades, sesgos y nuevas formas de exclusión.

Esto ocurre porque los sistemas de IA reflejan los intereses, valores y decisiones de quienes los desarrollan, financian y utilizan.

Investigaciones académicas respaldan esta idea. Un estudio publicado en la revista Science en 2017 concluyó que los algoritmos de aprendizaje automático pueden reproducir sesgos presentes en el lenguaje humano, al entrenarse con datos extraídos de internet.

Debate sobre regulación y uso de la IA

El Papa no plantea rechazar la IA, sino regular su desarrollo. Advierte que, sin control, puede reforzar un modelo centrado en la eficiencia y el lucro.

Este enfoque coincide con debates actuales entre gobiernos, organismos internacionales y expertos sobre cómo regular la inteligencia artificial y reducir sus riesgos.

La encíclica se alinea con estas discusiones al advertir sobre los efectos sociales y políticos de la IA y la necesidad de establecer límites en su desarrollo y uso.