La inteligencia artificial ya no se discute solo en términos técnicos. También se ha convertido en un debate político, moral y cultural.
La primera encíclica de León XIV, Magnifica Humanitas, con su advertencia —«Quien controla la IA impondrá su visión moral»—, lleva esa discusión a una pregunta central: quién define la verdad, quién fija los límites y quién influye en la conciencia colectiva.
Este artículo recorre ese diagnóstico, examina el riesgo del «tecnofascismo» y plantea una tercera vía: mirar la IA como un reflejo de nuestras virtudes y de nuestras fallas.
El núcleo del problema: la IA como infraestructura moral
Para entender la advertencia de León XIV conviene dejar atrás una idea extendida: que la tecnología es neutral. La inteligencia artificial no solo automatiza tareas; también ordena información, prioridades y decisiones. Si las herramientas del pasado ampliaban la fuerza física, la IA amplía la capacidad de procesar, clasificar e influir.
Según la encíclica, la IA se alimenta de grandes volúmenes de datos (big data) y, por eso, puede heredar y amplificar los sesgos de quienes la diseñan. Si el control de estos sistemas se concentra en pocas corporaciones o Estados, su capacidad de influencia crece de forma extraordinaria: pueden marcar qué se considera verdadero, aceptable o prioritario. En ese marco, la IA deja de ser solo una herramienta y pasa a funcionar como una infraestructura con efectos directos sobre la vida pública.
Cuando el juicio se delega
El documento sostiene que la velocidad del desarrollo técnico ya supera la reflexión ética. Cuando se delegan decisiones —desde un diagnóstico médico hasta el filtrado de noticias— en sistemas opacos, también se delega una parte del criterio. La encíclica advierte que, si el algoritmo define qué es «bueno» solo en función de la optimización, la capacidad de elegir por convicción, por empatía o por principios queda debilitada.
Cómo opera el «tecnofascismo»
En este texto, «tecnofascismo» no se refiere a una represión visible o clásica, sino a una forma de control más sutil. No actúa por la fuerza, sino a través de filtros, recomendaciones y arquitecturas digitales que acaban haciendo normales ciertas ideas y ciertos comportamientos.
- Soberanía algorítmica: La IA tiene la capacidad de dirigir el comportamiento humano mediante la arquitectura de elección. Al controlar el flujo de información, el sistema puede empujar (nudge) a las personas hacia ciertas visiones del mundo, haciendo que el usuario crea que actúa por libertad cuando en realidad está siguiendo un camino preconfigurado.
- El fin de la coerción visible: El tecnofascismo no necesita agentes armados si puede moldear el deseo y la percepción del ciudadano desde su teléfono móvil. La conformidad se vuelve voluntaria, lograda a través de una gratificación algorítmica constante.
- Homogeneización del pensamiento: Al centralizar los modelos de IA, se corre el riesgo de imponer una visión moral única que, al ser presentada como «objetiva» o «basada en datos», se vuelve incuestionable.
La tercera vía: la IA como espejo
Frente al catastrofismo y al entusiasmo sin matices, el artículo propone una tercera vía: entender que la IA refleja, con bastante precisión, la calidad moral de quienes la diseñan y la utilizan. Esta mirada no niega el riesgo del «tecnofascismo», pero lo interpreta como la consecuencia de problemas humanos previos que la tecnología amplifica.
Con ese enfoque, el debate cambia de eje: ya no se trata solo de rechazar la máquina o de celebrarla, sino de preguntarse qué rasgos de la sociedad quedan inscritos en ella.
| Enfoque | Interpretación de la IA | Implicación moral |
| Determinismo técnico | La máquina como amo. | Resistencia o sumisión. |
| Ludismo moral | La máquina como enemigo. | Destrucción del espejo. |
| Tercera vía | La máquina como espejo. | Responsabilidad y coevolución. |
Fuente: Elaboración propia a partir de la encíclica de León XIV.
Si la IA ha sido creada a imagen de quienes la desarrollan, el problema no es que la máquina tenga una voluntad propia, sino que puede reproducir sesgos, contradicciones y lógicas de poder muy humanas.
Desde esa perspectiva, la IA no introduce una moral completamente nueva: amplifica tendencias ya presentes en la sociedad. Por eso, el «tecnofascismo» aparece aquí no como una amenaza externa, sino como una versión intensificada de problemas humanos ya conocidos. Leída así, la encíclica no solo lanza una alarma; también propone un marco para responder a ella.
Estructura pedagógica de Magnifica Humanitas
Leída así, la encíclica funciona menos como un mero catálogo de advertencias que como una respuesta formativa al problema descrito. De ahí su estructura pedagógica, articulada en cinco pilares:
- Introducción (Las res novae): El dilema entre la Torre de Babel (uniformidad técnica centralizada) y la ciudad de Jerusalén (convivencia fraterna y descentralizada).
- Capítulo I: La IA no es una moda, sino una transformación profunda que debe ser integrada en el pensamiento teológico.
- Capítulo II: Reafirma la inviolabilidad de los derechos humanos y exige que la Iglesia purgue sus propias estructuras de opacidad y abusos.
- Capítulo III: Crítica al transhumanismo. El dolor y la muerte son espacios para la gracia, no «fallos de diseño» que la técnica deba eliminar.
- Capítulo IV: Propone una «ecología de la comunicación», protegiendo al trabajador de la vigilancia algorítmica y promoviendo el «ayuno de la IA» para recuperar la atención humana.
- Capítulo V: Declara obsoleta la «guerra justa» debido a la letalidad deshumanizada de los sistemas autónomos.
Análisis lingüístico: El lenguaje como trinchera
En el plano del lenguaje, la encíclica recurre a una retórica de urgencia. Parte de la idea de que, en la era de los LLM (modelos de lenguaje), también se disputa en las palabras una parte del control sobre la experiencia humana.
Términos como cautiverio, algoritmización, deshumanización y soberanía buscan romper con el tono neutro con el que a menudo se presenta la tecnología.
La encíclica también cuestiona un lenguaje técnico que, a su juicio, vacía de sentido moral muchos actos humanos al reducirlos a inputs y outputs (entradas y salidas).
Al recuperar términos de fuerte carga ética y teológica, el texto intenta devolver al debate palabras que subrayan límites, responsabilidades y ámbitos que no pueden medirse solo con datos.
Conclusión: una amenaza real y una confesión
¿Se trata de un análisis objetivo de una amenaza real o, como sostienen algunos críticos, de la reacción de una institución que ve cuestionada su influencia sobre la verdad? Probablemente haya algo de ambas cosas.
El riesgo de una gobernanza moral algorítmica es un desafío técnico real, medible en la capacidad de los modelos para influir en las elecciones democráticas y las creencias individuales.
Al mismo tiempo, el documento revela una inquietud de fondo: el temor a que la IA vuelva sustituibles capacidades que durante mucho tiempo se consideraron exclusivamente humanas. Si la moral puede codificarse, la pregunta deja de ser solo tecnológica y pasa a ser también cultural y filosófica.
La tercera vía que plantea el texto apunta en esa dirección: el problema no se resuelve apagando las máquinas, sino revisando los valores, criterios y prioridades que proyectamos sobre ellas. Si la IA funciona como espejo, lo decisivo no es solo lo que puede hacer, sino qué revela sobre nosotros.
En último término, el desafío no es solo tecnológico. También obliga a revisar qué entendemos por autonomía, responsabilidad y vida en común. La IA no decidirá por sí sola el futuro de nuestra humanidad, pero sí puede amplificar aquello que ya somos.
