La primera encíclica de León XIV, Magnifica Humanitas, plantea una cuestión que desborda el ámbito religioso: qué parte de la decisión humana puede automatizarse y qué parte no debería ser entregada jamás a una máquina.
La inteligencia artificial puede comparar alternativas, anticipar consecuencias, detectar patrones y optimizar recursos con una capacidad que ya supera a la humana en tareas concretas. Pero de esa superioridad instrumental no se deduce autoridad moral. Una solución puede ser técnicamente óptima y, al mismo tiempo, resultar injusta, desproporcionada, inhumana o simplemente indigna.
Ahí está el límite decisivo: la conciencia no es una función de cálculo y la responsabilidad no puede externalizarse a un sistema.
La eficiencia responde al cómo, no al para qué
El error más frecuente consiste en confundir una capacidad extraordinaria para seleccionar medios con la legitimidad para establecer fines. Un modelo puede indicar cuál es la decisión que reduce más el coste, acelera un proceso o maximiza una probabilidad. No puede determinar, por sí mismo, qué coste humano estamos autorizados a imponer para lograrlo.
Lo óptimo no siempre es lo moral. Lo eficiente no siempre es lo ético. Lo rentable no siempre es lo justo. Y lo que produce el mejor resultado agregado puede exigir un sacrificio inaceptable a una persona concreta.
Esto no obliga a rechazar la optimización. Obliga a situarla en su nivel correcto. La eficiencia es un criterio importante, pero subordinado. Sirve para comparar medios una vez que la organización ha definido los límites que no está dispuesta a traspasar.
La IA puede optimizar una decisión. Solo una persona puede responder moralmente por ella.
Una máquina no conoce aquello que está en juego
Magnifica Humanitas insiste en una diferencia esencial. Los sistemas artificiales procesan datos y pueden imitar lenguaje, análisis e incluso empatía, pero no poseen experiencia corporal, vínculos, dolor, esperanza ni conciencia moral. No conocen desde dentro aquello sobre lo que deciden.
Esta diferencia no es una discusión semántica sobre si una máquina «piensa». Tiene consecuencias operativas. Quien no puede experimentar la pérdida tampoco puede asumirla. Quien no puede ser culpable tampoco puede ser responsable. Y quien no puede responder por el daño no debe ocupar el último lugar de autoridad en una decisión irreversible.
La responsabilidad pertenece a la persona y a la institución que diseña, autoriza, utiliza o acepta el resultado. El algoritmo puede intervenir en la cadena causal; no puede cerrar la cadena moral.
La ficción del human in the loop
Muchas organizaciones afirman conservar control humano porque una persona aparece formalmente en el proceso. Sin embargo, esa presencia puede ser puramente decorativa.
Si el revisor no dispone de tiempo, información, competencia o autoridad para contradecir al sistema, no existe supervisión real. Existe una firma humana colocada al final de una decisión automatizada.
La situación empeora cuando el modelo produce resultados plausibles, extensos y convincentes. El humano puede terminar actuando como certificador de una conclusión que ya no sabe reconstruir. En ese punto, la organización conserva la apariencia de responsabilidad mientras pierde la capacidad efectiva de ejercerla.
Un control humano auténtico exige cuatro condiciones: comprender lo suficiente, acceder a la evidencia relevante, disponer de tiempo proporcional al riesgo y tener poder real para detener o modificar la decisión.
Prudencia no significa miedo al progreso
La prudencia suele interpretarse como lentitud, conservadurismo o resistencia. Es un error. En su sentido más útil, la prudencia es la capacidad de actuar bien bajo incertidumbre, distinguiendo lo que puede delegarse, lo que debe verificarse y lo que exige decisión personal.
León XIV no propone una renuncia tecnológica. Reclama evaluación rigurosa, responsabilidad identificable y, cuando las instituciones no pueden gobernar todavía las consecuencias, la posibilidad de reducir el ritmo de adopción. No porque avanzar sea malo, sino porque acelerar sin dirección también es una forma de abdicar.
La buena gobernanza no consiste en introducir un veto humano sobre cada operación. Consiste en diseñar una arquitectura en la que el grado de control crezca con la irreversibilidad, la opacidad y el daño potencial.
Hay decisiones cuyo valor aparece precisamente en la renuncia
La lógica de optimización tiende a tratar toda restricción como una ineficiencia. Sin embargo, una sociedad humana se reconoce por límites que decide respetar incluso cuando hacerlo cuesta más.
Mantener a una persona vulnerable dentro de un sistema puede ser menos eficiente que excluirla. Conservar empleo durante una transición puede ser más costoso que automatizar de inmediato. Dar una segunda oportunidad puede empeorar una métrica de corto plazo. Dedicar tiempo a escuchar, acompañar o cuidar puede no maximizar ningún indicador.
No se trata de convertir la compasión en una excusa para la incompetencia ni de caer en un buenismo incapaz de afrontar restricciones reales. Recursos, productividad y sostenibilidad económica importan. Pero precisamente porque los recursos son limitados, decidir qué estamos dispuestos a sacrificar y qué debemos proteger es un acto moral, no una operación matemática.
La caridad, la misericordia y la dignidad no sustituyen a la gestión. Definen aquello que la gestión no debe destruir.
De la Reserva de Criterio a la Reserva de Conciencia
En artículos anteriores propusimos la Reserva de Criterio: la capacidad distribuida de una organización para saber cuándo una respuesta aparentemente correcta merece confianza, cuándo debe verificarse y quién puede hacerlo.
Magnifica Humanitas obliga a ampliar ese concepto. No basta con conservar una reserva epistemológica capaz de detectar errores. Hace falta también una reserva moral capaz de reconocer decisiones que, aun siendo correctas en términos instrumentales, no deberían ejecutarse.
Una organización necesita personas que puedan decir «esto es falso», pero también personas legitimadas para decir «esto puede funcionar y, aun así, no debemos hacerlo».
Esa capacidad se debilita cuando todos los incentivos premian velocidad, coste y rendimiento; cuando la discrepancia se interpreta como fricción; o cuando la decisión se fragmenta entre proveedores, modelos, departamentos y comités hasta que nadie conserva responsabilidad completa sobre el resultado.
La subsidiariedad también debe ser cognitiva
La encíclica recupera la subsidiariedad: las instancias superiores no deben absorber las decisiones que pueden adoptar responsablemente las personas y comunidades más próximas a sus consecuencias.
Aplicada a la IA, podemos hablar de subsidiariedad cognitiva. La tecnología debe aumentar la capacidad de quienes conocen el contexto, no vaciarla. Debe llevar mejor información hasta el responsable, no sustituir silenciosamente su juicio. Y debe permitir que la persona afectada sea vista como sujeto, no reducida a un registro, una puntuación o una categoría estadística.
Centralizar el cálculo puede ser eficiente. Centralizar también la interpretación, la decisión y la responsabilidad puede ser profundamente peligroso.
Un marco de gobierno para decisiones con consecuencias humanas
Antes de automatizar una decisión relevante, la dirección debería exigir respuestas concretas:
- Finalidad: ¿qué bien buscamos y quién ha legitimado ese objetivo?
- Límites: ¿qué resultado no aceptaríamos aunque mejorase la eficiencia?
- Afectados: ¿quién soporta el coste del error y puede impugnar la decisión?
- Competencia: ¿el supervisor comprende el sistema y el contexto suficiente para contradecirlo?
- Autoridad: ¿puede detener el proceso sin ser penalizado por hacerlo?
- Trazabilidad: ¿podemos reconstruir qué datos, reglas, modelos y personas intervinieron?
- Responsabilidad: ¿qué persona concreta responde si el resultado causa daño?
- Reparación: ¿existe un mecanismo rápido y humano para corregir el perjuicio?
Si la organización no puede responder, el problema no es que su inteligencia artificial sea insuficiente. El problema es que su gobierno lo es.
El verdadero valor de seguir siendo humanos
La contribución más potente de Magnifica Humanitas no es advertir que las máquinas pueden equivocarse. Eso ya lo sabemos. Es recordar que incluso una máquina que acertase casi siempre seguiría sin poder decidir qué significa actuar bien.
La inteligencia artificial puede ayudarnos a ver más, comparar mejor y anticipar consecuencias. Debemos utilizar esa capacidad. Pero una civilización no se define solo por la calidad de sus medios, sino por los fines que elige, los límites que respeta y la forma en que trata a quien no mejora ninguna métrica.
Conservar la decisión humana no significa reservarnos el último clic. Significa conservar la competencia, la libertad y el coraje de contradecir la opción óptima cuando deja de ser justa.
La conciencia no se delega porque la responsabilidad tampoco.
Fuentes y nota de interpretación
- León XIV: Magnifica Humanitas, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial.
- Dicasterio para el Servicio del Desarrollo Humano Integral: síntesis y recursos oficiales.
- Fotografía de León XIV: Edgar Beltrán / The Pillar, CC BY-SA 4.0.
.png){kind=link}
La Reserva de Conciencia y la subsidiariedad cognitiva son desarrollos conceptuales del autor a partir de la encíclica y del marco previo de Reserva de Criterio. El artículo no atribuye al texto pontificio posiciones empresariales que no formula expresamente.
© 2026 Javier F. Pérez Bernabé. Todos los derechos reservados. Publicado por Quórum 12.
SUSCRIPCIÓN ONLINE
Reciba cada nuevo análisis y las convocatorias abiertas.
Es una categoría pública e independiente: no implica membresía, admisión ni acceso al portal privado.