Autor: Iñigo A. Navarro Mendizabal (Profesor Ordinario, Universidad Pontificia Comillas)
La publicación de la encíclica Magnifica Humanitas ofrece una oportunidad singular para pensar la IA más allá de los lugares comunes que dominan buena parte del debate público. No estamos únicamente ante una reflexión moral sobre los riesgos de la técnica, ni ante una llamada genérica a usar responsablemente las nuevas herramientas digitales. La encíclica plantea algo más profundo. Frente a una visión meramente instrumental, recuerda que la IA no puede comprenderse como una tecnología neutral, separada de las estructuras de poder, de los modelos económicos y de las decisiones institucionales que la hacen posible.
Además de producir textos, clasificar imágenes, detectar patrones o automatizar decisiones, la IA se está convirtiendo en una infraestructura social que organiza información, distribuye visibilidad, condiciona oportunidades, reconfigura el trabajo, moldea la comunicación pública y afecta a las condiciones reales de ejercicio de la libertad. Por eso, el análisis ético y jurídico debe formularse de manera más exigente y preguntarse qué formas de poder tecnológico son compatibles con una sociedad verdaderamente humana.
La IA tampoco puede tratarse como un instrumento externo que simplemente usamos cuando queremos. Cada vez más opera como un entorno en el que vivimos y en el que se toman, directa o indirectamente, decisiones que afectan a la vida social y económica. Cuando una tecnología adquiere esa función estructural, su regulación no puede descansar sólo en lógicas sectoriales de cumplimiento, códigos voluntarios de buenas prácticas o en la confianza de que la innovación corregirá por sí sola sus propios excesos.
La encíclica sitúa este problema en un contexto más amplio. El poder tecnológico ha cambiado de escala y de titularidad. «En el pasado, eran principalmente los estados los que impulsaban y orientaban la innovación. Hoy, en cambio, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere así un rostro inédito, predominantemente “privado”, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común» (p. 5).
Esta es la razón por la que el debate jurídico sobre la IA no puede limitarse a corregir usos concretos o daños aislados. Debe abordar también las condiciones institucionales en las que se diseñan, financian, despliegan y controlan las infraestructuras digitales que están configurando la vida social.
En este punto, Magnifica Humanitas introduce una expresión particularmente sugerente: la necesidad de «desarmar» la IA. No se trata de rechazar la tecnología ni de frenar la innovación, sino de sustraerla a una lógica de carrera permanente —militar, económica, geopolítica y cognitiva— en la que la acumulación de datos, capacidad de cálculo e infraestructuras digitales se convierte en poder de observación, clasificación, predicción y gobierno. Desarmar la IA significa impedir que la potencia técnica se transforme sin más en autoridad social o política, y situarla bajo control público y al servicio de la persona. Una tecnología verdaderamente humana no es la que se impone por su fuerza, sino la que puede ser gobernada al servicio de la persona y del bien común.
Desde esta perspectiva, el debate no se reduce a aceptar o rechazar la IA. La propia encíclica advierte que pedir prudencia, controles rigurosos o incluso ralentizar determinados usos no significa oponerse al progreso, sino cuidar responsablemente sus efectos sobre la familia humana. «No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea» (p. 106). La encíclica vincula la responsabilidad —accountability— con “la posibilidad de identificar quién debe rendir cuentas de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas” (p. 105).
La encíclica acierta al insistir en que la «tecnología puede curar, conectar, educar, cuidar la Casa común; pero también puede dividir, descartar, generar nuevas injusticias. […] concretamente, no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza» (p. 9). Esta afirmación puede tener consecuencias jurídicas directas. Si los sistemas de IA incorporan decisiones humanas sobre datos, objetivos, métricas, prioridades, riesgos aceptables y costes tolerables, entonces no pueden esconderse detrás de una falsa objetividad técnica. Todo sistema algorítmico relevante contiene una determinada visión de la persona y de la sociedad. Puede tratar al ser humano como sujeto libre; o puede reducirlo a un conjunto de datos, probabilidades, perfiles de riesgo y señales de comportamiento.
Aquí aparece una de las conexiones más fecundas entre Magnifica Humanitas y el derecho contemporáneo. La regulación europea ya ha empezado a responder a la transformación de los datos, los algoritmos y las plataformas en nuevas infraestructuras de poder. Pero la encíclica añade una advertencia de fondo. La dignidad no puede quedar reducida a una referencia abstracta ni a un principio meramente inspirador. Debe funcionar como un límite material de la gobernanza tecnológica y como criterio para decidir qué usos de la IA son compatibles con una sociedad verdaderamente humana.
Esto significa que determinados usos de la IA pueden ser jurídicamente problemáticos aunque sean eficientes, rentables o incluso formalmente aceptados por los usuarios. La mera existencia de consentimiento, de aceptación contractual o de utilidad económica no basta para legitimar sistemas que manipulan vulnerabilidades, erosionan la autonomía, explotan datos personales de forma opaca, generan discriminaciones sistémicas o desplazan responsabilidades humanas hacia procesos automatizados. Una sociedad democrática no puede permitir que la libertad se degrade en una sucesión de elecciones inducidas por arquitecturas invisibles de comportamiento.
Por eso resulta especialmente importante el capítulo cuarto de Magnifica Humanitas, articulado en torno a tres bienes decisivos: verdad, trabajo y libertad. La verdad aparece como condición de la convivencia democrática. En un ecosistema comunicativo atravesado por sistemas generativos, recomendadores algorítmicos, microsegmentación y desinformación automatizada, la cuestión de la verdad ya no es solo epistemológica o periodística. Es también jurídica e institucional. Sin condiciones mínimas de confianza informativa, la deliberación pública se debilita y la democracia queda expuesta a formas de manipulación cada vez más difíciles de identificar.
El trabajo constituye el segundo eje. La IA promete aumentos de productividad y nuevas formas de organización económica, pero también puede intensificar la precariedad, desplazar empleos, devaluar capacidades humanas y convertir al trabajador en objeto de medición permanente. La tradición social cristiana, desde Rerum novarum hasta hoy, ha insistido en que el trabajo no es una simple mercancía ni un coste productivo. Es una dimensión esencial de la dignidad personal, de la participación social y del desarrollo humano. Aplicado a la transición digital, esto obliga a preguntar no solo cuánto valor crea la IA, sino cómo se distribuye ese valor, quién soporta los costes de la automatización y qué garantías protegen a quienes quedan expuestos a sus efectos. La encíclica advierte que la transición digital exige políticas laborales que garanticen estabilidad, calidad del empleo, ritmos humanos y acceso real a la formación, para que la movilidad profesional propia de la economía digital «no se convierta en una selección cruel» entre quienes pueden actualizarse y quienes quedan atrás. Solo así la transformación tecnológica podrá atravesarse sin romper la capacidad social de construir futuro (p. 169).
La libertad es el tercer eje y quizás uno de los más urgentes para el derecho. La economía digital ha aprendido a monetizar la atención, a explotar la impulsividad, a anticipar preferencias y a orientar conductas. La IA amplifica esta capacidad porque permite inferir rasgos íntimos, detectar vulnerabilidades, personalizar estímulos y adaptar mensajes en tiempo real. «Cuando cada gesto deja huellas ―desplazamientos, compras, relaciones, preferencias― se crea un poder nuevo: el de perfilar, prever y orientar los comportamientos, a menudo sin que las personas tengan plena conciencia de ello» (p. 171).
En este contexto, la libertad no desaparece necesariamente por coacción directa. Se erosiona de forma gradual mediante sistemas que hacen unas opciones más probables que otras, reducen el espacio de reflexión o convierten la personalidad en objeto de predicción y explotación.
Desarmar la IA significa, entonces, proteger las condiciones reales de la libertad. Significa impedir que la persona quede encerrada en perfiles, puntuaciones, recomendaciones y decisiones opacas. Significa reconocer que los datos personales no son simples recursos económicos ni materia prima neutral para alimentar modelos algorítmicos, sino realidades vinculadas a la identidad y al libre desarrollo de la persona. Y significa aceptar que la soberanía de los datos no puede reducirse a una suma de consentimientos individuales, porque muchos efectos de la IA desbordan la esfera puramente individual.
Desde esta perspectiva, el derecho no debe concebirse como un obstáculo a la innovación, sino como su condición de legitimidad. La innovación tecnológica solo es socialmente sostenible cuando se inserta en un marco jurídico responsable, transparente y orientado a la justicia. El verdadero desafío no consiste en frenar la IA, sino en impedir que se convierta en una nueva Babel, en una arquitectura poderosa y aparentemente universal, pero construida sobre la concentración del poder y la reducción de la persona a función, dato o rendimiento. La «pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos» (p. 10).
La alternativa es una innovación capaz de guardar lo humano. Magnifica Humanitas recuerda, siguiendo la tradición de la Doctrina social de la Iglesia, que el progreso sólo es auténtico cuando promueve «a todos los hombres y a todo el hombre», no sólo a algunos, ni sólo una dimensión funcional o productiva de la persona. «En la era de la inteligencia artificial, en la que la dignidad humana corre el riesgo de verse eclipsada por nuevas formas de deshumanización, tenemos el deber urgente de permanecer profundamente humanos» (p. 15).
Para el derecho, estas ideas tendrían una consecuencia directa. La IA debería ser gobernada de modo que su desarrollo no aumente la dependencia, ni profundice las desigualdades, sino que permanezca al servicio de la persona, de su libertad y del bien común.
Una de las grandes aportaciones de la encíclica al debate jurídico sobre la IA es desplazar el centro de gravedad. La pregunta decisiva es qué tipo de humanidad estamos configurando a través de nuestras infraestructuras digitales. Y esa pregunta, lejos de ser ajena al derecho, constituye hoy uno de sus desafíos centrales.
Porque si la IA no es neutral, tampoco puede limitarse el derecho a una neutralidad aparente. Su función es proteger a la persona, la libertad, el trabajo digno, la verdad compartida y una innovación que no confunda poder técnico con legitimidad moral. Ese es, en último término, el sentido jurídico de «desarmar» la IA: no destruirla, sino liberarla de las lógicas de dominio para hacerla habitable para el ser humano.
