"Magnifica humanitas", la primera encíclica de León XIV, es una llamada de atención acerca de los desafías a los que se enfrenta el ser humano en la era de los algoritmos y la inteligencia artificial (IA). Algunas voces señalan que representa para la revolución digital y la IA lo que 'Rerum novarum' de León XIII -de la que se celebra su 135 aniversario- supuso para la Revolución Industrial y las condiciones de explotación y pobreza extrema que generó.
El texto dado a conocer este martes incide en los profundos cambios que ha introducido la IA en nuestro modo de vida, lo que, a su juicio, hace más necesario que nunca la protección de la dignidad humana.
"Ya es el entorno en el que estamos inmersos y el poder con el que debemos contar", indica, pero advierte de que hay que desarmarla de su utilización económica y, sobre todo, militar porque "al igual que la energía nuclear, debe estar al servicio de todos y del bien común".
Con la inteligencia artificial se acabaron las guerras justas, si es que alguna vez las hubo. Durante siglos, basándose en San Agustín y Santo Tomás de Aquino, la Iglesia sostuvo que una guerra podía ser moralmente lícita bajo condiciones estrictas (defensa propia, proporcionalidad, último recurso). León XIV entierra esta teoría y dice que hay que superarla promoviendo el diálogo, la diplomacia y el perdón. Intentar justificarla es aferrarse a un "falso realismo".
Sostiene el Papa que "las decisiones sobre tecnología nunca deben estar desvinculadas de la conciencia y la responsabilidad", más aún en el contexto actual de crecimiento de la industria bélica, expansión de conflictos bélicos y una carrera nuclear donde la IA se presenta como actor fundamental.
Frente a quienes defienden que la IA hará la guerra "más humana" porque las máquinas son más precisas y no actúan por odio, miedo o venganza, el pontífice se muestra contundente en cuanto a que "no existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable". Al contrario, "no libera al conflicto de su intrínseca inhumanidad: sólo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, con las víctimas reducidas a datos. Así, nos acostumbra a la idea de que la violencia sea inevitable y sólo deba optimizarse". La violencia sigue siendo violencia por muy optimizada que esté.
Regulación
El argumentario del Papa se torna pesimista si no existen unas restricciones éticas rigurosas fijadas a nivel internacional que protejan a las personas. Si no, se corre el riego de transformar el legítimo derecho a la defensa en ataques preventivos dictados por el cálculo probabilístico de una máquina. Porque si un algoritmo es capaz de predecir el ataque mañana de un enemigo, adelantarse a este ataque significaría eliminar la diplomacia y el factor humano.
Lo que León XIV está pidiendo indirectamente a la comunidad internacional es un tratado internacional restrictivo para la prohibición de los llamados Sistemas de Armas Autónomas Letales (LAWS, por sus siglas en inglés), así como mantener siempre el "control humano significativo" sobre cualquier decisión que implique el uso de una fuerza potencialmente letal.
