Una encíclica clave sobre la IA y el futuro de la humanidad
Este lunes, el papa León XIV —matemático de formación— presentó su primera encíclica, Magnifica Humanitas, dedicada a la inteligencia artificial (IA). La firmó el 15 de mayo, el día en que se cumplían 135 años de la Rerum Novarum, aquel documento de 1891 con el que otro León, el XIII, se metió a opinar sobre obreros, salarios y fábricas cuando muchos pensaban que la Iglesia debía ocuparse solo de asuntos espirituales. El guiño es deliberado porque, si en el siglo XIX la discusión era qué hacíamos con las máquinas de vapor, hoy es qué haremos con las máquinas que escriben, deciden y gobiernan pedazos de nuestra vida.
La encíclica aprovecha dos imágenes bíblicas que funcionan desde la fe (o desde el simbolismo literario, eso ya depende de cada uno). Por un lado, la torre de Babel, una obra colosal, una sola lengua, una sola dirección, levantada por el orgullo de la autosuficiencia, que termina en confusión y dispersión. Por el otro, la reconstrucción de Jerusalén que emprende Nehemías, repartiendo a cada familia un tramo de muralla, escuchando los miedos, coordinando los esfuerzos. Entonces, ¿la IA es una torre que promete tocar el cielo y aplasta a quien estorba, o una ciudad habitable para todos?
La encíclica reconoce con claridad que la IA puede curar, educar y conectar. No cae en el apocalipsis ni en la tecnofobia, pero elabora una crítica estructural señalando con claridad que la inteligencia artificial “no puede considerarse moralmente neutra”. Todo sistema decide qué mide, qué ignora, qué optimiza y a quién clasifica como prescindible. Cuando un algoritmo determina quién recibe un crédito, quién pasa un filtro laboral o quién es “peligroso”, no está haciendo aritmética abstracta sino aplicando una idea específica (y muchas veces prejuiciosa) de esa persona.
El papa añade una observación que, como abogado, encuentro muy valiosa: la necesidad de tener un control social de estas tecnologías. Estamos delegando decisiones que cambian vidas a cajas negras que nadie gobierna del todo, y disolviendo la responsabilidad hasta el punto de que, cuando algo sale mal, no hay nadie a quien señalar. El derecho funciona porque siempre puede apuntar a un responsable; cuando la culpa se evapora “dentro de la máquina”, lo que tenemos no es una falla técnica, sino una forma elegante de no rendir cuentas. Por eso, en su versión en inglés, la encíclica insiste en la palabra accountability. Es decir, poder identificar quién debe responder por una decisión, motivarla, controlarla y, llegado el caso, cuestionarla y reparar el daño.
Pero la advertencia no vale solo para los grandes sistemas que deciden créditos, trabajos o políticas públicas; también nos alcanza en el uso más doméstico de la IA, cuando le pedimos que resuma, redacte o piense por nosotros. León XIV advierte que la facilidad con la que obtenemos resultados puede llevarnos a delegar demasiado, debilitando el juicio personal y la creatividad. Esa es, quizás, una de las amenazas menos llamativas pero más profundas.
El núcleo del diagnóstico papal es político antes que espiritual. El poder que antes estaba principalmente en los estados ahora está en un puñado de actores privados con más recursos que muchos gobiernos. Quien controla los datos, las plataformas y la capacidad de cálculo termina fijando las reglas del juego para el resto. De ahí que uno de los conceptos más importantes del texto es la idea de desarmar la IA. Es decir, quitarle el monopolio y volverla discutible, refutable, “habitable”. Como queda claro del enfoque, desarmar no debe entenderse como destruir o dejar de lado.
Hay un capítulo que en el Perú deberíamos leer con mucha atención. Detrás de cada respuesta instantánea de un chatbot hay una cadena larguísima de trabajo humano invisible, con gente etiquetando datos y moderando contenidos por sueldos mínimos, así como adolescentes y niños extrayendo en condiciones peligrosas los minerales con los que se fabrican los chips. La encíclica las llama, sin eufemismos, “nuevas esclavitudes”, y va más lejos, sosteniendo que el colonialismo dejó de robar solo cuerpos y territorios y ahora se apropia de datos. Los perfiles sanitarios, genéticos y demográficos de poblaciones enteras se convierten en las nuevas “tierras raras” del poder. Para un país periférico en la geopolítica y frágil en sus instituciones como el nuestro, es una advertencia a tomar en cuenta.
El documento también toma posiciones que un (auténtico) liberal suscribiría sin dudar. Por ejemplo, que la desinformación corroe la democracia. Y para explicar a dónde lleva ese desprecio por la verdad, el papa no cita a un santo, sino a Hannah Arendt, que advirtió que el terreno del totalitarismo se prepara cuando la gente deja de distinguir lo verdadero de lo falso. A eso se suma la crítica a la economía de la atención, diseñada para explotar nuestras debilidades y quedarse con nuestro tiempo, y la precarización del trabajo, que la automatización acelera sin que nadie se haga cargo de quienes quedan fuera. El punto más grave, sin embargo, es la guerra. La encíclica dedica páginas durísimas a las armas autónomas que «bajan el umbral» para matar porque vuelven el conflicto rápido, barato e impersonal, con las víctimas reducidas a un dato. Y ahí no admite matices, pues ningún algoritmo puede volver moralmente aceptable una guerra.
Así, lo más potente de la encíclica es que se le puede quitar el componente religioso y casi nada se derrumba. Queda en pie la dignidad como un límite que ningún poder puede pisar, el bien común como algo más que la suma de intereses, la idea de que la técnica debe servir a la persona, y no al revés. Una de las fortalezas de la encíclica es que se lee con facilidad desde un enfoque de derechos humanos y democracia.
Probablemente estamos ante el documento más importante en defensa de la humanidad escrito en los últimos años. Nuestros políticos todavía le huyen al tema, este asunto no está presente en nuestras campañas presidenciales con la importancia que lo amerita, como quedó demostrado en Perú en el debate de equipos técnicos del domingo pasado. León XIV, en cambio, parece entender con claridad que la pregunta sobre qué clase de humanidad queremos ser en la era de la inteligencia artificial es demasiado importante como para dejarle la respuesta solo a quienes están construyendo la torre.
¡No desenchufes la licuadora! Suscríbete y ayúdanos a seguir haciendo Jugo.pe
