No fue una homilía sobre tecnología. Fue un diagnóstico de poder el 28 de agosto en audiencia en el Vaticano con el Institut International des Sciences Administratives, que asesora a gobiernos sobre cómo administrar lo público.
Al elegir a burócratas y no a ingenieros, el mensaje quedó claro: la carrera es de gobernanza, y los estados la van perdiendo.
El papa León XIV recibió en Roma a los participantes de la conferencia anual del IIAS, del 24 al 27 de agosto en La Sapienza. Allí pidió equilibrio en lo digital y situar ética y bien común por encima de intereses comerciales.
Cuando la ética llega tarde
León XIV resumió el problema en una idea repetida: hace falta una ética que acompañe a herramientas concentradas en pocas manos y que al Estado le cuesta controlar. Es el presente donde pocos proveedores de modelos y chips deciden qué se puede construir y a qué precio.
Por eso enlazó su mensaje con su encíclica Magnifica humanitas del 25 de mayo, firmada el 15 de mayo a 135 años de la Rerum Novarum. Allí pide desarmar la IA, liberarla de lógicas de dominio y exclusión como se hizo con la energía nuclear.
Delegar la vida a la máquina ya ocurre
La parte más directa fue cotidiana. Planteó si la humanidad corre el riesgo de convertirse en víctima de sus propias invenciones y señaló que uno de los graves problemas es que las decisiones sobre la vida humana se confían a máquinas.
Son sistemas que priorizan atenciones médicas, filtran currículums o deciden crédito con datos sesgados. Defendió el carácter irreemplazable de la inteligencia humana y pidió que expertos ayuden a autoridades a decidir por el bien común.
La paradoja se ve en América Latina. Un municipio automatiza trámites o un hospital clasifica estudios con IA, pero no puede auditar el modelo que compra como servicio cerrado.
Si Bruselas duda cómo aplicar su AI Act y Washington debate controles a semiconductores, un gobierno local tiene aún menos margen.
Humanizar no es frenar, es gobernar
León XIV alentó a investigar la humanización de las tecnologías digitales para que sirvan a la vida y a la paz, y pidió que el bien de la familia humana no se sacrifique por intereses privados. Humanizar es pedir explicabilidad, evaluación independiente y control humano en decisiones críticas.
Para quien construye software, describe un cuello de botella real: dependencia de APIs opacas y costos dictados por un oligopolio de chips. Si el Estado no puede controlar del todo a esos gigantes, el peso cae sobre quienes integran esos sistemas.
La pregunta que deja el Vaticano es útil: ¿quién decide, en tu stack, qué parte de la vida de otra persona queda en manos de una máquina?
Más en: Inteligencia Artificial, Tecnología
