El Vaticano le entra al debate de la IA: Y hace la pregunta que Silicon Valley evita

Imagen creada con inteligencia artificial.

Cuando el mundo habla de inteligencia artificial, normalmente la conversación gira alrededor de chips, modelos de lenguaje, inversiones multimillonarias o productividad.

Parece que el debate estuviera secuestrado por Silicon Valley y por los grandes proveedores tecnológicos. Sin embargo, hay otra conversación que cada día gana más fuerza y que, en mi opinión, será igual de importante en los próximos años: la dimensión ética y humanista de la IA.

En ese terreno, la mismísima Iglesia Católica ha decidido no permanecer como espectadora.

Desde hace algunos años, y ahora con mayor impulso bajo el pontificado de León XIV, el Vaticano ha mantenido una postura consistente: la inteligencia artificial representa una de las transformaciones más profundas de nuestro tiempo y, precisamente por ello, no puede discutirse únicamente desde la ingeniería o los negocios; debe abordarse también desde la ética, la dignidad humana, la justicia social y el bien común.

A algunos les sorprenderá que una institución religiosa participe en este debate; honestamente, a mí no. Porque cuando una tecnología tiene el potencial de modificar la forma en que trabajamos, aprendemos, gobernamos, producimos conocimiento e incluso nos relacionamos entre nosotros, deja de ser un asunto exclusivamente técnico. Se convierte en una cuestión social.

Y, por supuesto, eso nos involucra a todos.

Hace unos días escribía sobre la creación del Consejo Coordinador de Inteligencia Artificial en la UNAM. Lo cual me parece una buena noticia, porque reflejaba que la IA comienza a entenderse como un fenómeno multidisciplinario, sobre todo en Latinoamérica.

Lo interesante es que el Vaticano está llegando a una conclusión similar, aunque desde un punto de partida completamente distinto, y creo que eso debería hacernos reflexionar. Porque cuando universidades, gobiernos, científicos, organismos internacionales y hasta instituciones religiosas empiezan a coincidir en que la IA necesita reglas, principios y reflexión profunda, el problema ha dejado de manera definitiva de ser solamente tecnológico. Es también humano.

Lo que plantea el Vaticano, y el Papa, en su carta encíclica Magnifica Humanitas, no es una oposición a la inteligencia artificial, al contrario. Sus mensajes recientes reconocen el enorme potencial de esta tecnología para impulsar la investigación científica, mejorar la medicina, optimizar procesos productivos y generar nuevas oportunidades de desarrollo. Pero también advierten sobre un riesgo que muchas veces queda relegado entre tanto entusiasmo: confundir inteligencia con sabiduría.

Y esa diferencia es enorme.

La IA puede procesar millones de datos por segundo, puede detectar patrones invisibles para una persona, puede escribir, traducir, programar y analizar información a una velocidad impresionante. Pero no comprende el significado moral de sus decisiones, no entiende la compasión, no conoce la justicia, no tiene responsabilidad.

Esas siguen siendo capacidades profundamente humanas.

Por eso, me preocupa cierta narrativa que empieza a instalarse en algunos sectores tecnológicos: la idea de que, mientras más decisiones deleguemos a sistemas inteligentes, mejor funcionará la sociedad, y perdón, pero no necesariamente.

Delegar una tarea no es lo mismo que delegar un criterio.

Y ese matiz será cada vez más importante conforme avancemos hacia agentes autónomos cada vez más involucrados en la decisión de recomendar, por ejemplo, recomendar contrataciones, aprobar créditos, priorizar pacientes, seleccionar candidatos o participar en decisiones gubernamentales.

Ya no se trata de analizar de qué es capaz la inteligencia artificial. Se trata de analizar qué decisiones la IA nunca debería tomar sola.

Y ese debate apenas comienza.

También resulta interesante que el Vaticano insista en colocar a la persona en el centro del desarrollo tecnológico. Puede sonar obvio, incluso filosófico, pero en un momento donde gran parte de la conversación gira alrededor de productividad, eficiencia y reducción de costos, recordar que la tecnología existe, cuando menos en teoría, para servir a las personas, y no al revés, resulta casi contracultural.

Quizá eso explica por qué esta discusión trasciende cualquier religión. No se trata de creer o no creer, se trata de entender que la inteligencia artificial está redefiniendo las reglas del juego social.

Aquí, en AI Güey, y en otras plataformas he hablado constantemente de soberanía tecnológica, gobernanza de datos y regulación responsable, pero hay un elemento adicional que empieza a cobrar relevancia: la soberanía ética*.

Porque una sociedad que adopta tecnologías desarrolladas bajo valores, prioridades e intereses ajenos también termina importando, muchas veces sin darse cuenta, una forma específica de entender el mundo. México, y por supuesto Latinoamérica, necesita participar en esa conversación.

No solamente desarrollando ingenieros o comprando infraestructura. También formando filósofos, abogados, sociólogos, economistas, comunicólogos y especialistas capaces de discutir las implicaciones humanas de la IA. Porque el desafío ya no consiste únicamente en construir mejores modelos. Consiste en construir una mejor sociedad alrededor de ellos.

Y es aquí donde universidades, gobiernos, empresas y también instituciones como el Vaticano, independientemente de nuestras creencias religiosas, pueden aportar perspectivas distintas, incluso si no siempre coinciden entre sí.

Al final, la inteligencia artificial seguirá avanzando; eso pinta como algo inevitable. La verdadera incógnita es si nuestra capacidad para reflexionar sobre ella avanzará al mismo ritmo.

Porque quizá el mayor riesgo no sea que las máquinas lleguen a pensar como nosotros. Sino que nosotros dejemos de preguntarnos para qué queremos que piensen.

Pero tú, estimado lector, ¿qué opinas?

Hasta la próxima.

—Jorge García, AI Güey

* “La soberanía ética es el principio filosófico y político que subordina el poder, la tecnología y el derecho a valores morales universales.” Fuente: SOBERANÍA ÉTICA COMO ARQUITECTURA CONSTITUCIONAL