Filosofía en los laboratorios de IA. ¿Está la industria de IT admitiendo algo importante?

 

Imagen generada con IA

Durante décadas, la industria tecnológica pareció tener una respuesta para todo: más datos, más procesamiento, más algoritmos, más memoria.

Si un problema surgía, bastaba con encontrar una solución técnica, pero hoy, algo curioso está ocurriendo en los principales laboratorios de inteligencia artificial del mundo.

Empresas como OpenAI, Google DeepMind y Anthropic están contratando filósofos, no como asesores externos ni como un gesto de relaciones públicas, sino para formar parte de equipos que diseñan y evalúan sistemas de IA.

La nota, publicada por The New York Times, podría parecer anecdótica; sin embargo, creo que representa una de las señales más claras de que la industria está entrando en una nueva etapa.

Y esa etapa ya no se define únicamente por la capacidad de los modelos o el poder de cómputo, sino por la capacidad de quienes los diseñan para responder preguntas que la ingeniería, por sí sola, no puede resolver.

Hoy, la realidad es que la inteligencia artificial dejó de ser únicamente un desafío tecnológico. Ahora es también un desafío humano.

Durante los primeros años del auge de la IA generativa, la competencia consistía en desarrollar modelos más grandes, entrenarlos con más datos y demostrar mejores resultados en benchmarks. La conversación giraba alrededor de parámetros, GPUs y ventanas de contexto; era una carrera eminentemente técnica.

Pero conforme estos sistemas comenzaron a incorporarse en buscadores, hospitales, bancos, escuelas y gobiernos, esas preguntas cambiaron; no basta con saber si un modelo puede responder una pregunta.

Hoy también necesitamos saber cómo decide responderla, qué valores refleja, qué sesgos reproduce y qué consecuencias tiene una recomendación cuando afecta la vida de millones de personas.

Y aquí donde aparecen los filósofos.

Por supuesto, no es porque sepan programar mejor que un ingeniero, sino porque llevan siglos estudiando importantes, pero frecuentemente olvidadas, preguntas que hoy la IA vuelve a poner sobre la mesa: ¿qué significa razonar?, ¿qué entendemos por verdad?, ¿cómo se toman decisiones justas?, ¿qué responsabilidad existe cuando una acción afecta a otros?

Lo interesante es que esta tendencia también desmonta, por así decirlo, uno de los mitos más repetidos sobre la inteligencia artificial: que el futuro pertenecerá únicamente a las carreras técnicas.

Parece que no será así.

Paradójicamente, cuanto más sofisticados se vuelven los sistemas de IA, más evidente resulta que el conocimiento técnico necesita complementarse con disciplinas que tradicionalmente parecían alejadas del mundo digital: Filosofía, psicología, lingüística, sociología o derecho dejan de ser actores secundarios para convertirse en piezas importantes para el desarrollo tecnológico.

Esto debería hacernos reflexionar sobre cómo estamos formando talento.

En México, por ejemplo, se sigue discutiendo cómo generar más ingenieros especializados en IA, lo cual es absolutamente necesario, pero quizá no sea suficiente en el contexto actual, en donde una economía basada en inteligencia artificial también necesitará personas capaces de comprender el comportamiento humano de la IA y de su interacción, para interpretar dilemas éticos, diseñar marcos regulatorios y analizar las implicaciones sociales de sistemas cada vez más autónomos.

No basta con construir modelos inteligentes; hay que construir modelos responsables.

Por supuesto, desde la perspectiva de la industria, esto también representa un cambio importante. Durante mucho tiempo, la ética en IA fue vista casi como un área de cumplimiento o de relaciones públicas, algo que aparecía al final del proceso para revisar posibles riesgos.

Hoy, gobernanza y ética empiezan a integrarse cada vez más desde el diseño mismo de los modelos. No porque súbitamente las empresas se hayan vuelto altruistas, sino porque descubrieron que la confianza también es un activo competitivo.

Una IA que genera respuestas discriminatorias, que produce alucinaciones o que toma decisiones difíciles de explicar no solo representa un problema técnico, también implica riesgos legales, regulatorios y reputacionales.

En otras palabras, la ética dejó de ser un lujo académico para convertirse en una variable de negocio.

Lo anterior no significa que debamos idealizar esta tendencia; también conviene mantener cierto escepticismo.

Contratar filósofos no garantiza que una empresa actuará siempre de manera ética; existe el riesgo de que algunas organizaciones utilicen estos perfiles como una forma de fortalecer su narrativa pública sin modificar realmente sus prácticas.

La diferencia estará en el nivel de influencia, para bien o para mal, que estos equipos tengan dentro de la organización.

¿Participarán realmente en las decisiones estratégicas? ¿Podrán cuestionar el rumbo de un producto? ¿O simplemente validarán decisiones ya tomadas?

Esas son, todas, pruebas de fuego para el mejoramiento de los sistemas que incorporan inteligencia artificial.

Y aunque es un fenómeno incipiente, sí deja en claro que estamos entrando en una etapa donde la ventaja competitiva ya no dependerá únicamente de quién desarrolla el modelo más potente, sino de quién logra construir sistemas que las personas estén dispuestas a usar y en los que puedan confiar.

Y esa confianza no se programa únicamente con código. Se construye entendiendo a las personas.

Quizá por eso la noticia resulta tan significativa, no porque los proveedores de tecnología hayan descubierto de pronto el valor de la filosofía, sino porque están reconociendo que, para tener un mejor posicionamiento, la inteligencia artificial no solo necesita mejores algoritmos; necesita mejores grados de confiabilidad, ética y gobernanza.

En AI Güey hemos insistido en que la próxima gran batalla de la IA no será únicamente tecnológica, será una competencia por legitimidad, confianza y gobernanza.

La incorporación de filósofos a los laboratorios de IA confirma que la propia industria empieza, por convicción o conveniencia, a entenderlo.

Quizá esa sea la mayor ironía de esta revolución. Después de décadas creyendo que la tecnología terminaría reemplazando a las humanidades, resulta que ahora parece que las necesitará cada día más.

Construir máquinas capaces de razonar es un desafío extraordinario. Pero construir una sociedad capaz de convivir con ellas será, probablemente, el reto más complejo de todos.

Pero tú, estimado lector, ¿qué opinas?

—Jorge García, AI Güey