IA y Automatización. Cuando automatizar deja de ser sinónimo de mejorar

 

Imagen creada con IA

Si, el clamor parece crecer, hay algo que no cuadra en la narrativa dominante de la inteligencia artificial (IA), mientras algunos nos han vendido la idea de que automatizar es avanzar, que optimizar es mejorar, que, si un proceso lo puede hacer una máquina, entonces necesariamente es mejor que lo haga la nota de Spanish Revolution, y el estudio que retoma (The AI LayoffTrap), nos hace preguntarnos: ¿y si no? ¿y si automatizar, en ciertos casos, es simplemente acelerar nuestros propios errores?

Porque, al final, la IA no llega a organizaciones perfectas, no existe, llega a empresas con procesos incompletos, con datos desordenados, con decisiones históricas que nunca se cuestionaron, y cuando entra en ese entorno, no los corrige por arte de magia, de hecho, los puede empeorar.

Y ahí está la trampa.

Durante años vimos algo parecido con otras tecnologías, los sistemas de BI, los ERPs, la automatización de procesos… todos, si, todos, prometían eficiencia. Y sí, cuando la lograban, era bajo una condición: que el proceso de origen tuviera sentido, de lo contrario, lo único que hacían era volver más rápido algo que ya estaba mal.

Hoy en día, la apuesta por la IA puede llevar las cosas a otro nivel, del éxito inmediato, al fracaso rotundo, en un parpadeo.

Con la IA ya no estamos hablando de automatizar tareas repetitivas, sino de delegar decisiones, recomendaciones, incluso criterios operativos, y eso cambia completamente el impacto.

Porque cuando un error ocurre en un sistema tradicional, suele ser contenido, pero cuando ocurre en un sistema de IA, puede replicarse miles de veces en cuestión de minutos.

Y, aun así, seguimos hablando de eficiencia.

¿Eficiencia?

Y es que aquí hay un punto que rara vez se discute con suficiente profundidad: la eficiencia es una métrica engañosa. Reducir costos, acelerar tiempos, eliminar fricción… todo eso suena bien.

Pero no necesariamente significa que el negocio esté tomando mejores decisiones. De hecho, en algunos casos, significa lo contrario.

Muchas empresas están sustituyendo experiencia por automatización, contexto por predicción, criterio por modelo, y, en ese proceso, pierden algo que no aparece en los dashboards: la capacidad de cuestionar.

Y es que la IA no cuestiona, ejecuta. Y ejecuta sobre datos.

Datos que, en muchos casos, reflejan decisiones pasadas, sesgos acumulados o simplemente realidades incompletas. Entonces, lo que parecía una evolución tecnológica termina siendo una sofisticación del mismo problema, solo que ahora más difícil de detectar.

La Ilusión de Objetividad

Y por consecuencia, ese es otro de los riesgos: la ilusión de objetividad.

Cuando una decisión viene de un sistema, tendemos a asumir que es correcta. Que está “basada en datos”, que es neutral. Pero la realidad puede ser más compleja. Los modelos aprenden de lo que les damos, y si lo que les damos está mal, lo que obtenemos también lo estará… solo que con apariencia de precisión.

Basura de entrada, basura de salida

Es aquí donde la conversación debería cambiar. No se trata de si la IA es buena o mala, en este contexto es una discusión superficial. La pregunta real es:

¿Qué tan preparados estamos para usarla sin perder el control?

Porque lo que estamos viendo en algunas organizaciones no es una transformación estratégica, sino una reacción, derivada de la presión por adoptar IA porque “todos lo están haciendo”. Eso lleva a decisiones apresuradas, a proyectos que no están alineados con el negocio, a implementaciones que buscan impacto inmediato sin entender las implicaciones de largo plazo.

El resultado es conocido: pruebas piloto que no escalan, modelos que no se entienden, sistemas que generan más ruido que valor. Y en algunos casos, decisiones que empiezan a deteriorar la operación en lugar de mejorarla.

Lo más interesante, y tal vez preocupante, es que este deterioro no siempre es evidente, no es un colapso inmediato. Normalmente es algo más sutil, una acumulación de pequeñas decisiones automatizadas que, poco a poco, alejan a la empresa de sus objetivos reales.

Se pierde contexto, se pierde flexibilidad, y, en consecuencia, se pierde conexión con el cliente o usuario final. Y si, todo eso en nombre de la eficiencia.

Entonces, vale la pena detenerse y reflexionar.

Antes de hablar de modelos más avanzados, de agentes autónomos o de automatización total, quizá deberíamos regresar a lo básico: Revisar nuestros datos, entender nuestros procesos, definir cuáles decisiones realmente son relevantes.

Porque la IA no corrige la falta de claridad, al menos no por ahora. Pero puede amplificar la pérdida de contexto, y aumentar la confusión.

Y ahí está la verdadera trampa. No en la tecnología, sino en cómo la usamos.

En AI Güey lo hemos dicho varias veces, pero vale la pena repetirlo: la inteligencia artificial no reemplaza el pensamiento estratégico, lo expone. Si una organización tiene claro lo que quiere hacer, la IA puede acelerar ese camino. Si no lo tiene, lo único que va a hacer es llegar más rápido… al lugar equivocado.

La pregunta, entonces, no es si debemos automatizar, es mucho más incómoda:

¿Estamos seguros de que lo que queremos automatizar vale la pena?

Porque si no lo estamos, quizá el problema no es la IA. Es todo lo que estamos dejando de cuestionar antes de usarla.

Pero tú, estimado lector, ¿qué opinas?

Hasta la próxima.

— Jorge García, AI Güey