Controlar la IA: Si quienes construyen la IA temen perder el control, tenemos un problema
Imagen generada con IA Parece que hay algo profundamente extraño ocurriendo dentro de la industria de inteligencia artificial. Jacob Coxon, un investigador de 27 años que trabajó durante los últimos tres años en preentrenamiento de modelos, primero en OpenAI y después en Anthropic , decidió renunciar. No solamente cambió de empresa, abandonó la industria y lanzó una acusación bastante seria: Que los principales laboratorios están compitiendo por desarrollar sistemas de inteligencia artificial cada vez más poderosos sin tener resuelto cómo controlarlos. Según Coxon, las compañías están avanzando hacia sistemas capaces de mejorar sus propias capacidades mientras aceptan riesgos que podrían tener consecuencias extraordinariamente graves. En este sentido, su crítica resulta particularmente interesante porque Anthropic ha construido buena parte de su identidad precisamente alrededor de la seguridad de la IA. Tomado al pie de la letra, es fácil leer algo así y caer inmediatame...