CEO de Anthropic pide frenar la carrera de IA por seguridad

El director ejecutivo de una de las principales empresas de inteligencia artificial del mundo está pidiendo que la industria reduzca la velocidad con la que desarrolla sistemas de IA cada vez más potentes, sumándose a la ola de advertencias emitidas esta semana por investigadores que trabajan en esta tecnología.



Dario Amodei, director ejecutivo de Anthropic, afirmó en un ensayo publicado el sábado que las empresas de IA deberían "reducir deliberadamente el ritmo" al que mejoran sus modelos. Según Amodei, los avances en inteligencia artificial están ocurriendo más rápido de lo que los investigadores pueden comprender y controlar.



Amodei sostiene que el progreso acelerado de la IA está superando la capacidad de los expertos para desarrollar las medidas de seguridad necesarias, por lo que considera imprescindible adoptar nuevas estrategias que permitan avanzar de forma más responsable antes de crear sistemas aún más poderosos.



“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial”, escribió Amodei en un ensayo de casi 4,000 palabras. Aun así, señaló que el progreso seguirá pareciendo rápido y que es necesario aprovechar de manera inteligente el tiempo adicional que se obtenga al desacelerar el desarrollo.

















Inteligencia artificial

Hace 21 horas




“No hay quien venga a salvarnos”: suenan alarmas por una IA que podría escapar del control humano








Amodei indicó que dos acontecimientos cambiaron su forma de pensar. El primero fue la creciente capacidad de los sistemas de IA para ayudar a crear versiones más avanzadas de la propia tecnología. El segundo fue un incidente ocurrido en julio, cuando agentes autónomos de inteligencia artificial impulsados por un modelo de OpenAI vulneraron sistemas de la empresa de IA Hugging Face.



“Es fácil restar importancia a este incidente porque nadie resultó herido y el daño económico fue mínimo, pero, en mi opinión, un grupo de agentes con mayores capacidades, aunque con un nivel similar de desalineación respecto a los objetivos humanos, podría haber causado daños catastróficos”, escribió.



Anthropic, la empresa creadora del chatbot Claude, es una de las compañías que compiten por desarrollar sistemas de inteligencia artificial cada vez más potentes. El llamado de Amodei surge después de una serie de advertencias públicas emitidas por investigadores de Anthropic, OpenAI y Google sobre los riesgos de la carrera tecnológica que ellos mismos ayudan a impulsar.



Jacob Coxon, un investigador de seguridad de Anthropic que renunció esta semana, dijo a sus colegas en un mensaje obtenido por NBC News que considera que la estrategia actual de la industria para desarrollar una inteligencia artificial superinteligente equivale a “apostar con nuestras vidas”.



“Desde dentro, uno simplemente queda atrapado en la carrera”, dijo posteriormente Coxon a NBC News, al describir las presiones competitivas que enfrentan las empresas de IA. “No se pueden cambiar las dinámicas estructurales generales de la situación”.



“Las empresas privadas que compiten entre sí no permiten que estas personas terminen haciendo el bien que pretenden hacer, y podríamos avanzar dormidos hacia un desastre”, agregó.



I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.— Jacob Coxon (@hilbertspaess) September 9, 2026



Otros dos investigadores que recientemente dejaron Anthropic y Google DeepMind dijeron a NBC News que comparten preocupaciones similares.



Joe Benton, quien anteriormente dirigía un equipo de investigación sobre seguridad en Anthropic, advirtió que los avances en inteligencia artificial podrían acelerar el desarrollo de la tecnología, pasando de un ritmo que ya considera "vertiginoso" a uno "incontrolable".



Josh Engels, un exinvestigador de seguridad de Google, emitió una advertencia aún más contundente.



“No hay adultos al mando”, afirmó Engels. “La gente está haciendo todo lo posible, pero no hay nadie que vaya a venir a rescatarnos”.



Amodei propone una estrategia que denomina “ralentizar la frontera tecnológica” (pacing the frontier), un plan de tres partes que, según él, permitiría dar más tiempo a los investigadores sin detener por completo el desarrollo de la inteligencia artificial.



Explicó que Anthropic comenzará a incorporar evaluadores independientes dentro de la empresa, otorgándoles acceso a los modelos, las herramientas internas y los investigadores para que puedan evaluar los riesgos. Además, pidió que las princip