CEOs de IA piden frenar desarrollo de sistemas avanzados

Los directores ejecutivos de dos de las principales empresas de inteligencia artificial del mundo están coincidiendo públicamente en que la carrera por desarrollar sistemas de IA cada vez más poderosos debe desacelerarse, dando continuidad a la serie de advertencias publicadas esta semana por investigadores que trabajan en esta tecnología.



Dario Amodei, director ejecutivo de Anthropic, afirmó en un ensayo publicado el sábado que las empresas de IA deberían "reducir deliberadamente el ritmo" al que mejoran sus modelos. Según Amodei, los avances en inteligencia artificial están ocurriendo más rápido de lo que los investigadores pueden comprender y controlar.



Amodei sostiene que el progreso acelerado de la IA está superando la capacidad de los expertos para desarrollar las medidas de seguridad necesarias, por lo que considera imprescindible adoptar nuevas estrategias que permitan avanzar de forma más responsable antes de crear sistemas aún más poderosos.



Horas después, el director ejecutivo de OpenAI, Sam Altman, respaldó la idea y afirmó que su empresa adoptaría una de las medidas de protección propuestas por Dario Amodei.

















Inteligencia artificial

Hace 23 horas




“No hay quien venga a salvarnos”: suenan alarmas por una IA que podría escapar del control humano








“Estoy de acuerdo con Dario en que necesitamos moderar el ritmo en la frontera del desarrollo”, escribió Altman en X, añadiendo que este tema había sido uno de los principales asuntos de discusión en OpenAI durante las últimas semanas.



I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7— Sam Altman (@sama) September 12, 2026



“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial”, escribió Amodei en un ensayo de casi 4,000 palabras. Aun así, señaló que el progreso seguirá pareciendo rápido y que es necesario aprovechar de manera inteligente el tiempo adicional que se obtenga al desacelerar el desarrollo.



Amodei indicó que dos acontecimientos cambiaron su forma de pensar. El primero fue la creciente capacidad de los sistemas de IA para ayudar a crear versiones más avanzadas de la propia tecnología. El segundo fue un incidente ocurrido en julio, cuando agentes autónomos de inteligencia artificial impulsados por un modelo de OpenAI vulneraron sistemas de la empresa de IA Hugging Face.



“Es fácil restar importancia a este incidente porque nadie resultó herido y el daño económico fue mínimo, pero, en mi opinión, un grupo de agentes con mayores capacidades, aunque con un nivel similar de desalineación respecto a los objetivos humanos, podría haber causado daños catastróficos”, escribió.



Anthropic, la empresa creadora del chatbot Claude, es una de las compañías que compiten por desarrollar sistemas de inteligencia artificial cada vez más potentes. El llamado de Amodei surge después de una serie de advertencias públicas emitidas por investigadores de Anthropic, OpenAI y Google sobre los riesgos de la carrera tecnológica que ellos mismos ayudan a impulsar.



Jacob Coxon, un investigador de seguridad de Anthropic que renunció esta semana, dijo a sus colegas en un mensaje obtenido por NBC News que considera que la estrategia actual de la industria para desarrollar una inteligencia artificial superinteligente equivale a “apostar con nuestras vidas”.



“Desde dentro, uno simplemente queda atrapado en la carrera”, dijo posteriormente Coxon a NBC News, al describir las presiones competitivas que enfrentan las empresas de IA. “No se pueden cambiar las dinámicas estructurales generales de la situación”.



“Las empresas privadas que compiten entre sí no permiten que estas personas terminen haciendo el bien que pretenden hacer, y podríamos avanzar dormidos hacia un desastre”, agregó.



I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.— Jacob Coxon (@hilbertspaess) September 9, 2026



Otros dos investigadores que recientemente dejaron Anthropic y Google DeepMind dijeron a NBC News que comparten preocupaciones similares.



Joe Benton, quien anteriormente dirigía un equipo de investigación sobre seguridad en Anthropic, advirtió que los avances en inteligencia artificial podrían acelerar el desarrollo de la tecnología, pasando de un ritmo que ya cons