¿Puede la IA perder el control y amenazar a la humanidad? Esto es lo que dicen algunos de los mayores expertos del mundo

El principal comité internacional de expertos en IA, reunido por la ONU, ha alertado de que la posibilidad de que la IA se salga de control es real y de "consecuencias catastróficas"Anthropic asegura que ha detenido varios intentos de crear armas biológicas con su IA
Jacob Coxon ha vuelto sembrar de miedo las actividades de la industria de la inteligencia artificial. Este ingeniero de 27 años, extrabajador de OpenAI y de Anthropic, se ha colocado en las portadas de medio mundo tras dimitir de esta última empresa. El motivo es lo ha hecho con un llamamiento público a toda la humanidad: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.

Coxon no ha ofrecido pruebas de estos hechos más allá de su testimonio. Apoyado en lo que ha visto en ambos laboratorios (estuvo cerca de tres años en OpenAI y un par de meses en Anthropic), denuncia que el peligro es mucho más real de lo que muchos creen. “No subestiméis el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, publicó en las redes sociales tras su dimisión.

“El consenso es que el próximo año o dos será el momento decisivo para la humanidad”, insistió posteriormente en una entrevista con la CNN. Su dimisión ha prendido de nuevo el debate sobre el riesgo existencial de la IA que viene fraguándose desde la salida a la luz de ChatGPT.

Es una conversación en la que se mezclan conceptos propios de la ciencia ficción, el descreimiento de quienes ven en estas advertencias otro ejemplo del autobombo y el marketing del miedo característicos de la industria tecnológica, con riesgos que sí tienen un anclaje técnico y están siendo estudiados por los científicos. Coxon podría estar exagerando en el calendario o en la certeza de sus predicciones, pero eso no significa que los dos problemas de fondo que señala sean inventados.

El primero es la opacidad de los laboratorios respecto a lo que pueden hacer realmente sus sistemas. Se trata de una acusación que ha perseguido durante años a las grandes tecnológicas, pero cuya relevancia se ha multiplicado en la era de la IA. El joven ingeniero es solo el último en alertar de ello: hace unas semanas era el propio Bill Gates el que advertía que esta falta de transparencia es uno de los grandes problemas de la humanidad. Antes de ellos fueron numerosos especialistas críticos con estas empresas los que avisaron que esta forma de actuar impide que el resto de científicos, la ciudadanía y los reguladores tengan información suficiente sobre esta tecnología clave.

El segundo problema señalado por Coxon es puramente técnico. Dada la creciente capacidad autónoma de los sistemas de IA, ¿qué ocurrirá si estos empiezan a comportarse de manera diferente a como esperaban sus creadores en su intento de cumplir las tareas que se les han encomendado?
El riesgo de perder el control
Muchas personas de la industria de la IA piden habitualmente la creación de un organismo internacional formado por expertos que siga sus avances y proponga soluciones para sus riesgos. Lo cierto es que ese ente ya existe, está dentro de la ONU y cuenta con un comité asesor internacional formado por 40 miembros. Están dirigidos por el canadiense Yoshua Bengio, considerado uno de los “padres” de la IA y ganador del premio Turing (el Nobel de la informática), y la filipina Maria Ressa, premio Nobel de la Paz.

Naciones Unidas aprobó su creación en 2025, estableciendo un mandato de tres años que comenzó el pasado febrero. Durante ese período, sus miembros, entre los que hay representantes de centros de investigación, del sector privado y de los laboratorios de las empresas tecnológicas, actúan “a título personal en calidad de expertos científicamente independientes”. Su misión es “documentar el consenso y las discrepancias científicas” en torno a la IA desde un prisma “estrictamente científico y apolítico”.

Su primer informe preliminar se publicó en julio y trata en profundidad los dos grandes problemas que ha denunciado Coxon. “La asimetría de información entre las empresas y la sociedad” es uno de los 8 grandes problemas estructurales de la IA actual que recogen: “Las capacidades de la inteligencia artificial avanzan más rápido que nuestra capacidad para medirlas o gobernarlas”. Otro de ellos es “la pérdida de control”.





A medida que se concede mayor capacidad de agencia a los sistemas, el riesgo de perder el control sobre uno o varios agentes de IA aumenta considerablemente

Comité de expertos de la ONU




El informe circunscribe este riesgo a los llamados “agentes de IA”. Se trata de sistemas diseñados no solo para responder a una petición, sino para ej