Cristian Canton, ingeniero y exjefe de IA en Meta: "No nos va a matar a todos"

"Fue demasiado prematuro decir eso", dice el responsable de la investigación en IA del Centro Nacional de Supercomputación, que señala que "el riesgo real está en el mal uso" de la tecnología por "actores con malas intenciones"Tribuna abierta - La IA se ha caído de un guindo
“Coxon exageraba”, opina Cristian Canton (Terrassa, 1980). Este ingeniero de Telecomunicaciones, doctorado en visión por computador, lleva dos décadas en la industria que ahora discute si sus productos pueden acabar con la humanidad. Todo tras la denuncia de otro ingeniero, Jacob Coxon, que afirma que la IA podría “matarnos a todos” antes de 2030 y que los laboratorios donde se investiga esta tecnología lo saben, pero han decidido ocultar el riesgo en su carrera desenfrenada por avanzar.

“La IA no nos va a matar a todos”, dice Canton. Sabe de lo que habla. Tras pasar varios años investigando los sistemas de aprendizaje automático para Microsoft, llegó a Facebook en 2016. Allí creó el primer Red Team de IA de la industria, como se conoce al grupo encargado de poner a prueba los sistemas para saber cómo podrían fallar o si pueden ser usados con fines dañinos. Desde 2021, dirigió el área de Inteligencia Artificial Responsable de Meta, con un papel clave en Llama, el gran modelo de lenguaje de la compañía.

Desde 2025, Canton es el director asociado del Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC), uno de los buques insignia de la investigación europea en la era de la IA y los albores de la cuántica. En esta entrevista con elDiario.es, habla de la “profunda transformación social” que viene y reconoce los riesgos de estos sistemas, pero sin asumir los marcos que está intentando imponer la industria: “Coxon exageraba, pero no me parece mal que lo haya hecho, porque nos ha obligado a poner este debate sobre la mesa”.

Dario Amodei, CEO de Anthropic, cree que un enjambre de pequeños sistemas de IA autónomos podría escapar al control humano y producir "daños catástroficos" en un plazo de 6 a 12 meses. Es un giro respecto a la perspectiva anterior de Silicon Valley, que se basaba en que los modelos llegaran a “pensar” o “hacerse conscientes”. ¿Le parece real ese riesgo de perder el control de los sistemas actuales?

En su carta, Dario Amodei no plantea que la IA llegue a pensar o a ser consciente, sino que pone de relieve la velocidad a la que está avanzando y, sobre todo, las capacidades que adquiere al poder interactuar con herramientas: acceder a internet, a un compilador o a cualquier otro recurso. Eso le otorga un potencial enorme que crece cada día.

¿Hasta qué punto deberíamos preocuparnos?

Al final, la IA no piensa. Cuando le das una instrucción (como ocurrió en el incidente entre Hugging Face y OpenAI, donde le pidieron al agente que consiguiera unos datos sin fijar más parámetros), el sistema utiliza todo su repertorio de herramientas para alcanzar el objetivo. Si eso implica acceder de forma ilícita a un servidor, lo hará. Por eso es indispensable establecer parámetros de contorno: delimitar con claridad cómo debe ejecutar la tarea y bajo qué límites. Tenemos que guiar a esta IA, porque su potencial operativo es enorme.





La IA no piensa. Cuando le das una instrucción, utiliza todo su repertorio de herramientas para alcanzar el objetivo. Si eso implica acceder de forma ilícita a un servidor, lo hará. Por eso es indispensable delimitar con claridad cómo debe ejecutar la tarea y bajo qué límites. Tenemos que guiarla



Lo vimos la semana pasada con la resolución de las ecuaciones de Navier-Stokes: 10.000 agentes coordinados fueron capaces de resolver problemas que hace poco considerábamos casi imposibles de abordar en mucho tiempo.

¿Se podría estar utilizando este debate para eludir otros riesgos más inmediatos?

No lo creo. El riesgo real está en el mal uso: una IA muy poderosa desplegada en entornos que carecen de las recetas de seguridad necesarias. Los riesgos que afrontamos están bastante claros. La clave es asumir que, al mismo ritmo vertiginoso al que avanzan las capacidades de la IA, debemos desarrollar en paralelo las medidas de seguridad para que, si algo se sale de control, dispongamos de mecanismos para mitigarlo.

Todo se produce a raíz de las declaraciones de la semana pasada de Jacob Coxon, un exingeniero de Anthropic que afirma que la podría “matarnos a todos” antes de 2030 y que en los laboratorios donde se investiga esta tecnología lo saben, pero han decidido ocultar el riesgo. ¿Cree que la denuncia de Coxon puede ajustarse a la realidad o que puede estar exagerando?

Creo que fue demasiado prematuro decir esto. Ni la IA nos va a matar a todos, ni va a suponer un riesgo existencial para el ser humano. No es una visión compartida y creo que plantea un escenario excesivamente negativo; no es que vayamos a ver la s