¿La IA podría acabar con la humanidad? Algunos investigadores dicen que sí

Durante años, investigadores en inteligencia artificial han advertido sobre las formas en que la tecnología podría acabar con la humanidad: sus bots podrían diseñar una enfermedad imparable, desatar una guerra nuclear o transformar todo el planeta Tierra en fábricas de clips, como plantea un experimento mental.



Los debates dentro de la industria de la inteligencia artificial y fuera de ella sobre la plausibilidad de estos escenarios apocalípticos se han intensificado desde que varios ejecutivos respaldaron la idea de frenar el desarrollo de la tecnología por motivos de seguridad.



Pese a las advertencias sobre la posibilidad de que los humanos pierdan el control de la tecnología, algunos sospechan que los peores escenarios descritos por las propias empresas de IA tienen más que ver con validar la importancia de su trabajo que con la realidad.



“Estos argumentos simplemente no se sostienen. Creo que son ciencia ficción y resultan atractivos para cierto estilo infantil de pensamiento, y es muy tentador para los laboratorios de vanguardia porque les ayuda a reclutar a cierto tipo de gente”, afirmó Juan Andrés Guerrero-Saade, investigador de la firma de ciberseguridad SentinelOne y miembro del Frontier Risk Council de OpenAI.


















Inteligencia artificial

19 Sep




Denuncian que acuerdo de Anthropic, Open IA y Google para frenar la IA es ilegal

















Inteligencia artificial

22 Sep




Trump pide que la IA pase a llamarse "superinteligencia"








Aun así, cada vez más personas empiezan a preocuparse por los riesgos de la tecnología que ha deslumbrado al mundo con sus asombrosas capacidades.



Jacob Coxon, el investigador de Anthropic que renunció por la preocupación de que la compañía y sus competidores no estén actuando de manera responsable en el desarrollo de la IA, comentó recientemente en X que necesita “trabajar” en comunicar a la gente con mayor eficacia cómo acabaría exactamente la IA con la humanidad. “Por desgracia es muy difícil transmitir escenarios específicos”, escribió a principios de este mes.



I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.— Jacob Coxon (@hilbertspaess) September 9, 2026



Estos son algunos de los escenarios apocalípticos más comentados.



Invierno nuclear



Durante mucho tiempo, los investigadores han especulado con que los sistemas de IA podrían desencadenar una guerra nuclear al hacer que los países se disparen mutuamente misiles con ojivas nucleares. Las explosiones y la posterior y persistente lluvia radiactiva en la atmósfera, que daría lugar a un “invierno nuclear”, podrían devastar la vida en la Tierra.



En un reporte del año pasado, investigadores de RAND Corp. concluyeron que “en la actualidad” no sería posible que la IA provocara el uso de armas nucleares “debido a las estrictas salvaguardas incorporadas en los sistemas de mando y control”. Sin embargo, el informe señaló que esto podría cambiar si los modelos de inteligencia artificial se integran en la “cadena de decisiones” sobre este armamento o si obtienen acceso no autorizado a esos sistemas.



Para muchos investigadores de IA, es ahí donde reside el peligro: no en que los agentes de inteligencia artificial decidan de repente acabar con la humanidad, sino en que personas, naciones o grupos la utilicen para aniquilar a sus adversarios.



Armas biológicas



Una de las mayores promesas de la IA es que podría ayudar a la humanidad a desarrollar tratamientos y curas para enfermedades.



La otra cara de la moneda es crearlas o potenciarlas para dañar a los humanos. Anthropic indicó a principios de mes que ha bloqueado intentos de actores maliciosos de usar su IA para una serie de actividades perjudiciales, como ciberataques, vigilancia e investigaciones que podrían haber conducido a armas biológicas.



En un caso, Anthropic explicó que sus sistemas bloquearon una solicitud de ayuda a su herramienta Claude para una propuesta de investigación que buscaba potenciar mutaciones para hacer que el virus chikungunya (transmitido por mosquitos), fuera cada vez más dañino. Aunque esa investigación podría utilizarse para desarrollar mejores vacunas y tratamientos, señaló Anthropic, “también podría usarse para hacer qu