California exigirá botón de emergencia para IA avanzada
Telemundo 48 — Área de la Bahía · hace 4 días
LOS ÁNGELES – Las empresas de inteligencia artificial que operan en el sur de California y en todo el estado podrían enfrentar una mayor supervisión independiente de seguridad y la exigencia de un "interruptor de emergencia" (kill switch), según una orden ejecutiva emitida hoy por el gobernador Gavin Newsom.
La orden instruye a la Agencia de Operaciones del gobierno de California a acelerar la implementación de las leyes de supervisión de IA recientemente promulgadas y, en consulta con la Oficina de Servicios de Emergencia del Gobernador, convocar a expertos nacionales para que recomienden medidas de seguridad adicionales para los sistemas avanzados de IA.
Se espera que el grupo presente recomendaciones en un plazo de dos meses sobre cómo California podría fortalecer sus leyes de seguridad de IA.
Tecnología
Hace 21 horas
Alertan sobre nuevas y preocupantes conductas de la inteligencia artificial
Inteligencia artificial
Hace 12 horas
OpenAI informa de "comportamientos inesperados" en modelos de inteligencia artificial
Entre las propuestas que se considerarán se encuentra:
La exigencia de que las empresas que desarrollan modelos de IA avanzados o de vanguardia creen un mecanismo de apagado de emergencia, conocido comúnmente como interruptor de emergencia.
La eficacia de dicho sistema podría estar sujeta a verificación continua por parte de una organización independiente.
Los expertos también considerarán exigir a las empresas de IA de vanguardia que cuenten con organizaciones de verificación independientes en sus instalaciones para realizar auditorías y evaluaciones periódicas.
Otros cambios potenciales incluyen exigir la verificación independiente de los marcos de seguridad, los informes de transparencia y las evaluaciones de riesgos presentados por las empresas de IA, y ampliar la definición estatal de incidentes críticos de seguridad para incluir incidentes que impliquen una pérdida de control.
No vamos a esperar para actuar; vamos a acelerar nuestro trabajo en una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde. Lo haremos con detenimiento, pero con urgencia; hay demasiado en juego como para esperar o retrasar la acción.Gobernador de California, Gavin Newsom
¿En qué consiste la ley 813?
La orden ejecutiva se produce tras la firma por parte de Newsom la semana pasada del Proyecto de Ley del Senado 813 y el Proyecto de Ley de la Asamblea 1405, que establecieron nuevos requisitos relacionados con evaluaciones y auditorías independientes de los sistemas de IA.
La ley SB 813 establece un marco para certificar a las organizaciones de verificación independientes que evalúan los sistemas y modelos de IA para verificar su cumplimiento con la legislación estatal.
"Mientras Washington elude su responsabilidad de proteger a los estadounidenses, California está construyendo sobre el marco regulatorio de IA más sólido del país", afirmó Newsom. "California ya ha creado un modelo nacional, y nuestra política debería ser la referencia nacional".
Por su parte, la ley AB 1405 crea un registro estatal de auditores de IA y establece estándares que rigen su independencia, transparencia e integridad.
La orden de Newsom instruye a los funcionarios estatales a acelerar la implementación de ambas leyes.
La oficina del gobernador indicó que la medida se debió en parte a los recientes incidentes de seguridad relacionados con la IA y a las preocupaciones expresadas por investigadores y líderes de la industria sobre los sistemas de IA cada vez más potentes.
Newsom pide al gobierno federal que actúe
Newsom también instó al gobierno federal a adoptar el marco regulatorio de IA de California o a utilizar los estándares estatales como base para la regulación nacional.
California ya exige a los desarrolladores de modelos de IA de vanguardia que divulguen públicamente sus marcos de seguridad e informen sobre incidentes críticos de seguridad específicos, según la legislación que Newsom firmó en 2025.
El estado también ha promulgado leyes que regulan a los auditores de IA, los chatbots de acompañamiento utilizados por niños, el contenido generado por IA, la privacidad y el uso de la inteligencia artificial por parte del gobierno estatal.
