California impulsa un interruptor de IA con orden de Newsom

California abrió una nueva etapa en su regulación tecnológica al acelerar la supervisión de los sistemas avanzados de inteligencia artificial. El gobernador Gavin Newsom firmó una orden ejecutiva que pide evaluar un interruptor de IA para modelos de frontera y reforzar la verificación independiente de sus medidas de seguridad. La instrucción no crea todavía un mecanismo obligatorio de apagado: encarga a agencias estatales y especialistas desarrollar recomendaciones en un plazo de dos meses. El gobierno californiano también plantea auditorías independientes, revisión de planes de seguridad y una actualización de los criterios utilizados para reportar incidentes críticos relacionados con pérdida de control.

California estudia un interruptor de IA para modelos avanzados

La orden instruye a la Government Operations Agency, en consulta con la oficina estatal de emergencias, a convocar especialistas y presentar recomendaciones para fortalecer las leyes de seguridad de inteligencia artificial. Entre las opciones está exigir que los desarrolladores de modelos de frontera incorporen un mecanismo de apagado de emergencia cuya eficacia pueda verificarse de forma continua por organizaciones independientes. El planteamiento es, por ahora, una ruta de evaluación regulatoria y no la imposición inmediata de un botón estatal para desconectar sistemas.

Auditorías independientes y reportes de incidentes

Newsom también ordenó acelerar la implementación de SB 813 y AB 1405, normas estatales relacionadas con verificación y auditoría independiente de sistemas de IA. Las recomendaciones deberán analizar si verificadores externos deben revisar planes de seguridad, informes de transparencia y evaluaciones de riesgo. Además, California busca ampliar la definición de incidentes críticos para abarcar episodios de pérdida de control. La oficina del gobernador fijó un horizonte de dos meses para elaborar la guía.

Newsom confronta la falta de regulación federal

Al anunciar la medida, Newsom criticó al gobierno federal y sostuvo que la ausencia de una supervisión nacional significativa debería preocupar a la población. La declaración forma parte de una disputa política más amplia sobre qué nivel de gobierno debe establecer reglas para la inteligencia artificial. Más allá de esa confrontación, el contenido operativo de la orden se concentra en controles verificables, auditorías y recomendaciones técnicas para modelos de frontera.

El siguiente paso será convertir la evaluación en reglas aplicables

El alcance real de la orden dependerá de las recomendaciones técnicas y de los cambios legales que California decida adoptar después. La discusión central será cómo diseñar un interruptor de IA que pueda funcionar en una emergencia sin crear una falsa sensación de control, y cómo verificar de manera independiente que las empresas cumplen los estándares de seguridad.