Oficial y confirmado: Gavin Newsom avanza con una ley que busca “Apagar la IA” en California
El gobernador de California, Gavin Newsom, firmó una orden ejecutiva que acelera la aplicación de nuevas normas de supervisión independiente sobre los ...
El gobernador de California, Gavin Newsom, firmó una orden ejecutiva que acelera la aplicación de nuevas normas de supervisión independiente sobre los sistemas de inteligencia artificial (IA) y abre el camino para estudiar mecanismos adicionales de seguridad, entre ellos un denominado “interruptor de apagado”. Aunque la medida no crea por sí sola ese mecanismo, establece plazos y ordena preparar recomendaciones para incorporarlo a la legislación estatal.
Gavin Newsom acelera la supervisión de la inteligencia artificial en CaliforniaLa orden ejecutiva fue firmada por Gavin Newsom el 18 de septiembre de 2026 y entra en vigor de manera inmediata. En el documento, el gobernador sostiene que California debe actuar frente a los riesgos asociados con el desarrollo de modelos de inteligencia artificial, especialmente ante incidentes recientes que el documento vincula con riesgos de seguridad y pérdida de control.
La disposición se apoya en una serie de medidas que el estado ya adoptó en los últimos años. Según el comunicado de prensa difundido por la oficina del gobernador, la nueva orden busca acelerar la supervisión independiente de las compañías de IA y avanzar en la creación de mecanismos que permitan reaccionar ante situaciones consideradas críticas.
Los principales puntos de la nueva orden son:
Acelerar la implementación de los mecanismos estatales para certificar organizaciones independientes capaces de verificar la seguridad de sistemas y modelos de IA. Adelantar las medidas relacionadas con el registro y la supervisión de los auditores especializados en inteligencia artificial. Solicitar recomendaciones sobre la posibilidad de incorporar organizaciones independientes dentro de los laboratorios de los grandes desarrolladores de modelos avanzados. Analizar la posibilidad de que los marcos de seguridad, los informes de transparencia y las evaluaciones de riesgo sean verificados de manera independiente. Estudiar la creación de un “kill switch” o interruptor de emergencia para modelos de IA de frontera. Evaluar mecanismos para comprobar periódicamente que ese sistema de apagado funcione correctamente. Evaluar la actualización de la definición de los incidentes críticos de seguridad para incluir situaciones de pérdida de control de los sistemas.La orden ejecutiva establece que la Agencia de Operaciones Gubernamentales deberá presentar, a más tardar el 16 de noviembre de 2026, recomendaciones elaboradas junto con expertos nacionales sobre la viabilidad técnica y la posible eficacia de modificaciones a las leyes estatales existentes sobre seguridad de la inteligencia artificial.
Qué es el “kill switch” para modelos de IA que estudia CaliforniaLa medida no establece que los sistemas de inteligencia artificial serán apagados de manera general ni dispone el cierre de compañías tecnológicas. Lo que hace es ordenar que se estudie una modificación legal que podría exigir a los desarrolladores contar con un mecanismo de este tipo.
El documento plantea específicamente la posibilidad de exigir la creación de un “kill switch” para los modelos de frontera y que su eficacia sea verificada de manera permanente por una organización independiente.
El objetivo planteado es contar con una herramienta que permita responder ante determinados escenarios de seguridad. La propuesta se integra dentro de un esquema más amplio de controles, auditorías y evaluaciones externas, en lugar de funcionar como una medida aislada.
La orden también contempla actualizar la definición de los incidentes críticos que las compañías de inteligencia artificial deben comunicar. La intención es incluir diferentes situaciones de pérdida de control de los sistemas, con referencia a incidentes recientes mencionados en el propio documento.
California evalúa auditorías independientes dentro de laboratorios de IALas modificaciones que deberán analizarse durante los próximos meses también contemplan una modalidad de supervisión directa. La orden contempla la posibilidad de exigir que los grandes desarrolladores de modelos de frontera incorporen organizaciones independientes de verificación que operen dentro de sus laboratorios.
Esas entidades tendrían que realizar auditorías y evaluaciones periódicas. La intención es que el control no se limite a los informes que las compañías presentan ante las autoridades, sino que exista una instancia externa con capacidad técnica para revisar los sistemas.
También deberá estudiarse que los marcos de seguridad, los informes de transparencia y las evaluaciones de riesgo que las empresas están obligadas a presentar sean sometidos a una verificación independiente bajo estándares considerados adecuados por las organizaciones certificadas.
La medida busca, de esta manera, ampliar el nivel de control sobre la información que las compañías proporcionan acerca de los riesgos y mecanismos de seguridad de sus modelos.