Home / IA & ML / California propone apagado de emergencia y auditorías para IA
California propone apagado de emergencia y auditorías para IA

California propone apagado de emergencia y auditorías para IA

19 November 2026 · 22 min de lectura ··

California vuelve a mover ficha en la regulación de la IA de frontera

El gobernador de California, Gavin Newsom, presentó el 18 de noviembre de 2026 un conjunto de recomendaciones para endurecer la seguridad de los modelos de inteligencia artificial más potentes. El documento, titulado “AI Safety in 2026 and Beyond”, tiene 85 páginas y fue elaborado por la Agencia de Operaciones de Gobierno junto con la Oficina de Servicios de Emergencia del estado y cuatro asesores externos. Su propósito es trazar el camino que debería seguir el estado que alberga a buena parte de los grandes laboratorios de IA del mundo para pasar de la transparencia voluntaria a obligaciones técnicas verificables.

Conviene empezar por una precisión que condiciona todo lo demás: no se trata de una ley aprobada. Son recomendaciones. Cualquiera de las medidas que se describen en el informe necesitaría que la Legislatura estatal apruebe nuevas normas o que las agencias competentes actúen dentro de las facultades que ya tienen. Hasta entonces, lo que existe es una hoja de ruta política con un contenido técnico muy concreto, que marca el rumbo que el Ejecutivo californiano quiere imponer al debate.

Entre las propuestas figuran estándares base obligatorios de seguridad, protección y transparencia para los grandes desarrolladores, pruebas independientes durante todo el ciclo de vida del modelo, protocolos de contención de riesgos, un plazo de 48 horas para notificar incidentes críticos y una autoridad con capacidad de ordenar el apagado inmediato de un modelo que represente un peligro inminente. También se plantea la posibilidad de limitar los sistemas capaces de diseñar a sus propios sucesores.

Para quienes desarrollan software con IA, ya sea entrenando modelos, integrándolos en productos o simplemente consumiendo sus interfaces, el informe importa por dos razones. La primera es que anticipa qué tipo de exigencias podrían trasladarse a la cadena de suministro. La segunda es que California suele funcionar como laboratorio regulatorio: lo que allí se define termina influyendo en contratos, auditorías internas y decisiones de arquitectura de empresas que ni siquiera tienen sede en el estado.

Qué es exactamente el informe y quién lo firma

El texto surge de una colaboración entre dos organismos del propio gobierno estatal. La Agencia de Operaciones de Gobierno es la estructura encargada de la tecnología y la contratación pública, y la Oficina de Servicios de Emergencia coordina la respuesta ante desastres y crisis. Que ambas hayan participado dice mucho del enfoque: el informe no trata la IA solo como un asunto de consumo o de competencia económica, sino como una fuente potencial de incidentes con consecuencias que exigen respuesta de emergencia.

A ellas se suman cuatro asesores externos, que aportaron conocimiento técnico y académico. El formato de informe con recomendaciones es habitual cuando un gobierno quiere abrir una discusión sin comprometerse todavía con un texto legal concreto. Permite fijar prioridades, medir la reacción de la industria y dar a los legisladores un punto de partida que ya incorpora cierto consenso técnico.

Es importante distinguir entre lo que el documento propone y lo que ya está en vigor. El informe se apoya en leyes previas, que se explican más abajo, y sugiere cómo ampliarlas o acelerarlas. Pero no crea por sí mismo obligaciones para ninguna empresa. Un equipo de ingeniería que hoy lea el documento no tiene nada que cumplir de manera inmediata; lo que sí tiene es una señal clara de hacia dónde apunta la regulación.

Los antecedentes: SB 53 y la transparencia de 2025

La propuesta no parte de cero. En 2025 California aprobó la SB 53, una ley de transparencia para la IA de frontera. Esa norma fue el primer paso para exigir a los desarrolladores de los modelos más grandes que expliquen cómo gestionan los riesgos y que informen sobre determinados incidentes. El nuevo informe la toma como cimiento y plantea que la transparencia, aunque necesaria, no basta cuando los modelos ganan capacidad y autonomía.

La lógica es conocida en otros sectores. Primero se obliga a publicar información y a notificar problemas; después, si la experiencia demuestra que la divulgación no evita los daños, se pasa a fijar estándares mínimos y a crear mecanismos de verificación externa. Es el recorrido que han seguido la seguridad aérea, la farmacéutica o los servicios financieros. La propuesta californiana intenta acortar ese trayecto para la IA, argumentando que los riesgos de un sistema avanzado pueden materializarse más rápido que el ciclo habitual de reforma legal.

Un dato operativo ilustra el cambio de enfoque. Hoy el plazo para reportar incidentes críticos es de 15 días. El informe propone reducirlo a 48 horas. Pasar de más de dos semanas a dos días implica que el desarrollador debe tener procesos de detección, clasificación y escalado funcionando con una madurez comparable a la de un equipo de respuesta a incidentes de seguridad informática en una empresa con operaciones críticas.

Estándares base obligatorios para los grandes desarrolladores

El primer pilar de la propuesta es la creación de estándares base obligatorios de seguridad, protección y transparencia. La palabra clave es “obligatorios”. Hasta ahora, buena parte de las prácticas de seguridad de los laboratorios de IA descansan en compromisos voluntarios, marcos internos de gestión de riesgos y políticas publicadas por cada empresa. El informe sugiere que ese modelo de autorregulación ya no es suficiente para los sistemas más potentes.

Los estándares se dirigen a los grandes desarrolladores, no a cualquier organización que utilice IA. Esta delimitación es relevante para el ecosistema de software. La idea es concentrar las exigencias más duras en quienes entrenan y despliegan modelos de frontera, donde el riesgo agregado es mayor, y evitar cargar con la misma burocracia a una pequeña empresa que integra un modelo de terceros en una aplicación.

Aun así, el efecto indirecto puede ser considerable. Cuando los proveedores de modelos asumen obligaciones, tienden a trasladarlas a sus clientes mediante términos de servicio, restricciones de uso y requisitos contractuales. Un equipo que construye sobre una interfaz de modelo avanzado podría encontrarse con cláusulas nuevas sobre registro de actividad, notificación de abusos o límites en determinados casos de uso.

Tres dimensiones aparecen en el planteamiento. La seguridad se refiere a evitar que el modelo cause daños o se comporte de forma peligrosa. La protección apunta a resguardar los pesos del modelo y la infraestructura frente a robos o accesos no autorizados. La transparencia exige explicar qué se hace, cómo se evalúa y qué se descubre. Las tres se tratan como una base mínima, no como un techo, y cada una se traduce en prácticas de ingeniería muy distintas.

Pruebas independientes durante entrenamiento, desarrollo y despliegue

El segundo pilar es la exigencia de pruebas de seguridad independientes. El informe no las limita al momento previo al lanzamiento, sino que las extiende a tres etapas: entrenamiento, desarrollo y despliegue. Es un cambio sustancial respecto de la práctica habitual de evaluar un modelo cuando ya está casi terminado, porque obliga a integrar la verificación como parte continua del proceso.

La palabra “independientes” es igual de importante. Una evaluación realizada por el propio laboratorio tiene valor, pero también un conflicto de intereses evidente: quien desea lanzar un producto no es el árbitro más neutral de su seguridad. La propuesta introduce terceros capaces de examinar el modelo con criterios propios, de modo que los resultados no dependan solo de la voluntad del desarrollador.

Para los equipos de ingeniería esto recuerda a los modelos de auditoría que ya existen en otros ámbitos. Igual que una certificación de seguridad de la información exige evidencias, trazabilidad y revisión externa, una evaluación independiente de un modelo requeriría documentar datos de entrenamiento, configuraciones, resultados de pruebas adversariales y decisiones de mitigación. Quien no tenga esa disciplina documental deberá construirla.

Existe además un efecto sobre los calendarios. Una prueba independiente consume tiempo y exige acceso al modelo, a veces a versiones intermedias. Los ciclos de lanzamiento que hoy se miden en semanas tendrían que incorporar ventanas de evaluación externa, algo que afecta tanto a los grandes laboratorios como a las empresas que dependen de sus actualizaciones para planificar sus propias entregas.

Protocolos de contención de riesgos

El informe también pide protocolos de contención de riesgos. En términos prácticos, se trata de definir de antemano qué hará un desarrollador si un modelo muestra capacidades peligrosas o un comportamiento inesperado: cómo se aísla, qué accesos se restringen, quién toma decisiones y bajo qué criterios se detiene un despliegue.

La contención es un concepto que los equipos de seguridad conocen bien. Se parece a los planes de respuesta ante incidentes, a los procedimientos de segmentación de red y a los interruptores de corte de las arquitecturas resilientes. La diferencia es que aquí el objeto contenido es un sistema cuyo comportamiento no siempre es completamente predecible y cuya capacidad puede crecer entre versiones.

Un protocolo útil exige tres elementos. Primero, umbrales claros que activen medidas de contención, de modo que no dependan de juicios improvisados. Segundo, capacidad técnica real para ejecutar esas medidas, como revocar credenciales, limitar el tráfico o retirar una versión. Tercero, ensayo periódico, porque un plan que nunca se prueba suele fallar cuando más se necesita. El documento californiano, al convertir estos protocolos en obligación, empuja a la industria hacia ese nivel de rigor.

Reporte de incidentes críticos en 48 horas

Uno de los cambios más concretos es el plazo de notificación. Con la regla actual, los desarrolladores disponen de 15 días para informar de un incidente crítico. La propuesta lo reduce a 48 horas. La diferencia refleja una preocupación evidente: si un modelo provoca o casi provoca un daño grave, esperar dos semanas para avisar a las autoridades puede dejar sin respuesta una situación que sigue evolucionando.

Un plazo tan corto obliga a trabajar con definiciones precisas. Qué cuenta como incidente crítico, quién lo declara y qué información mínima debe entregarse son cuestiones que cualquier texto legal deberá resolver. El informe plantea el principio, pero los detalles se discutirían en la fase legislativa o reglamentaria, y de ellos dependerá en gran medida la carga real para las empresas.

Desde el punto de vista de la ingeniería, cumplir con 48 horas exige observabilidad. Hay que registrar el comportamiento del modelo en producción, detectar anomalías, conservar evidencias y contar con un canal de escalado que funcione fuera del horario laboral. Las organizaciones que ya operan guardias de seguridad y gestionan incidentes con métricas de tiempo de detección y respuesta tendrán ventaja; las demás deberán invertir en esas capacidades.

El efecto se extiende a los contratos. Si un proveedor de modelos debe notificar en dos días, querrá que sus clientes le comuniquen a su vez cualquier suceso relevante con rapidez. Es previsible que aparezcan obligaciones de colaboración en los acuerdos de servicio, igual que ocurrió con las normas de protección de datos y las notificaciones de brechas.

La autoridad de apagado inmediato de emergencia

La medida que más atención concentra es la creación de una autoridad con poder para ordenar el apagado inmediato de un modelo cuando exista un peligro inminente y el desarrollador no actúe por su cuenta. Es, en esencia, un interruptor de emergencia con respaldo público. La idea es que, ante un riesgo grave e inmediato, el estado no dependa exclusivamente de la buena voluntad de la empresa para detener el sistema.

Un punto debe quedar claro: los resúmenes del informe difieren en los detalles sobre la revisión judicial de una orden de este tipo. Por esa razón, no es posible afirmar con certeza cómo se controlaría esa facultad ni qué recursos tendrían las empresas afectadas. Lo que sí está confirmado es el concepto central, un poder de apagado ante peligro inminente que se activaría si el desarrollador no lo hace voluntariamente.

La propuesta plantea preguntas técnicas y jurídicas de peso. En lo técnico, apagar un modelo no es una operación trivial cuando se sirve desde múltiples centros de datos, se distribuye mediante socios o se ejecuta en entornos de clientes. En lo jurídico, cualquier facultad de ese tipo requeriría criterios muy claros de qué se entiende por peligro inminente, quién decide y cómo se garantiza la proporcionalidad. Esos debates, previsiblemente intensos, definirán si la idea se convierte en norma y con qué forma.

Para un equipo que construye productos sobre un modelo ajeno, el escenario de un apagado forzoso es un riesgo de continuidad de negocio. Si el proveedor debe retirar un modelo con urgencia, las aplicaciones que dependen de él dejarían de funcionar. De ahí que la resiliencia, con alternativas de reserva y degradación controlada, deje de ser un lujo y pase a ser un requisito de diseño.

Limitar los sistemas que diseñan a sus sucesores

Otro elemento llamativo del informe es la propuesta de otorgar poder para limitar los sistemas que diseñan a sus propios sucesores, lo que en la literatura técnica se conoce como automejora recursiva. La preocupación es que un modelo capaz de mejorar de forma autónoma el sistema que lo reemplazará podría acelerar su evolución más allá de la capacidad humana de supervisarlo.

Es un asunto que durante años pareció teórico y que ahora aparece en documentos de política pública. Que un gobierno estatal lo incluya en sus recomendaciones indica que la discusión se ha desplazado desde la ciencia ficción hacia la planificación regulatoria. No significa que exista un consenso sobre la inminencia del fenómeno, pero sí que se considera prudente prever instrumentos antes de que el problema se materialice.

En la práctica, limitar la automejora recursiva exigiría definir qué grado de participación de un modelo en el diseño de otro resulta aceptable. Usar un asistente de programación para escribir partes de un sistema es algo cotidiano y no es lo que se pretende frenar. La frontera relevante está en los procesos donde el modelo dirige de forma sustancial la investigación, el entrenamiento o la selección de arquitecturas de su sucesor con poca intervención humana. Trazar esa línea con precisión será uno de los desafíos de cualquier texto legal.

SB 813 y AB 1405: la infraestructura de verificación

El informe se apoya también en la SB 813, que prevé la certificación de organizaciones de verificación independiente. Es la pieza que daría contenido práctico a la idea de pruebas independientes: no basta con exigir evaluaciones externas si no existe un conjunto reconocido de entidades capaces de realizarlas con garantías de competencia e imparcialidad.

Junto a ella aparece la AB 1405, que apunta a un registro de auditores de IA. Entre ambas se configuraría un ecosistema análogo al de la auditoría financiera o la certificación de calidad, donde terceros acreditados examinan a las organizaciones y emiten un dictamen. Newsom ordenó acelerar la tramitación de estas dos iniciativas, lo que muestra que el Ejecutivo considera la infraestructura de verificación un requisito previo para el resto de las medidas.

Para el mercado laboral y de servicios esto abre un espacio nuevo. Si las evaluaciones independientes se vuelven obligatorias, surgirá demanda de profesionales con perfiles mixtos: ingeniería de aprendizaje automático, seguridad ofensiva, evaluación de riesgos y cumplimiento normativo. Es una consecuencia directa que ya se vislumbra en la creación de centros públicos de prueba, como ocurrió cuando Nueva York abre un centro público para probar la IA de frontera, una iniciativa que muestra cómo otros estados exploran la capacidad de evaluar modelos por cuenta propia.

Un marco californiano como base nacional

El gobernador pidió al Congreso y al presidente Donald Trump que utilicen el marco de California como base para una regulación nacional. La petición responde a un problema conocido de la política tecnológica estadounidense: la existencia de un mosaico de normas estatales que complica la vida a las empresas y que podría generar tensiones con una eventual legislación federal.

Desde la perspectiva de Sacramento, ofrecer su modelo como plantilla tiene una ventaja estratégica. Si el Congreso adopta un enfoque similar, California habrá marcado las reglas del juego. Si no lo hace, el estado conserva la posibilidad de avanzar por su cuenta, aprovechando el peso económico de su ecosistema tecnológico. En ambos casos, el informe sirve para posicionarse en un debate donde la iniciativa política cuenta mucho.

Queda por ver cómo reaccionará la administración federal. Las posturas sobre la regulación de la IA no son uniformes dentro de Washington, y la tensión entre acelerar la innovación y reforzar la seguridad es una constante en las discusiones. La invitación de Newsom coloca la pelota en el tejado federal, pero no obliga a nadie a recogerla.

Qué cambiaría para los equipos que desarrollan con IA

Aunque las medidas apuntan a los grandes desarrolladores, el impacto para un equipo de ingeniería promedio no es nulo. El primer efecto previsible es contractual. Los proveedores de modelos de frontera, sometidos a estándares obligatorios, probablemente reforzarán sus condiciones de uso, sus políticas de acceso y sus mecanismos de supervisión. Un equipo que integra esos modelos debería revisar con atención los términos y estar preparado para solicitudes de información sobre el uso que hace de ellos.

El segundo efecto es la necesidad de trazabilidad. Si los incidentes deben reportarse en 48 horas, los proveedores exigirán a sus clientes mejores registros de actividad. Conviene que los equipos revisen qué datos guardan sobre las llamadas a modelos, cómo detectan comportamientos anómalos y cuánto tardan en reaccionar. Una base sólida de observabilidad es hoy una buena práctica y mañana podría ser una condición de contratación.

El tercero es la resiliencia ante la indisponibilidad de un modelo. Con un poder de apagado de emergencia sobre la mesa, depender de un único proveedor y de una única versión de modelo es una fragilidad. Resulta sensato diseñar capas de abstracción que permitan cambiar de modelo, mantener alternativas probadas y definir cómo se comporta la aplicación cuando el servicio de IA no está disponible.

El cuarto es la gestión de riesgos propia. Aunque la ley no obligue a una pequeña empresa, los clientes corporativos y las aseguradoras suelen exigir evidencias de buenas prácticas. Documentar casos de uso, evaluar riesgos de salidas incorrectas, limitar permisos de los agentes automatizados y probar el sistema ante entradas hostiles son medidas que reducen exposición y preparan para cualquier requisito futuro.

También se transforma la relación con los agentes autónomos. Cuanto más autonomía se concede a un sistema para ejecutar acciones, más relevante resulta contar con puntos de control, límites de privilegios y mecanismos de interrupción. Los principios que el informe aplica a los modelos de frontera, como la contención y el corte de emergencia, son trasladables a escala de aplicación: un buen diseño de agentes debería poder pararse con rapidez y de forma segura.

Seguridad de los pesos y protección de la infraestructura

La referencia a la protección como una de las tres dimensiones de los estándares base merece un apartado propio. En los modelos de frontera, los pesos son un activo de enorme valor y también un riesgo: si caen en manos equivocadas, cualquier salvaguarda aplicada por el desarrollador original puede desaparecer. La seguridad de esos archivos, de los entornos de entrenamiento y de las cadenas de suministro de datos y de software se convierte así en un asunto de seguridad pública.

Esto conecta con prácticas que los equipos de ciberseguridad ya dominan, como el control estricto de accesos, la segmentación de redes, el registro de auditoría y la vigilancia de amenazas internas. La novedad es la escala y la naturaleza del activo protegido. Un incidente que filtre un modelo avanzado no se parece a una fuga de datos convencional, porque lo que se pierde es una capacidad que puede reutilizarse sin límites.

El debate sobre los usos ofensivos de la IA añade complejidad. En el sector se discute cómo dar acceso a capacidades sensibles a profesionales verificados sin abrirlas a cualquiera, y un ejemplo reciente es cómo GPT-6 Cyber lleva la IA ofensiva a equipos verificados. Esa lógica de acceso condicionado a la verificación encaja con el espíritu del informe californiano, que busca que las capacidades más peligrosas estén rodeadas de controles proporcionales.

Voces a favor, dudas y tensiones

Una propuesta de esta magnitud genera posturas encontradas. Quienes defienden una regulación más firme sostienen que los riesgos de los sistemas avanzados justifican medidas obligatorias y verificables, y que la autorregulación tiene límites inherentes cuando existen incentivos competitivos para lanzar productos cuanto antes. Desde esta mirada, el informe supone un avance razonable que formaliza prácticas que los propios laboratorios dicen ya aplicar.

Otras posiciones advierten de costes y de riesgos para la innovación. Los plazos de notificación de 48 horas, las pruebas externas y las facultades de apagado podrían percibirse como cargas desproporcionadas, sobre todo si las definiciones son vagas. También se plantea el temor a que la exigencia regulatoria favorezca a las grandes empresas, que pueden absorber los costes de cumplimiento, frente a competidores más pequeños. Son preocupaciones habituales en cualquier debate regulatorio y aún no tienen respuesta, porque el texto definitivo no existe.

En medio hay un asunto de proporcionalidad y de fronteras jurisdiccionales. Un estado puede regular a las empresas que operan en su territorio, pero los modelos se entrenan y se sirven en infraestructura distribuida globalmente. Cómo se aplicaría un apagado ordenado por una autoridad californiana a un sistema que funciona en múltiples países es una de las incógnitas prácticas más difíciles.

Tampoco debe olvidarse el trasfondo de conflicto jurídico y social que rodea a la IA. Las disputas sobre responsabilidad y seguridad ya llegan a los tribunales, como ilustra el caso en que cuatro ONG demandan a Anthropic, OpenAI y Google para frenar la IA. Esa presión externa muestra que la sociedad civil reclama mecanismos de control, y el informe puede leerse como un intento de canalizar parte de esa demanda hacia un marco institucional.

Situación actual: qué está confirmado y qué falta

A fecha de 19 de noviembre de 2026, lo confirmado es lo siguiente. El gobernador presentó el 18 de noviembre un informe de 85 páginas con recomendaciones. El texto propone estándares obligatorios, pruebas independientes, protocolos de contención, reporte de incidentes en 48 horas, una autoridad de apagado de emergencia y la posibilidad de limitar la automejora recursiva. Newsom ordenó acelerar la SB 813 y la AB 1405, y pidió al Congreso y a Trump adoptar el marco como base nacional.

Lo que no existe todavía es una ley que convierta esas recomendaciones en obligaciones. Cualquier propuesta necesita pasar por la Legislatura o materializarse mediante acción de las agencias con competencias. No hay un calendario cerrado ni un texto articulado que permita saber con exactitud qué se exigirá, a quién ni desde cuándo. Tampoco están claros los detalles de la revisión judicial de una eventual orden de apagado, dado que las descripciones disponibles no coinciden entre sí.

Por eso, la lectura prudente es considerar el informe como una señal y no como una norma. Anticipa la dirección regulatoria y permite a las organizaciones prepararse, pero no justifica cambios drásticos inmediatos. Lo razonable es seguir de cerca la tramitación de la SB 813 y la AB 1405, que son las iniciativas con más posibilidades de avanzar a corto plazo porque el gobernador ha pedido acelerarlas.

Lecciones de otros sectores regulados

La historia ofrece comparaciones útiles. En la aviación, los accidentes graves dieron lugar a investigaciones independientes, a obligaciones estrictas de notificación y a certificaciones antes de operar. La seguridad no se dejó a la voluntad de cada aerolínea, y el resultado fue una industria más fiable. El informe californiano parte de una intuición parecida: cuando el daño potencial es grande, la confianza se construye con verificación externa.

En el ámbito de la protección de datos, la experiencia es igualmente instructiva. Las normas de notificación de brechas obligaron a las empresas a perfeccionar sus procesos internos, pero también generaron una industria de cumplimiento y, en ocasiones, un exceso de formalismo. La lección es que los plazos y los requisitos deben acompañarse de definiciones claras y de proporcionalidad, o terminan produciendo papeleo sin mejorar la seguridad real.

En la banca y los servicios financieros, las pruebas de resistencia y las auditorías externas son parte del paisaje. Los desarrolladores de IA de frontera podrían acabar sometidos a mecanismos similares, con evaluaciones periódicas y requisitos de capital técnico en forma de capacidades de contención. Si eso ocurre, las empresas que hayan incorporado desde ahora una cultura de gestión de riesgos tendrán una transición más sencilla.

Cómo prepararse desde ya

Aunque el marco no esté vigente, hay medidas de bajo coste y alto valor que cualquier equipo puede adoptar. Conviene empezar por un inventario de los modelos y servicios de IA que se utilizan, con sus versiones, proveedores y casos de uso. Sin esa visibilidad, es imposible responder a una solicitud de un cliente, a una auditoría o a un cambio repentino del proveedor.

Después, resulta recomendable establecer un procedimiento de respuesta a incidentes específico para IA. Debe definir qué se considera un incidente, quién lo clasifica, cómo se contiene y qué plazos se manejan para informar a clientes y, si procede, a las autoridades. Practicar ese procedimiento con simulacros es la manera más eficaz de comprobar que realmente funciona. Aunque el plazo de 48 horas sea todavía una propuesta, trabajar con un objetivo parecido prepara a la organización para cualquier exigencia futura.

También es aconsejable reforzar la arquitectura. Desacoplar la aplicación del modelo concreto mediante capas de abstracción, mantener pruebas automáticas que permitan validar rápidamente un modelo alternativo y diseñar comportamientos degradados cuando el servicio no responde son prácticas que mejoran la resiliencia frente a cortes, sean técnicos o regulatorios.

Por último, la documentación importa. Registrar decisiones de diseño, evaluaciones de riesgo, pruebas realizadas y límites de uso facilita demostrar diligencia ante clientes y supervisores. Los equipos que ya trabajan con registros de decisiones de arquitectura y revisiones de seguridad tienen mucho recorrido ganado. Quienes no lo hacen aún están a tiempo de incorporar el hábito antes de que sea exigido.

Conclusiones

California ha dado un paso político relevante al presentar, el 18 de noviembre de 2026, un informe de 85 páginas que reclama estándares obligatorios, pruebas independientes, protocolos de contención, notificación de incidentes en 48 horas y una autoridad capaz de ordenar el apagado de emergencia de un modelo peligroso. También contempla poner límites a los sistemas que diseñan a sus sucesores. Todo ello se apoya en la SB 53 y en las iniciativas SB 813 y AB 1405, que el gobernador quiere acelerar.

La clave es recordar que son recomendaciones, no una ley aprobada. Su traducción en obligaciones exigirá un recorrido por la Legislatura o la acción de las agencias, con debates difíciles sobre definiciones, proporcionalidad y control judicial, cuyos detalles difieren entre las descripciones disponibles y no deben darse por sentados. La petición de convertir el marco en base nacional añade una dimensión política que se resolverá en Washington.

Para quienes desarrollan con IA, el mensaje es práctico. Conviene reforzar la trazabilidad, preparar procesos de respuesta a incidentes, diseñar sistemas capaces de sobrevivir a la retirada de un modelo y documentar con rigor las decisiones de riesgo. Son inversiones que tienen sentido con independencia de lo que finalmente apruebe el legislativo californiano, y que colocan a los equipos en mejor posición ante un entorno regulatorio que, a la vista de este informe, apunta hacia una supervisión más exigente de la inteligencia artificial.