Home / IA & ML / Nueva York abre un centro público para probar la IA de frontera
Nueva York abre un centro público para probar la IA de frontera

Nueva York abre un centro público para probar la IA de frontera

18 November 2026 · 16 min de lectura ··

Un laboratorio público para vigilar a la IA más potente

El 10 de noviembre de 2026, la gobernadora de Nueva York, Kathy Hochul, inauguró en la ciudad de Binghamton el Centro de IA Responsable e Investigación del estado, conocido por sus siglas en inglés como NYCAIRR. Su misión es concreta y poco habitual en el sector público: probar de manera independiente los sistemas de inteligencia artificial de frontera, es decir, los modelos más capaces y costosos que desarrollan unas pocas compañías, y hacerlo con criterios científicos que no dependan de quien los fabrica.

El centro reunirá a más de 80 científicos e investigadores y trabajará con la capacidad de cálculo de Empire AI, el consorcio estatal que ha dotado a las universidades neoyorquinas de supercomputación dedicada a la inteligencia artificial. La idea de fondo es sencilla de enunciar y difícil de ejecutar: si un gobierno va a exigir transparencia y seguridad a los grandes desarrolladores, necesita una capacidad técnica propia para comprobar lo que esas empresas afirman sobre sus modelos.

La inauguración llega, además, en un momento clave del calendario regulatorio. La ley RAISE, siglas de Responsible AI Safety and Education Act, entrará en vigor el 1 de enero de 2027 y obliga a los grandes desarrolladores de IA de frontera a registrarse en un portal estatal antes de esa fecha. Ese portal depende de la oficina DIGIT, que supervisa la aplicación de la norma. En este artículo se explica qué es el centro, cómo encaja con la ley, qué cambia para las empresas y los equipos técnicos, y qué preguntas siguen abiertas.

Qué es el Centro de IA Responsable e Investigación

El NYCAIRR se aloja en la Universidad Estatal de Nueva York en Binghamton, una institución pública conocida por su investigación en ingeniería y ciencias de la computación. Que el centro viva dentro de una universidad pública y no en una agencia reguladora tiene consecuencias prácticas: puede contratar investigadores con trayectoria académica, publicar metodología y colaborar con otros grupos sin la rigidez de una oficina administrativa.

Según lo comunicado en el acto de lanzamiento, el centro persigue tres objetivos entrelazados. El primero es la evaluación independiente de sistemas de frontera, entendida como la realización de pruebas técnicas sobre capacidades y riesgos. El segundo es la investigación fundamental, orientada a mejorar los métodos con los que se mide la seguridad de un modelo, un terreno donde la ciencia todavía es joven. El tercero es la formación de especialistas en seguridad de IA, un perfil escaso que las propias empresas se disputan.

Al frente, de forma interina, figuran dos reconocidos científicos de la computación, Greg Morrisett y Jeannette Wing, nombrados codirectores mientras se consolida la estructura permanente. Ambos tienen un historial amplio en lenguajes de programación, seguridad y fundamentos de la computación, lo que apunta a un enfoque más cercano a la ingeniería rigurosa que al comentario de políticas públicas.

La creación del centro había sido anunciada meses antes, a comienzos de 2026, con un compromiso de financiación que las distintas publicaciones describieron con cifras y desgloses diferentes. Como esas cantidades no se han podido contrastar de manera uniforme, este texto no las reproduce y se limita a lo que está plenamente confirmado: el centro existe, está operativo desde noviembre y cuenta con respaldo del estado y de la universidad.

Por qué probar la IA de frontera desde fuera

Hasta hace poco, casi toda la información sobre los riesgos de un modelo avanzado procedía de su propio desarrollador. Las empresas publican fichas técnicas, resultados de evaluaciones internas y descripciones de sus pruebas de seguridad. Esa información puede ser valiosa, pero tiene un problema estructural: quien evalúa es también quien tiene incentivos comerciales para lanzar el producto cuanto antes.

Las pruebas independientes buscan corregir ese desequilibrio, y un laboratorio con criterio técnico propio puede hacerlo. Un laboratorio externo puede diseñar sus propios escenarios, repetir experimentos con otros criterios y detectar comportamientos que el equipo original no anticipó. En ingeniería de software la idea es familiar: nadie confía únicamente en las pruebas que escribe el autor de un componente crítico, y las auditorías de seguridad externas son práctica habitual en sistemas sensibles.

En el caso de la IA de frontera, la dificultad es mayor. Los modelos son sistemas estadísticos cuyo comportamiento no se deduce leyendo su arquitectura, y sus capacidades emergen con la escala. Evaluar si un modelo puede facilitar un ciberataque sofisticado, ayudar a diseñar un arma biológica o actuar de manera engañosa exige técnicas de evaluación que todavía se están inventando. Un centro con decenas de investigadores dedicados a ese problema pretende acumular precisamente esa experiencia.

Hay además un argumento de legitimidad pública. Cuando un regulador debe decidir si un desarrollador cumple con sus obligaciones de seguridad, contar con un criterio técnico propio evita depender de interpretaciones que ofrezca el propio sujeto regulado.

La computación de Empire AI como columna vertebral

Evaluar un modelo de frontera consume recursos. Aunque probar un sistema ya entrenado cuesta mucho menos que entrenarlo, los programas de evaluación modernos ejecutan miles o millones de consultas, ensayan variaciones de instrucciones, simulan agentes que encadenan acciones y repiten pruebas para medir la variabilidad. Todo ello requiere aceleradores gráficos, almacenamiento y herramientas de orquestación a escala.

Ahí entra Empire AI, la iniciativa del estado que reúne infraestructura de cálculo para investigación en inteligencia artificial y la pone a disposición de instituciones académicas. Que el nuevo centro la utilice significa que no tendrá que alquilar capacidad en el mercado ni depender de los mismos proveedores de nube que las empresas evaluadas, una cuestión de independencia tan relevante como la técnica.

Para los equipos de ingeniería, el detalle importa: una evaluación seria no es solo una lista de preguntas. Es una canalización de datos y ejecución que debe ser reproducible, versionada y auditable. Disponer de un entorno público y estable permite que los resultados puedan repetirse y compararse en el tiempo, algo imprescindible si se quiere seguir la evolución de las capacidades de una familia de modelos a lo largo de varias versiones.

También se abre una posibilidad menos visible: que la comunidad investigadora de la región pueda reutilizar parte de esa infraestructura y de las metodologías desarrolladas, elevando el nivel general de la investigación en seguridad de IA fuera de los laboratorios privados.

La ley RAISE: obligaciones para los grandes desarrolladores

El centro no se entiende sin la ley que lo rodea. La ley RAISE fue aprobada por la legislatura de Nueva York y firmada por la gobernadora a finales de 2025, y su versión definitiva quedó fijada mediante una enmienda firmada en marzo de 2026. Su objetivo es establecer reglas de transparencia, seguridad y notificación para quienes desarrollan modelos de frontera.

La norma distingue entre desarrolladores de IA de frontera en general y los llamados grandes desarrolladores, a los que se imponen requisitos adicionales. Entre las obligaciones destacan la elaboración y publicación de marcos de seguridad que describan cómo se identifican y mitigan los riesgos graves, la presentación de información ante la autoridad competente y el deber de notificar determinados incidentes.

Uno de los pilares es el registro. Los grandes desarrolladores deben inscribirse en un portal estatal antes del 1 de enero de 2027, fecha en que la ley entra en vigor. El portal fue abierto el mismo día del lanzamiento del centro, lo que deja a las empresas un margen de unas siete semanas para completar el trámite. Quien opere sin cumplir con el registro se expone a las sanciones previstas por la norma.

Conviene subrayar un matiz: la ley no prohíbe entrenar ni desplegar modelos potentes. Lo que hace es exigir que quien lo haga lo declare, documente sus salvaguardas y responda ante una autoridad identificable. Es un enfoque de transparencia y rendición de cuentas más que de licencias previas.

DIGIT: la oficina que supervisa la aplicación

La aplicación de la ley recae en la oficina DIGIT, cuyo nombre completo es Oficina de Innovación Digital, Gobernanza, Integridad y Confianza. Está integrada en el Departamento de Servicios Financieros del estado, un organismo con experiencia en supervisar sectores complejos, exigir informes periódicos y ejercer potestad reglamentaria.

Esa ubicación institucional no es casual. Los reguladores financieros llevan décadas manejando la relación con empresas que operan con modelos de riesgo, auditorías y obligaciones de notificación de incidentes. Trasladar parte de esa cultura supervisora a la inteligencia artificial permite apoyarse en procedimientos ya probados, desde la recepción de informes hasta la elaboración de normas de desarrollo.

DIGIT gestiona el portal de registro y recibirá las comunicaciones de las empresas. También se prevé que coordine su trabajo con el nuevo centro de Binghamton: la oficina aporta el marco legal y la capacidad de exigir información, mientras que el centro aporta criterio técnico para valorar si los marcos de seguridad y las declaraciones de los desarrolladores resisten un examen riguroso.

Esa división de funciones es, quizá, la innovación institucional más interesante de todo el paquete. Un regulador sin capacidad técnica corre el riesgo de limitarse a recopilar documentos; un laboratorio sin competencia legal produce informes que nadie está obligado a atender. La combinación de ambos busca evitar esos dos fracasos.

Incidentes críticos: la regla de las 72 horas

Otro componente central de la ley es la notificación de incidentes. Los desarrolladores deberán comunicar los incidentes críticos de seguridad en un plazo de 72 horas desde que lo determinen. El reloj empieza a correr cuando la empresa determina que el incidente ha ocurrido o cuando conoce hechos suficientes para tener una creencia razonable de que ha sucedido.

La norma prevé además un plazo más corto, de 24 horas, cuando el incidente suponga un riesgo inminente de muerte o lesión grave. En términos operativos, esto obliga a las compañías a tener procesos internos maduros: sistemas de detección, criterios claros para clasificar un suceso como crítico, responsables identificados y canales rápidos de escalado.

Para los equipos de seguridad y de ingeniería de fiabilidad, el paralelismo con la respuesta a incidentes en infraestructuras críticas es evidente. Del mismo modo que una brecha de datos activa protocolos de notificación, un comportamiento peligroso de un modelo, una fuga de pesos o un uso malicioso grave deberán pasar por un procedimiento documentado. La documentación posterior, con su cronología y su análisis de causa raíz, será tan importante como la comunicación inicial.

El centro de Binghamton puede cumplir un papel de apoyo en este terreno: analizar patrones en los incidentes notificados, detectar tendencias entre distintos desarrolladores y ayudar a distinguir un fallo aislado de un problema sistémico. Sin esa capacidad analítica, las notificaciones corren el riesgo de acumularse sin generar aprendizaje.

Qué cambia para las empresas y los equipos técnicos

Para un gran desarrollador de modelos, el cambio más inmediato es de cumplimiento. Habrá que completar el registro, designar responsables, formalizar el marco de seguridad y preparar los procesos de reporte. Pero el impacto no se limita a los departamentos legales: las decisiones de producto y de ingeniería se verán afectadas, porque el calendario de lanzamientos deberá convivir con la documentación de riesgos.

Los equipos que trabajan en evaluación interna, a menudo llamados equipos rojos, ganarán peso. Si una autoridad puede cuestionar un marco de seguridad con apoyo de un laboratorio independiente, las pruebas internas deberán ser más sistemáticas, reproducibles y trazables. Habrá que dejar constancia de qué se probó, con qué versión del modelo y qué resultados se obtuvieron.

Las empresas más pequeñas, que no alcanzan el umbral de gran desarrollador, también deben seguir el asunto. Aunque los requisitos adicionales no les afecten, el estándar que se consolide para los grandes acabará influyendo en las expectativas de clientes, aseguradoras e inversores. Y quienes construyen productos sobre modelos de terceros querrán saber si su proveedor está registrado y cumple con los plazos.

Un ejemplo claro es el de las organizaciones que despliegan sistemas autónomos. Entender cómo funcionan los agentes de IA más allá del modelo ayuda a ver por qué las pruebas de frontera ya no pueden limitarse a preguntar y responder: los riesgos aparecen cuando el modelo usa herramientas, encadena pasos y actúa sobre sistemas reales.

Seguridad ofensiva y uso criminal: el riesgo que motiva la vigilancia

Una de las categorías de riesgo que más atención reciben en las evaluaciones de frontera es la ciberseguridad. Los modelos capaces de escribir código, analizar vulnerabilidades y automatizar tareas pueden acelerar tanto la defensa como el ataque, y las autoridades ya han advertido de casos reales de abuso. Un ejemplo reciente es la alerta sobre el uso criminal de herramientas de pentesting con IA, que ilustra cómo capacidades pensadas para la auditoría legítima pueden reconvertirse con fines delictivos.

Ese tipo de episodios explica por qué una autoridad estatal querría comprobar por su cuenta qué pueden hacer los modelos en materia de intrusión, explotación de fallos o automatización de campañas maliciosas. Una evaluación independiente puede medir, con tareas controladas, hasta qué punto un sistema reduce el esfuerzo necesario para completar un ataque complejo, y si las salvaguardas del desarrollador impiden ese uso o pueden eludirse con facilidad.

Sin embargo, las pruebas no se agotan en la ciberseguridad. Los marcos de seguridad de los grandes desarrolladores suelen contemplar riesgos químicos, biológicos, radiológicos y nucleares, así como la capacidad de un modelo para operar de forma autónoma, replicarse o engañar a sus supervisores. Cada uno de estos dominios requiere especialistas distintos, y la presencia de más de 80 científicos permite, al menos en teoría, cubrir varios a la vez.

Hay un límite importante que los propios expertos reconocen: ninguna batería de pruebas puede demostrar la ausencia de riesgo. Una evaluación puede revelar que algo es posible, pero no garantiza que todo lo demás sea imposible. De ahí la importancia de combinar pruebas, vigilancia posterior al despliegue y notificación de incidentes.

Un mosaico regulatorio: Nueva York frente a otros enfoques

La ley RAISE se inscribe en un panorama en el que los estados de Estados Unidos han tomado la iniciativa ante la falta de una norma federal integral sobre IA de frontera. Otros estados han aprobado leyes con objetivos parecidos, centradas también en la transparencia de los marcos de seguridad y en el reporte de incidentes, aunque con diferencias en umbrales, autoridades competentes y sanciones.

Nueva York se distingue por haber combinado en un mismo paquete la norma, una oficina supervisora con experiencia en regulación y un laboratorio técnico propio. Esa arquitectura de tres piezas es poco frecuente. En muchos casos, la legislación crea obligaciones pero deja la verificación en manos de documentos presentados por las empresas.

Esta diversidad plantea retos de cumplimiento para los desarrolladores que operan a escala nacional, que deben armonizar requisitos parecidos pero no idénticos. También genera un debate legítimo sobre la conveniencia de un marco federal único. Quienes defienden la regulación estatal sostienen que los estados actúan como laboratorios de políticas públicas y que su experiencia puede informar una futura legislación nacional. Quienes la critican advierten del riesgo de fragmentación y de costes de cumplimiento duplicados.

Aun así, hay un elemento donde la discusión se ha movido: casi nadie sostiene ya que los modelos de frontera deban operar sin ninguna rendición de cuentas. El debate se ha desplazado hacia cómo diseñarla para que sea eficaz sin frenar innovaciones beneficiosas.

Presión social y contexto de la regulación

La iniciativa neoyorquina no surge en el vacío. En los últimos años han crecido las demandas de la sociedad civil para que los desarrolladores de IA respondan por los riesgos de sus sistemas, y varias organizaciones han llegado a acudir a los tribunales. Un caso reciente es el de las cuatro ONG que demandan a grandes compañías de IA con el objetivo de frenar determinados desarrollos, una muestra de hasta qué punto la presión externa se ha intensificado.

Ese clima ayuda a entender el valor político de un centro público. Cuando la confianza en la autorregulación se debilita, las administraciones buscan mecanismos que den garantías verificables. Un laboratorio académico, con vocación de publicar métodos y resultados, ofrece una vía intermedia entre la confianza ciega en las empresas y la prohibición.

Conviene, no obstante, separar los hechos de las valoraciones. Es un hecho que la ley exige registro, notificación y transparencia, y que el centro ha sido inaugurado. Es una valoración, defendida por unos y cuestionada por otros, que este modelo sea suficiente o proporcionado. Los defensores sostienen que reduce riesgos graves sin impedir el desarrollo; los escépticos temen cargas administrativas y posibles filtraciones de información sensible; y algunos expertos en seguridad consideran que las medidas aún son modestas frente a la velocidad del sector.

Retos y preguntas abiertas

Pese al entusiasmo institucional, el proyecto afronta dificultades reales. La primera es el acceso: para probar un modelo de frontera hace falta que su desarrollador facilite algún tipo de acceso, ya sea mediante interfaces de programación, versiones preliminares o entornos especiales. Los términos de ese acceso, y las garantías de confidencialidad que lo acompañen, determinarán la profundidad de las pruebas.

La segunda dificultad es el talento. Competir con los salarios de los laboratorios privados no es sencillo para una universidad pública. El centro apuesta por la combinación de misión pública, libertad académica y formación de nuevos especialistas, pero retener a los mejores perfiles será una prueba constante.

La tercera es la rapidez. Los modelos cambian cada pocos meses y las metodologías de evaluación pueden quedar obsoletas casi a la misma velocidad. El centro tendrá que mantener un ritmo de investigación muy alto y construir herramientas reutilizables que permitan evaluar versiones nuevas sin empezar de cero.

Por último, quedan preguntas sobre transparencia: qué parte de los resultados se hará pública, cómo se protegerá la información sensible y qué consecuencias tendrá una evaluación desfavorable. La ley define obligaciones, pero la práctica cotidiana de la relación entre el centro, la oficina supervisora y las empresas se irá escribiendo en los próximos meses.

Situación actual de la historia

A fecha de 18 de noviembre de 2026, el centro lleva pocos días en funcionamiento. Ha sido inaugurado, cuenta con dirección interina y con un equipo de más de 80 científicos, y trabaja sobre la infraestructura de Empire AI. Todavía no se han divulgado resultados de evaluaciones ni acuerdos concretos de acceso con desarrolladores específicos.

El portal de registro está abierto desde el 10 de noviembre y las empresas obligadas disponen hasta el 1 de enero de 2027 para completar la inscripción. La ley entrará en vigor ese día, y DIGIT asumirá plenamente sus funciones de supervisión, recepción de informes y desarrollo reglamentario. Desde entonces, cualquier incidente crítico de seguridad deberá notificarse en el plazo de 72 horas.

Las próximas semanas serán reveladoras. Habrá que observar cuántas empresas se registran, si surgen dudas sobre qué compañías entran en la categoría de gran desarrollador, si la oficina publica orientaciones adicionales y cómo se concreta la cooperación entre el centro y la autoridad reguladora. Cualquier cambio relevante, como nuevos nombramientos permanentes en la dirección del centro o guías técnicas, deberá confirmarse a través de comunicaciones oficiales.

Conclusiones

La inauguración del Centro de IA Responsable e Investigación en Binghamton marca un paso notable en la forma en que un gobierno aborda la inteligencia artificial más avanzada: no solo escribe reglas, sino que construye capacidad técnica propia para comprobar su cumplimiento. Con más de 80 científicos, la computación de Empire AI y una oficina supervisora dentro del regulador financiero, Nueva York ha montado una arquitectura institucional coherente.

La ley RAISE, con su registro obligatorio antes del 1 de enero de 2027 y su exigencia de notificar incidentes críticos en 72 horas, convierte la seguridad de la IA en una obligación verificable y no en una promesa voluntaria. Para los desarrolladores, el mensaje es claro: documentar, probar y reportar dejará de ser opcional. Para los equipos técnicos, supone más rigor en las evaluaciones internas y procesos de respuesta a incidentes más maduros.

Quedan incógnitas relevantes sobre el acceso a los modelos, la retención de talento, la transparencia de los resultados y el encaje con una eventual regulación federal. Ninguna de ellas se resolverá de golpe, y la evidencia sobre la eficacia del modelo llegará con el tiempo. Lo que ya puede afirmarse es que la discusión ha cambiado de nivel: la pregunta ya no es si debe existir supervisión independiente de la IA de frontera, sino cómo hacerla técnicamente sólida, justa para las empresas y útil para la ciudadanía.