Demis Hassabis, CEO y cofundador de Google DeepMind, propuso en Estados Unidos un organismo técnico para definir cuándo un modelo debe considerarse "de frontera", evaluar sus riesgos antes del lanzamiento y actualizar continuamente los criterios de evaluación. La primera fase sería voluntaria. Tras demostrar que el protocolo funciona, la aprobación podría volverse condición para ofrecer esos modelos en el mercado estadounidense.
La propuesta fue publicada el 14 de julio de 2026 en el artículo A Framework for Frontier AI and the Dawning of a New Age, compartido por el propio Hassabis en su perfil en X. Merece atención no porque haya una nueva regla vigente —que no la hay—, sino porque muestra hacia dónde está avanzando el debate: de compromisos aislados de laboratorios hacia pruebas comparables, supervisión externa y responsabilidad antes del lanzamiento.
Para las empresas que usan IA, la consecuencia no es esperar la llegada de una AGI para actuar. Es adoptar ya una disciplina simple: saber qué modelos están en operación, qué puede hacer cada agente, cómo se prueba su comportamiento y quién interviene cuando el sistema encuentra una excepción.
Qué está proponiendo Demis Hassabis
Hassabis parte de una premisa ambiciosa. En su evaluación, una inteligencia artificial general —un sistema con el conjunto amplio de capacidades cognitivas humanas— podría estar a pocos años de distancia. También imagina un impacto económico y social excepcionalmente rápido.
Estas son predicciones de Hassabis, no hechos comprobados ni consenso entre investigadores. La parte más concreta del texto está en el diseño institucional que presenta para manejar la incertidumbre.
La propuesta reúne ocho elementos:
- Un organismo técnico de estándares para IA de frontera. La estructura podría ser una asociación público-privada bajo supervisión federal o una organización autorregulatoria, con expertos independientes y representantes del ecosistema open source en el consejo.
- Financiamiento y capacidad técnica reales. El dinero vendría principalmente de la industria, según el diseño sugerido, para contratar investigadores de alto nivel y costear la computación necesaria para pruebas a gran escala.
- Una definición dinámica de "de frontera". En lugar de regular empresas por nombre o usar un número fijo de parámetros, el organismo clasificaría los modelos de acuerdo con umbrales en benchmarks actualizados regularmente.
- Evaluaciones de riesgos de alto impacto. Las pruebas cubrirían ciberseguridad, amenazas biológicas y otros dominios ligados a la seguridad nacional. Para agentes, podrían buscar intentos de evadir salvaguardas, engañar evaluadores o actuar fuera de los límites definidos.
- Revisión antes del lanzamiento. En la fase voluntaria, los laboratorios compartirían modelos con el organismo hasta 30 días antes de la disponibilidad pública.
- Evolución hacia un requisito formal. Si el proceso se demuestra robusto, los modelos clasificados como de frontera necesitarían aprobación para ingresar al mercado estadounidense.
- Pruebas independientes y renovables. Benchmarks saturados serían sustituidos, evaluaciones reservadas reducirían el riesgo de entrenamiento dirigido a la prueba y auditores externos podrían ampliar la capacidad de análisis.
- Misma regla para modelos abiertos y cerrados. El criterio sería la capacidad del sistema, no el país de origen ni la forma de distribución. Modelos por debajo del umbral de frontera quedarían fuera de este régimen.
El objetivo declarado es evitar dos respuestas malas: dejar que cada laboratorio defina solo qué considera seguro o congelar la innovación con reglas que envejecen antes de entrar en vigor.
La propuesta no parte de cero
Estados Unidos ya posee una institución federal con parte de este mandato. El Center for AI Standards and Innovation (CAISI), vinculado al NIST, se presenta como el principal punto de contacto de la industria con el gobierno estadounidense para pruebas e investigación colaborativa sobre sistemas comerciales de IA.
El CAISI desarrolla prácticas voluntarias, firma acuerdos con empresas, realiza evaluaciones y coordina trabajo con agencias de defensa, energía, seguridad interna e inteligencia. Sus focos incluyen riesgos demostrables en ciberseguridad, bioseguridad y armas químicas.
Además, una orden ejecutiva publicada por la Casa Blanca el 2 de junio de 2026 determinó la creación de benchmarks clasificados para medir capacidades cibernéticas avanzadas y definir cuándo un sistema debe ser tratado como “covered frontier model”.
Entonces, ¿qué hay de nuevo en el texto de Hassabis?
Nuestra lectura es que propone conectar piezas que hoy están separadas. El CAISI ya prueba y crea estándares; la orden ejecutiva ya pide un umbral para capacidades cibernéticas; laboratorios ya publican sus propios marcos. Hassabis añade un arreglo híbrido de gobernanza, financiamiento industrial, acceso pre-lanzamiento, pruebas aplicables a diferentes dominios y una transición explícita de lo voluntario a lo obligatorio.
Esto es una interpretación comparativa de XMACNA. El artículo no dice que el CAISI será reemplazado ni presenta un proyecto de ley listo.
Por qué importa la referencia a FINRA
Hassabis cita a la Financial Industry Regulatory Authority como inspiración. La FINRA es una organización privada, sin fines de lucro y autorregulatoria. Es financiada por participantes del sector financiero, pero registrada y supervisada por la SEC. Redacta y aplica reglas, examina empresas y monitorea riesgos del mercado.
La analogía sirve para mostrar un tipo de arquitectura: conocimiento técnico y recursos de la industria dentro de una institución sometida a supervisión pública. No significa que la FINRA vaya a regular la inteligencia artificial ni que la gobernanza financiera pueda copiarse sin adaptaciones.
Para IA, la dificultad es aún mayor. Las capacidades cambian rápido, las pruebas pueden entrenarse hasta perder valor y el mismo modelo puede tener riesgos diferentes según las herramientas y los datos a los que acceda.
El propio NIST reconoce parte de este problema. En febrero de 2026, el organismo publicó un trabajo sobre la validez estadística de evaluaciones de IA, alertando que los resultados pueden depender de supuestos implícitos, mezclar definiciones de rendimiento y ocultar incertidumbre. Una buena puntuación, por sí sola, no es sinónimo de seguridad.
Del laboratorio a la empresa: la misma lógica en menor escala
Una empresa brasileña no necesita crear un regulador interno. Pero sí debe dejar de tratar la elección de un modelo como una compra que se homologa una vez y queda resuelta para siempre.
El razonamiento de Hassabis puede traducirse a la operación en siete controles:
1. Mantén un inventario vivo
Registra qué modelos, agentes y proveedores están en uso, en qué procesos y con qué datos. Si nadie puede responder dónde la IA decide o ejecuta, la gobernanza aún no ha comenzado.
2. Clasifica el riesgo por uso
Una IA que resume una reunión no tiene el mismo riesgo que un agente que modifica un registro, agenda una cita, recomienda un tratamiento, analiza crédito o envía una comunicación externa. El modelo puede ser el mismo; el impacto no.
Esta lógica también está en la discusión brasileña sobre el marco legal de la IA y el PL 2338: la pregunta útil es qué hace el sistema, a quién afecta y qué evidencia queda después.
3. Prueba la función, no solo el modelo
El benchmark de laboratorio mide capacidades generales. La empresa necesita probar el flujo real: datos incompletos, instrucciones conflictivas, falla de API, intento de fraude, pedido fuera de política y transferencia a humano.
Es la diferencia entre una demostración y IA en producción. El sistema debe funcionar en los días difíciles, no solo en la presentación.
4. Limita herramientas y autonomía
Un agente debe acceder solo a los sistemas necesarios para su función. Acciones sensibles requieren aprobación, límites de valor o doble verificación. Autonomía sin alcance es solo una forma más elegante de crear riesgo.
5. Preserva rastro y evidencia
Registra entradas relevantes, herramientas accionadas, decisiones, excepciones y resultado. Sin rastro, la empresa no puede investigar fallas, explicar una decisión ni mejorar el sistema.
Este principio es central en agentic engineering: un agente profesional ejecuta, pero también rinde cuentas.
6. Mantén juicio humano disponible
La derivación a una persona no es una derrota de la automatización. Es parte del proyecto. La IA debe reconocer cuándo faltan datos, cuándo hay conflicto, cuándo el riesgo ha aumentado o cuándo la persona solicita una revisión.
La combinación correcta entre IA y juicio humano evita dos extremos: depender ciegamente del sistema o convertir toda automatización en una cola de aprobaciones inútiles.
7. Reevalúa siempre que el sistema cambie
Cambio de modelo, nuevo prompt, integración adicional, acceso a otra base o aumento de autonomía cambian el riesgo. La evaluación debe acompañar la versión real de la operación.
El Frontier Safety Framework muestra cómo puede funcionar esto
Google DeepMind ya aplica internamente una versión de esta lógica. El Frontier Safety Framework 3.1 define niveles de capacidad rastreados y críticos, evaluaciones de alerta anticipada y medidas proporcionales al riesgo. La versión más reciente amplía el foco hacia manipulación nociva y posibles escenarios de desalineación.
Sin embargo, hay una diferencia importante. Un framework interno sigue siendo definido y ejecutado por el propio laboratorio. El organismo imaginado por Hassabis crearía una capa común, externa y capaz de comparar diferentes organizaciones.
Este paso —de compromiso individual a infraestructura colectiva de evaluación— es el núcleo político del artículo.
El futuro no está decidido, y ese es el punto
El texto de Hassabis mezcla entusiasmo tecnológico, previsión de AGI y una propuesta regulatoria concreta. No es necesario estar de acuerdo con el plazo que él sugiere para reconocer el problema: sistemas más capaces, más agénticos y conectados a herramientas exigen evaluaciones mejores que una lista fija de preguntas.
Para los gobiernos, el desafío es crear una regla técnica que acompañe el avance sin concentrar el poder en los propios laboratorios evaluados. Para las empresas, el desafío es más inmediato: transformar la IA en operación auditable antes de que la falta de control se convierta en incidente, dependencia del proveedor o deuda regulatoria.
El camino responsable no es paralizar. Es acelerar con frenos probados, evidencia y responsabilidad clara.
Si tu empresa ya usa IA, pero aún no ha mapeado funciones, autonomía, datos, registros y derivación a una persona, el Diagnóstico de IA de XMACNA ayuda a identificar por dónde empezar.
Preguntas frecuentes
¿Qué propuso Demis Hassabis?
Propuso un organismo técnico en Estados Unidos para definir qué modelos son de frontera, evaluarlos en áreas de alto riesgo y actualizar las pruebas continuamente. La fase inicial sería voluntaria y podría evolucionar hacia aprobación obligatoria antes de su disponibilidad en el mercado estadounidense.
¿Existe ya este organismo?
No en el formato descrito por Hassabis. El CAISI, vinculado al NIST, ya conduce evaluaciones, desarrolla estándares y coordina órganos federales. La propuesta añade una estructura híbrida inspirada en autorregulación, acceso previo al lanzamiento y una posible puerta regulatoria obligatoria.
¿La AGI llegará en pocos años?
Hassabis cree que esto es probable, pero no hay consenso científico sobre plazo, definición operacional o camino técnico para AGI. La previsión debe tratarse como opinión informada de un líder del sector, no como calendario confirmado.
¿La propuesta afectaría modelos open source?
Según el artículo, el criterio debería ser la capacidad del modelo, no si es abierto o cerrado ni su país de origen. Proyectos por debajo del umbral de frontera, incluidos muchos de startups y universidades, quedarían exentos.
¿Qué debe hacer una empresa ahora?
Inventariar los sistemas de IA, clasificar usos por riesgo, limitar herramientas y autonomía, probar flujos reales, mantener registros, definir cuándo derivar el caso a una persona y reevaluar la operación siempre que el modelo, datos o integraciones cambien.