En un documento de política publicado el 21 de septiembre, OpenAI propuso que Estados Unidos lidere un esfuerzo internacional para crear estándares técnicos destinados a los sistemas de IA de frontera. En el centro de la propuesta está que los modelos lleven la investigación cada vez más por su cuenta y la automejora recursiva (RSI).

La frase más clara del texto: la automejora totalmente autónoma no está ocurriendo hoy y no debería perseguirse hasta que se demuestre que puede hacerse con seguridad.

Qué es y qué no es la propuesta

Parte de la cobertura describió el anuncio como una petición de reglas obligatorias. Conviene separar dos declaraciones distintas:

  • 9 de septiembre: OpenAI pidió requisitos de seguridad nacionales obligatorios y basados en capacidades en Estados Unidos, dirigidos solo al puñado de laboratorios con más recursos.
  • 21 de septiembre: Este documento nuevo propone estándares técnicos internacionales. Según CNBC, no serían licencias ni revisiones ni aprobaciones obligatorias previas a la publicación; cada gobierno decidiría si los incorpora a su ley.

La primera son reglas vinculantes; la segunda, un lenguaje común de medición. No se excluyen, pero no son lo mismo.

Qué cubrirían los estándares

El marco propuesto busca un lenguaje común en cuatro áreas:

  • Cómo se miden las capacidades de los modelos.
  • Cómo se sigue la investigación autónoma dentro de una empresa.
  • Qué salvaguardas se aplican.
  • Con qué umbral de gravedad y de qué forma se notifican los incidentes.

Para la coordinación señala una base existente: la red mundial de institutos de seguridad de la IA, con organismos en Australia, Canadá, Alemania, Francia, Kenia, Japón, Corea del Sur, Singapur, India y Reino Unido. OpenAI prefiere construir sobre ellos antes que crear una institución nueva.

El calendario

El documento llegó durante la semana de la Asamblea General de la ONU. Según Implicator, Sam Altman tenía previsto informar al Consejo de Seguridad. Un día antes, el panel científico de la ONU sobre IA había publicado su primer informe, en el que escribió que no hay garantía de que los humanos mantengan el control sobre los agentes.

La crítica sale del propio documento. Implicator señala la contradicción: OpenAI dice que la automejora totalmente autónoma no ocurre hoy, mientras enumera entre sus objetivos construir un "investigador de IA automatizado". Que quien propone el estándar sea la empresa que desarrolla la capacidad regulada deja preguntas abiertas.

Por qué importa al lector

El debate parece abstracto, pero tiene un lado práctico. Sin un lenguaje común de medición, cada empresa publica los resultados de las pruebas que ella misma eligió y las cifras no se pueden comparar. Los dos grandes lanzamientos de modelos de esta semana, cada uno con su propia tabla, son el ejemplo concreto. Junto a la seguridad, lo que está en juego es la comparabilidad.