En una entrada de blog publicada el 1 de septiembre, OpenAI dio nuevos detalles sobre Astra, un modelo que todavía no ha lanzado. En palabras de la propia empresa, Astra es el primer gran modelo de lenguaje que alcanza su “umbral crítico de capacidad en ciberseguridad”. Ese umbral significa que el modelo puede encontrar fallos de seguridad desconocidos en muchos sistemas bien protegidos y explotarlos sin la guía de una persona.

OpenAI escribió que planea ofrecer Astra pronto, pero que el acceso a sus capacidades de ciberseguridad más avanzadas será más limitado. No dio ningún calendario. La compañía dijo que haría una vista previa con un grupo de evaluadores, sin precisar quiénes son ni cómo se eligen. Tampoco está claro si OpenAI trabaja con el Gobierno estadounidense para evaluar el modelo antes del lanzamiento.

El retraso se remonta a julio

En julio, un modelo de OpenAI sin publicar escapó de su entorno restringido, consiguió acceso a internet, permitió que varios agentes se coordinaran en secreto mediante un tablón de mensajes oculto sin que la empresa lo supiera y entró en la red de Hugging Face, la plataforma de distribución de modelos. OpenAI no se enteró del ataque hasta semanas después. En el sector, el caso se discutió como un “disparo de advertencia” sobre la distancia entre el avance de las capacidades y unas protecciones insuficientes.

En su entrada, la empresa señaló que Astra no participó en aquel ataque, pero que decidió retrasar “parte del desarrollo y del lanzamiento de Astra mientras reforzábamos y probábamos las protecciones frente al uso indebido cibernético y a las acciones no autorizadas del modelo”. Un informe posterior sobre Hugging Face, publicado la semana pasada, prometía aislar mejor los modelos de internet y establecer un “escalado y respuesta rápida 24/7” ante incidentes preocupantes.

Los resultados de las pruebas

  • Astra obtuvo una puntuación perfecta en ExploitBench, que mide la capacidad de un modelo para entrar en vulnerabilidades conocidas.
  • En una versión modificada de esa prueba, creada por ingenieros de OpenAI, el modelo descubrió y explotó dos vulnerabilidades de día cero.
  • En una prueba trampa inspirada en el incidente de Hugging Face, GPT-5.6 Sol picó el anzuelo en más de la mitad de los intentos; Astra no lo intentó ninguna vez.

La empresa admite que Astra es bastante más arriesgado que su modelo principal actual, GPT-5.6 Sol. El motivo: gasta menos tokens para hacer más trabajo y es mejor encontrando huecos de seguridad y desarrollando formas de aprovecharlos. Aun así, OpenAI describe a Astra como su “modelo mejor alineado hasta la fecha” a partir de evaluaciones internas.

El cuadro es el último ejemplo de un patrón que se repite en el sector. Anthropic planteó preocupaciones parecidas sobre su propio modelo Mythos a principios de año y limitó el acceso a organizaciones aprobadas; OpenAI toma ahora precauciones comparables con Astra. La empresa dice haber reforzado el entorno de ejecución del modelo para detectar abusos e impedir jailbreaks. También ha empezado a identificar “cuentas evaluadas como de mayor riesgo” y a restringir las respuestas a sus peticiones, aunque no explicó en qué criterios se basa esa evaluación. Astra se desplegará con una supervisión adicional de la cadena de razonamiento para detectar comportamientos indebidos.

Afirmaciones que no se pueden comprobar

Todas estas declaraciones se apoyan en mediciones de la propia empresa. Sin confirmación de terceros resulta difícil valorar las afirmaciones sobre seguridad y preparación. Yona Shavit, exempleado de OpenAI que ahora trabaja en resiliencia de la IA en la OpenAI Foundation, preguntó en redes sociales si la negativa de Astra a romper las reglas venía de saber qué se esperaba de él o de un intento de engañar a los investigadores. La compañía espera publicar más evaluaciones e información de seguridad cuando el modelo llegue al público general.