OpenAI ha cerrado el equipo conocido como Preparedness. Su cometido era único y explícito: evaluar si los propios modelos de la compañía podían suponer riesgos catastróficos. Su trabajo se ha repartido entre grupos ya existentes y varios responsables de seguridad se han marchado.

Qué hacía el equipo

Preparedness se ocupaba de una pregunta concreta dentro de la seguridad en IA: no si un modelo suelta un exabrupto o afirma algo falso, sino su capacidad de causar daño a gran escala. Conocimientos sobre armas biológicas y químicas, capacidad ofensiva en ciberseguridad y autorreplicación entran en ese capítulo.

Mantener esa evaluación en un equipo aparte tenía su lógica: independencia respecto del grupo encargado de sacar el producto. Un hallazgo que retrasaría un lanzamiento pesa distinto cuando procede de fuera del equipo que lo lanza.

El ambiente interno

Según The Decoder, la inquietud crece dentro de la compañía. Una fuente lo describe como un "creciente sentimiento de responsabilidad y temor" de que OpenAI no esté haciendo lo suficiente en seguridad.

Esa formulación importa por su origen: no es una crítica externa, sino la valoración de quienes hacen el trabajo.

Dos posturas defendibles

El movimiento admite dos lecturas, ambas coherentes:

  • Disolverlo es acertado: cuando la seguridad es tarea de un solo equipo, los demás dejan de considerarla asunto suyo. Repartir el trabajo entre los grupos de producto puede convertirla en responsabilidad de todos.
  • Disolverlo es un error: el valor real del equipo aparte era su independencia. Una evaluación integrada en un equipo de producto pierde cuando choca con el calendario de lanzamiento.

Cuál de las dos se aplica depende de cómo se haya repartido el trabajo: ¿tienen los grupos que lo heredan autoridad para detener un lanzamiento?

El momento

El movimiento llega mientras OpenAI prepara su salida a bolsa y continúan las salidas de altos cargos. En ese contexto, disolver un equipo de seguridad deja de ser una reorganización aislada y se lee como una señal de prioridades.

La versión de la empresa insiste en que el trabajo no ha desaparecido, solo ha cambiado de sitio. Si eso se sostiene solo se verá en el próximo gran lanzamiento: quién hizo su evaluación de riesgos y cuánto de los hallazgos se publicó es la verdadera respuesta.

Un patrón en el sector

No es el primer caso de reestructuración de un equipo de seguridad. En los últimos dos años más de un gran laboratorio ha vivido un movimiento parecido: una unidad de seguridad creada aparte acaba disuelta o pierde a sus nombres clave.

Esa repetición no tiene una explicación única, pero apunta a una tensión estructural. El trabajo de un equipo de seguridad consiste por definición en frenar: si un hallazgo nunca retrasa un producto, ese hallazgo no tiene consecuencia práctica. En un mercado donde la velocidad es ventaja competitiva, sostener una unidad que frena de forma permanente resulta difícil desde el punto de vista organizativo.

La conclusión no es que las empresas actúen de mala fe, sino que la supervisión interna es difícil de mantener sin una exigencia externa. Por eso los reguladores se han centrado últimamente en la evaluación independiente.

Qué vigilar

  • Quién realiza la evaluación de riesgos en el próximo gran lanzamiento.
  • Si los hallazgos se publican y en qué medida.
  • Si el grupo que evalúa tiene autoridad para detener un lanzamiento.