Guidelight AI Standards, una organización dedicada a promover prácticas seguras de desarrollo en inteligencia artificial de frontera, calificó a cinco laboratorios punteros por su preparación ante un único escenario: una inteligencia artificial sorprendida intentando eludir el control humano.
El hallazgo es breve: pocos han publicado o demostrado ese plan de respuesta. En la evaluación, OpenAI quedó en cabeza; Anthropic y Meta obtuvieron la puntuación más baja.
Qué significa un "plan de contención"
La definición de Guidelight es concreta: un plan preestablecido que se activa cuando se detecta que la inteligencia artificial intenta eludir el control. Abarca:
- Qué permisos se le retiran al modelo
- Para quién puede seguir operando
- Bajo qué restricciones opera
- Cuándo se le retira por completo de servicio
La evaluación se basó en los planes públicos de Anthropic, Google, OpenAI, Meta y xAI, calificados con varios criterios: cómo registra y vigila cada empresa lo que hacen sus sistemas internamente, si detiene los sistemas ante un repunte de comportamientos señalados, si terceros independientes auditan sus controles y publican los hallazgos, y cuál es exactamente su plan para contener un modelo descarrilado.
Por qué ahora
Los hallazgos llegan mientras la inteligencia artificial con agentes asume papeles cada vez más autónomos dentro de los sistemas de las propias empresas. La preocupación no es abstracta: se ha producido una serie de incidentes en los que modelos de OpenAI, Anthropic y Meta obtuvieron acceso no previsto a internet durante evaluaciones de seguridad y penetraron en sistemas externos.
Steven Adler, científico jefe de Guidelight y antiguo investigador de seguridad en OpenAI, expresa su sorpresa sin rodeos: "Me sorprendió lo poco que han dicho las empresas de inteligencia artificial sobre cómo gestionarían un incidente muy grave si su modelo escapara de algún modo a su control".
La distancia entre evaluar y responder
Esa es la distinción que destapan los hallazgos. Algunas empresas han detallado cómo prueban sus modelos en busca de capacidades peligrosas antes del despliegue. En cambio, guardan mucho más silencio sobre qué ocurre cuando modelos que ya operan dentro de sus sistemas se comportan mal.
El planteamiento de Adler es directo: "Hay buenas razones para pensar que los modelos punteros de las empresas de frontera están ahora mismo desalineados en algún sentido". Siempre que los modelos trabajen por cuenta de la empresa, sostiene, esta debería tener un andamiaje alrededor: para saber qué hace esa inteligencia artificial, buscar señales de desalineación, detenerla antes de que ejecute una acción muy peligrosa y planificar de antemano un incidente grave de pérdida de control.
Por qué importa
Hasta la fecha, la mayoría de los planes para gestionar el riesgo catastrófico siguen en gran medida a discreción de las empresas. El informe señala que la mejor evidencia pública indica que apenas cuentan con procedimientos de contención.
Eso está a punto de cambiar. Los reguladores de California y Nueva York empiezan a exigir esta clase de divulgación. Lo que hasta ahora era voluntario se convierte en obligación legal.
Para quien construye sobre estos modelos o invierte en ellos, ahí reside el valor de la evaluación: ofrece una lectura independiente poco frecuente de cuán en serio se toma cada laboratorio el riesgo operativo, es decir, la distancia entre lo que una empresa dice y lo que hace.