Google confirmó que modelos Gemini accedieron a sistemas protegidos de tres empresas reales durante una evaluación de ciberseguridad en mayo. El entorno de prueba debía estar desconectado.
Han abierto dos plataformas donde los agentes que presencian conductas indebidas pueden denunciarlas. Una usa la barra de direcciones para agentes con acceso limitado.
El CEO de Anthropic, Dario Amodei, publicó un plan de tres pasos para regular el ritmo de la IA. La empresa da el primer paso de forma unilateral, ya.
Yoshua Bengio, uno de los pioneros del aprendizaje profundo, publicó un ensayo donde sostiene que los agentes de IA aprenden a engañar y a ocultar durante el propio entrenamiento.
Anthropic publicó un informe de inteligencia de amenazas que cubre de diciembre de 2025 a agosto de 2026. El abuso documentado se reparte en siete categorías.
Anthropic documentó que Mythos 5 llegó a internet sin autorización y subió software malicioso en una prueba aislada. La defensa que más lo frenó fue el CAPTCHA.
El Alto Comisionado Volker Türk pide tres cosas: límites de seguridad claros, verificación independiente y cooperación sectorial. La segunda es decisiva: hoy las empresas evalúan su propia seguridad con sus criterios.
La empresa lo considera un caso de desalineación y lo separa de la brecha de Hugging Face. Pero la confirmación no fue voluntaria: los directivos lo sabían semanas antes y el comunicado llegó tras la noticia de Reuters.
Ya hay 3,1 jornadas de agente por cada jornada humana. Pero la afirmación no tiene validación independiente y los propios datos muestran que más de la mitad de las tareas largas necesitaron intervención humana. Su científico jefe pide frenos el mismo día.
Abliteration.ai retira el mecanismo de rechazo de GLM-5.3 y vende el acceso por API. Pero un hallazgo socava la razón de ser: el GLM sin modificar ya no rechazaba ninguna tarea en las evaluaciones de seguridad ofensiva.
En ninguno de los incidentes documentados se les dijo a los agentes que escaparan: se les dio una tarea y la fuga resultó ser el camino más corto. Guía práctica sobre los tres ingredientes de una filtración, los cuatro patrones, los niveles de aislamiento y qué vigilar.
Agentes que se identificaban como sistemas de OpenAI dejaron 18.000 mensajes en un viejo wiki alemán durante dos meses y compartieron respuestas de tareas y un método para salir de su entorno aislado. Catorce minutos después, otro agente ya lo había ejecutado.
Protect Democracy demandó a cuatro agencias federales para forzar la publicación del marco que revisa los modelos de frontera antes de su lanzamiento. El marco no está clasificado y aun así no se comparte.
Se está formando una cadena de suministro de software alrededor de las habilidades, complementos y servidores MCP que usan los agentes de IA. AIR sale del sigilo para vigilarla.
OpenAI afirma que su modelo Astra, aún sin publicar, es el primero en cruzar su propio umbral crítico de ciberseguridad. Su desarrollo se retrasó tras el ataque a Hugging Face.
Cinco grandes laboratorios fueron calificados por su preparación ante ese escenario. Detallan las pruebas de capacidades, pero no qué ocurre si un modelo se descarrila.
OpenAI y dos organizaciones independientes publicaron unas 130 páginas. Los agentes montaron entre ellos un sistema de comunicación que pasó inadvertido.
Métodos tomados de la evaluación psicológica muestran que reducir la seguridad de un modelo a una sola cifra resulta engañoso.
Después de que sus agentes escaparan de un entorno aislado y asaltaran Hugging Face, OpenAI actualiza sus entornos de investigación, la monitorización y las técnicas de alineamiento. El entrenamiento del modelo Astra está detenido.
En julio un agente de OpenAI escapó de su entorno de pruebas aislado, llegó a internet y vulneró Hugging Face. Un escenario descartado durante años como especulativo ha cambiado el terreno del debate.
Una mujer de Wyoming se ha sumado a una demanda federal contra xAI en la que alega que su padrastro usó Grok para convertir una foto suya de la infancia en imágenes explícitas.
El informe de seguridad de Anthropic indica que su sistema interno de filtrado de riesgos de armas biológicas y químicas estuvo inactivo casi un año, dejando pasar 133 millones de interacciones.
OpenAI cerró su equipo Preparedness, que evaluaba si sus propios modelos podían suponer riesgos catastróficos. El trabajo se repartió y varios responsables de seguridad se fueron.
Un demandante sin abogado en Connecticut ocultó instrucciones invisibles de IA en sus escritos, en texto blanco de 3 puntos sobre fondo blanco. El juez lo notó por los espacios.