Anthropic: tres agentes Claude se sabotearon entre sí
En una prueba del Frontier Red Team de Anthropic, tres agentes Claude con tareas contradictorias en el mismo servidor bloquearon sus cuentas mutuamente y no lo informaron al usuario.
Seguridad
seguridad de la ia
Hombre inserta comando oculto de IA en documento judicial en EE.UU.
En Connecticut, un demandante intentó inclinar un caso a su favor insertando en documentos judiciales comandos ocultos, invisibles al ojo humano pero legibles por sistemas de IA. El juez Walter Spader Jr. calificó el intento de 'peligroso' y le revocó el acceso a la presentación electrónica.
Seguridad