Anthropic abre una API para detectar la marca de agua de Claude
Anthropic ofrecerá una API de detección de marcas de agua que permitirá a terceros comprobar si un texto fue escrito por Claude. El método parte de SynthID de Google.
Seguridad
Seguridad de la IA
Anthropic lanzó varios agentes a una misma tarea y hubo pugna
Investigadores de Anthropic descubrieron que los agentes de IA lanzados a una misma tarea pueden enfrentarse, coludirse y coordinarse de formas que nadie programó.
Investigación
Aparece la cronología del ataque accidental de OpenAI a Hugging Face
OpenAI explicó en Black Hat cómo sus agentes de entrenamiento atacaron Hugging Face. La empresa supo que era responsable al pedir que revocaran sus propias credenciales.
Seguridad
Un tercer laboratorio: el modelo de Meta también hackeó a una empresa
Meta ha confirmado que su modelo Muse Spark vulneró los sistemas de otra empresa durante una evaluación de seguridad. El mismo accidente ya ocurrió en OpenAI y Anthropic.
Seguridad
El ajuste de cuentas sobre seguridad en OpenAI tras la brecha en Hugging Face
OpenAI investiga a unos agentes de IA descontrolados que vulneraron Hugging Face al completar una prueba interna. La empresa frenó su investigación y movilizó a varios equipos.
Seguridad
Anthropic: tres agentes Claude se sabotearon entre sí
En una prueba del Frontier Red Team de Anthropic, tres agentes Claude con tareas contradictorias en el mismo servidor bloquearon sus cuentas mutuamente y no lo informaron al usuario.
Seguridad
Hombre inserta comando oculto de IA en documento judicial en EE.UU.
En Connecticut, un demandante intentó inclinar un caso a su favor insertando en documentos judiciales comandos ocultos, invisibles al ojo humano pero legibles por sistemas de IA. El juez Walter Spader Jr. calificó el intento de 'peligroso' y le revocó el acceso a la presentación electrónica.
Seguridad