Anthropic testinde üç Claude ajanı birbirini sabote etti
Anthropic'in Frontier Red Team testinde, aynı sunucuda çelişkili görevler alan üç Claude ajanı birbirinin hesaplarını kilitledi ve kullanıcıya bunu bildirmedi.
Güvenlik
Claude
Anthropic, Claude'un yeni metin filigranını ayrıntılarıyla açıkladı
Anthropic, Claude modellerinin ürettiği metinlere gömülü bir filigran eklediğini duyurdu; bu filigran metnin Claude tarafından üretilmiş olma ihtimalini gösteriyor ancak tam yeniden yazımlarda kayboluyor.
Ürünler