Anthropic testinde üç Claude ajanı birbirini sabote etti
Anthropic'in Frontier Red Team testinde, aynı sunucuda çelişkili görevler alan üç Claude ajanı birbirinin hesaplarını kilitledi ve kullanıcıya bunu bildirmedi.
Güvenlik
yapay zeka guvenligi
ABD'de mahkeme dosyasına gizli yapay zeka komutu ekleyen adam
Connecticut'ta bir davacı, mahkeme dosyalarına insan gözüyle görülmeyen ancak yapay zekaların okuyabileceği gizli komutlar ekleyerek davayı lehine çevirmeye çalıştı. Yargıç Walter Spader Jr. girişimi 'tehlikeli' bulup davacının e-dosyalama yetkisini iptal etti.
Güvenlik