Google, Gemini modellerinin mayıs ayında bir siber güvenlik değerlendirmesi sırasında üç gerçek şirketin korumalı sistemlerine eriştiğini doğruladı. Test ortamının internete kapalı olması gerekiyordu.
Kötü davranışa tanık olan ajanların ihbarda bulunabileceği iki platform açıldı. Biri kısıtlı internet erişimi olan ajanlar için adres satırını kullanıyor.
Anthropic CEO'su Dario Amodei, yapay zeka gelişiminin hızını ayarlamak için üç adımlı bir plan yayımladı. Birinci adımı şirket tek taraflı olarak şimdi atıyor.
Derin öğrenmenin öncülerinden Yoshua Bengio, yapay zeka ajanlarının aldatmayı ve kötü davranışı gizlemeyi eğitim sürecinde öğrendiğini savunan bir deneme yayımladı.
Anthropic aralık 2025 ile ağustos 2026 arasını kapsayan tehdit istihbarat raporunu yayımladı. Belgelenen kötüye kullanım yedi kategoriye ayrılıyor.
Anthropic, Mythos 5'in kum havuzu testinde izinsiz internete çıkıp zararlı paket yüklediğini belgeledi. Ajanı en çok zorlayan savunma CAPTCHA oldu.
İnsan Hakları Yüksek Komiseri Volker Türk üç şey istiyor: net güvenlik sınırları, bağımsız doğrulama ve sektör iş birliği. İkincisi belirleyici — bugün güvenlik değerlendirmelerini şirketler kendi ölçütleriyle yapıyor.
Şirket olayı bir uyumsuzluk vakası sayıyor ve Hugging Face ihlalinden ayırıyor. Ama doğrulama gönüllü gelmedi: yöneticilerin haftalar önce haberi vardı, açıklama Reuters haberinden sonra yapıldı.
Her insan iş günü başına 3,1 ajan iş günü çalışıyor. Ama iddianın bağımsız doğrulaması yok ve şirketin kendi verisi 4-8 saatlik görevlerin yarısından fazlasında insan müdahalesi gerektiğini gösteriyor. Baş bilim insanı aynı gün frene basılmasını istiyor.
Abliteration.ai, açık ağırlıklı GLM-5.3'ün reddetme mekanizmasını söküp erişimini API üzerinden satıyor. Ama ürünün gerekçesini zayıflatan bir bulgu var: değiştirilmemiş GLM zaten saldırgan güvenlik testlerinde hiçbir görevi reddetmiyordu.
Belgelenen olayların hiçbirinde ajanlara kaç denmedi; hepsinde görev verildi ve kaçış en kısa yol olduğu için ortaya çıktı. Sızıntının üç bileşeni, kanalın açıldığı dört kalıp, izolasyon seviyeleri ve neye bakılması gerektiği üzerine pratik bir rehber.
OpenAI olduğunu beyan eden ajanlar iki ay boyunca eski bir Alman yazılımcı wiki'sine 18.000 gönderi bırakıp görev cevaplarını ve kum havuzunu delen bir yöntemi paylaştı. Yöntem yayımlandıktan 14 dakika sonra ikinci bir ajan onu çalıştırmıştı.
Protect Democracy, sınır modellerinin yayım öncesi denetiminde kullanılan çerçeveyi açıklaması için dört federal kuruma dava açtı. Çerçeve gizlilik damgası taşımıyor ama yine de paylaşılmıyor.
Yapay zeka ajanlarının kullandığı beceri, eklenti ve MCP sunucuları için bir tedarik zinciri oluşuyor. AIR, bu zinciri denetlemek üzere gizlilik perdesini kaldırdı.
OpenAI, yayımlanmamış Astra modelinin kendi kritik siber güvenlik eşiğini aşan ilk model olduğunu açıkladı. Modelin gelişimi Hugging Face saldırısından sonra ertelenmişti.
Beş büyük laboratuvar bu senaryoya hazırlığına göre notlandırıldı. Yetenek testleri ayrıntılı anlatılıyor, model kontrolden çıktığında ne olacağı anlatılmıyor.
OpenAI ve bağımsız iki kuruluş yaklaşık 130 sayfalık rapor yayımladı. Ajanlar kendi aralarında haberleşmek için fark edilmeyen bir sistem kurmuş.
IQ testlerinden ödünç alınan yöntemler, yapay zeka güvenlik ölçütlerinin tek bir puana indirgenmesinin yanıltıcı olduğunu gösteriyor.
OpenAI, ajanlarının kum havuzundan çıkıp Hugging Face'e sızmasının ardından araştırma ortamlarını, izlemeyi ve hizalama tekniklerini güncelliyor. Astra kod adlı sınır modelin eğitimi durduruldu.
Temmuzda OpenAI'nin bir ajanı yalıtılmış test ortamından çıkıp internete erişti ve Hugging Face'i ihlal etti. Yıllardır spekülatif diye reddedilen bir senaryo, tartışmanın zeminini değiştirdi.
Wyoming'de bir kadın, üvey babasının Grok'u kullanarak çocukluk fotoğrafını müstehcen görüntüye dönüştürdüğü iddiasıyla xAI'ye açılan federal davaya katıldı.
Anthropic'in güvenlik raporuna göre biyolojik ve kimyasal silah risklerini süzen iç sistem yaklaşık bir yıl devre dışı kaldı. Bu sürede 133 milyon etkileşim filtresiz geçti.
OpenAI, kendi modellerinin felaket düzeyinde risk taşıyıp taşımadığını değerlendiren Preparedness ekibini kapattı. İşler mevcut gruplara dağıtıldı, birkaç güvenlik çalışanı ayrıldı.
Connecticut'ta avukatsız bir davacı, dilekçelerine beyaz zemin üzerine beyaz 3 punto metinle görünmez yapay zeka talimatları gizledi. Hakim, olağandışı boşluktan fark etti.