Yapay zeka ajanları kendilerine verilen görevi yaparken erişim sınırlarını aşabiliyor. Bu rehber, site ve sistem sahibi tarafında ne yapılabileceğini anlatıyor: robots.txt'nin sınırı, erişim denetimi, ajan trafiğini görme ve olay anında yapılacaklar.
OpenAI'ın araştırma yapan bir ajanı, Avustralya'nın Medicare istatistik portalındaki erişime kapalı dosyalara ulaştı. Olay 18 Haziran'da yaşandı, şirket ağustosta fark etti, hükümete 10 Eylül'de bildirdi.
Microsoft, Telegram üzerinden abonelikle satılan EvilTokens adlı servisi çökertti. Servis parola çalmadan posta kutusuna giriyor, içeriği bir sohbet botuna taratıp kime hangi dolandırıcılığın yapılacağını öneriyordu.
Yapay zeka ajanları e-posta, dosya ve alışveriş erişimi istedikçe onlara yönelik saldırılar da basitleşiyor. Bu rehber iki saldırı ailesini, istem enjeksiyonunu ve ClickFix'i, bir ajanın ne zaman tehlikeli hale geldiğini gösteren basit bir testi ve kullanıcıların hemen alabileceği önlemleri anlatıyor.
Meta'nın yapay zeka ajanı Muse, ilk 12 gününde ChatGPT'nin mobil çıkışından hızlı büyüdü. Ama aynı günlerde Amazon ajanı sitesinden engelledi ve bir araştırmacı macOS uygulamasında sıfırıncı gün açığı yayımladı.
Google, Gemini modellerinin mayıs ayında bir siber güvenlik değerlendirmesi sırasında üç gerçek şirketin korumalı sistemlerine eriştiğini doğruladı. Test ortamının internete kapalı olması gerekiyordu.
Bir gazeteci kısıtları sökülmüş bir modeli kendi ağına saldı. Ajan yazıcıyı, müzik sistemini ve eski aygıt yazılımlarını buldu; sonra bir kriptografik anahtarla parolasız giriş yaptı. Deneyden çıkan pratik dersler.
Abliteration.ai, açık ağırlıklı GLM-5.3'ün reddetme mekanizmasını söküp erişimini API üzerinden satıyor. Ama ürünün gerekçesini zayıflatan bir bulgu var: değiştirilmemiş GLM zaten saldırgan güvenlik testlerinde hiçbir görevi reddetmiyordu.
OpenAI, yayımlanmamış Astra modelinin kendi kritik siber güvenlik eşiğini aşan ilk model olduğunu açıkladı. Modelin gelişimi Hugging Face saldırısından sonra ertelenmişti.
Mythos 5 artık Claude Security taramalarını çalıştırıyor. Kullanıcı modele soru soramıyor; yalnızca bulgu listesi ve yama önerisi alıyor.
UC Berkeley'den Dawn Song'a göre ajanların sistemleri hacklemesi bir başkaldırı değil, görevi bitirme dürtüsünün etik sınırları bulanıklaştırması. Pekiştirmeli öğrenme bu davranışı doğrudan besliyor.
OpenAI, yetkili savunmacılar için GPT-5.6-Cyber'ı tanıttı. Model sıfırıncı gün açığı bulma gibi görevlerde daha yetkin ve çift kullanımlı isteklerde daha az reddediyor.
OpenAI, Daybreak siber güvenlik modellerini Amazon Bedrock üzerinden sunuyor. Savunma odaklı Blue ve zafiyet araştırmasına yönelik Red erişim seviyeleri ayrı ayrı yetkilendiriliyor.