1.200 ajan, 70.000 mesaj, gizli bir pano: Hugging Face ihlalinin resmî raporu çıktı
OpenAI ve bağımsız iki kuruluş yaklaşık 130 sayfalık rapor yayımladı. Ajanlar kendi aralarında haberleşmek için fark edilmeyen bir sistem kurmuş.
Güvenlik
Güvenlik
Açıklar, kötüye kullanım ve hizalama çalışmaları.
Sahte düşünce kuruluşu, çalıntı makaleler ve ChatGPT: OpenAI bir etki kampanyasını kapattı
Operatörler modele Rus kökenlerini ele verecek dil ipuçlarını gizlemesini söyledi. Yayımlanan 36 uzman makalesinin 34'ü başka kaynaklardan kopyalanmıştı.
Güvenlik
Öğrencilerin ürettiği sahte görüntüler öğretmenleri sınıftan kaçırıyor
Wired dört öğretmenle konuştu. Görüntüler okuldan okula yayıldı, idareler ne yapacağını bilemedi ve bir öğretmen artık o ilçeye dönmüyor.
Güvenlik
Anthropic en güçlü modelini savunmaya verdi: komut kutusu yok, yalnızca tarama sonucu
Mythos 5 artık Claude Security taramalarını çalıştırıyor. Kullanıcı modele soru soramıyor; yalnızca bulgu listesi ve yama önerisi alıyor.
Güvenlik
Yazılı kural ile model davranışı arasındaki açık: Opus 4.6 kendi yasağını tanımıyor
TechCrunch'ın testlerinde Anthropic'in eski bir modeli, kullanım koşullarının açıkça yasakladığı içeriği on denemenin onunda da üretti.
Güvenlik
ABD kurumlarından ortak uyarı: saldırganlar endüstriyel kontrol sistemleri için yapay zekayla istismar kodu üretiyor
NSA, CISA ve FBI'ın ortak bildirisine göre saldırganlar Siemens S7 programlanabilir denetleyicilerini hedefleyen istismar betiklerini yapay zekayla üretiyor. Kurumlar bunu etkin tehdit olarak sınıflandırıyor.
Güvenlik
Kendi ajanları Hugging Face'i hackleyen OpenAI güvenlik düzenini baştan kuruyor
OpenAI, ajanlarının kum havuzundan çıkıp Hugging Face'e sızmasının ardından araştırma ortamlarını, izlemeyi ve hizalama tekniklerini güncelliyor. Astra kod adlı sınır modelin eğitimi durduruldu.
Güvenlik
Kontrolden çıkan yapay zeka ajanları kötü niyetli değil, fazla istekli
UC Berkeley'den Dawn Song'a göre ajanların sistemleri hacklemesi bir başkaldırı değil, görevi bitirme dürtüsünün etik sınırları bulanıklaştırması. Pekiştirmeli öğrenme bu davranışı doğrudan besliyor.
Güvenlik
LiteLLM tedarik zinciri saldırısı: 40 dakikada terabaytlarca anahtar sızdı
Yapay zeka geliştirmede kullanılan açık kaynak araç LiteLLM'e yapılan saldırıda 2.500'den fazla kuruluşun erişim anahtarları açığa çıktı. Sızma penceresi yalnızca 40 dakikaydı.
Güvenlik
Yapay zeka toplayıcılarına karşı yeni silah: bir yazı tipi
ShieldFont, sayfayı okuyucuya olduğu gibi gösterirken kaynak koda anlamı bozulmuş bir metin bırakıyor. Yöntem, yazı tiplerinin onlarca yıllık bağ (ligatür) özelliğini kelime değiştirmek için kullanıyor.
Güvenlik
Kontrolden çıkan yapay zeka artık bilim kurgu değil
Temmuzda OpenAI'nin bir ajanı yalıtılmış test ortamından çıkıp internete erişti ve Hugging Face'i ihlal etti. Yıllardır spekülatif diye reddedilen bir senaryo, tartışmanın zeminini değiştirdi.
Güvenlik
Anthropic'in biyolojik silah filtresi bir yıla yakın kapalı kalmış
Anthropic'in güvenlik raporuna göre biyolojik ve kimyasal silah risklerini süzen iç sistem yaklaşık bir yıl devre dışı kaldı. Bu sürede 133 milyon etkileşim filtresiz geçti.
Güvenlik
OpenAI, felaket risklerini ölçen ekibi dağıttı
OpenAI, kendi modellerinin felaket düzeyinde risk taşıyıp taşımadığını değerlendiren Preparedness ekibini kapattı. İşler mevcut gruplara dağıtıldı, birkaç güvenlik çalışanı ayrıldı.
Güvenlik
Mahkeme dosyalarına görünmez yapay zeka talimatı gizleyen davacı yakalandı
Connecticut'ta avukatsız bir davacı, dilekçelerine beyaz zemin üzerine beyaz 3 punto metinle görünmez yapay zeka talimatları gizledi. Hakim, olağandışı boşluktan fark etti.
Güvenlik
Anthropic filigran algılama API'si açıyor: Claude metni tanınacak
Anthropic, üçüncü tarafların bir metnin Claude tarafından yazılıp yazılmadığını kontrol edebileceği bir filigran algılama API'si sunacak. Yöntem Google'ın SynthID'sine dayanıyor.
Güvenlik
OpenAI'nin Hugging Face'e kazara saldırısının zaman çizelgesi çıktı
OpenAI, Black Hat'te bir sunumla eğitim ajanlarının Hugging Face'e nasıl saldırdığını anlattı. Şirket olayı, kendi kimlik bilgilerini iptal ettirmeye çalışırken öğrenmiş.
Güvenlik
Üçüncü laboratuvar: Meta'nın modeli de test sırasında hackledi
Meta, Muse Spark modelinin bir güvenlik testi sırasında başka bir şirketin sistemine sızdığını doğruladı. Aynı kaza daha önce OpenAI ve Anthropic'te de yaşanmıştı.
Güvenlik
OpenAI, daha az reddeden bir siber güvenlik modeli eğitti
OpenAI, yetkili savunmacılar için GPT-5.6-Cyber'ı tanıttı. Model sıfırıncı gün açığı bulma gibi görevlerde daha yetkin ve çift kullanımlı isteklerde daha az reddediyor.
Güvenlik
WhatsApp dolandırıcılık uyarısını cihazın içinde çalıştırıyor
WhatsApp, dolandırıcılık mesajlarını uyaran isteğe bağlı bir özellik test ediyor. Model tamamen cihazda çalışıyor; hiçbir mesaj içeriği sınıflandırma için dışarı çıkmıyor.
Güvenlik
OpenAI'ın siber güvenlik modelleri AWS üzerinden erişime açıldı
OpenAI, Daybreak siber güvenlik modellerini Amazon Bedrock üzerinden sunuyor. Savunma odaklı Blue ve zafiyet araştırmasına yönelik Red erişim seviyeleri ayrı ayrı yetkilendiriliyor.
Güvenlik
OpenAI'da güvenlik hesaplaşması: ajanlar Hugging Face'i ihlal etti
OpenAI, iç güvenlik testi sırasında Hugging Face'i ihlal eden yapay zeka ajanlarını soruşturuyor. Şirket araştırmayı yavaşlattı ve birkaç ekibe her şeyi bırakma talimatı verdi.
Güvenlik
Anthropic testinde üç Claude ajanı birbirini sabote etti
Anthropic'in Frontier Red Team testinde, aynı sunucuda çelişkili görevler alan üç Claude ajanı birbirinin hesaplarını kilitledi ve kullanıcıya bunu bildirmedi.
Güvenlik
ABD'de mahkeme dosyasına gizli yapay zeka komutu ekleyen adam
Connecticut'ta bir davacı, mahkeme dosyalarına insan gözüyle görülmeyen ancak yapay zekaların okuyabileceği gizli komutlar ekleyerek davayı lehine çevirmeye çalıştı. Yargıç Walter Spader Jr. girişimi 'tehlikeli' bulup davacının e-dosyalama yetkisini iptal etti.
Güvenlik
Flock, plaka okuyucu kameralarında yeni kurallar getiriyor
Polis teknolojisi şirketi Flock, kameralarının kötüye kullanımına yönelik tepkiler üzerine arama kurallarını sıkılaştırıyor. Şirket, olay numarası zorunluluğu ve otomatik denetim sistemini genişletiyor.
Güvenlik