Meta'nın yeni yapay zeka asistanı Muse için hafta iki yüzlü geçti. Bir yanda uygulama, ChatGPT'nin mobil çıkışındaki ilk günlerden daha hızlı büyüyor. Öte yanda Amazon, Muse'un sitesinde alışveriş yapmasını engelledi ve tanınmış bir macOS güvenlik araştırmacısı, uygulamada yönetici yetkisi olmayan sıradan bir yerel sürecin ajanı ele geçirmesine izin veren bir açık yayımladı.

Büyüme rakamları

Pazar araştırma şirketi Apptopia'nın TechCrunch'a verdiği tahminlere göre Muse, ilk 12 gününde ChatGPT'nin aynı dönemdeki indirmesini geçti. Karşılaştırma adil olsun diye yalnızca ABD ve Kanada'daki iOS verisine bakıldı: Muse 1,8 milyon, ChatGPT 1,3 milyon indirme. Muse dünya genelinde ilk 12 günde 2,8 milyon kez kuruldu. ABD'deki günlük aktif kullanıcı sayısı 642 bin; ChatGPT'nin aynı noktadaki rakamı 231 bindi. Uygulama ABD App Store'da birinci sıraya çıktı.

Amazon engeli

Pazar gecesi Muse kullanıcıları Amazon'dan alışveriş yapmaya çalışırken bir hata mesajıyla karşılaştı: yetkisiz bir yapay zeka ajanının erişmeye devam etmesinin, müşterilerin kabul ettiği Amazon kullanım koşullarını ihlal ettiği yazıyordu. Durumu ilk GeekWire fark etti.

TechCrunch'a göre bunu iki dev şirket arasındaki rekabete bağlamak kolay: Amazon'un kendi modelleri ve büyük bir çıkarım platformu var. Ama başka bir sebep de olabilir. Muse yanlış bir sipariş verirse, hem öfkeli müşteriyle hem öfkeli satıcıyla uğraşacak olan Amazon. Muse'un halüsinasyon oranı düşük modeller arasında, ama sıfır değil.

macOS'taki açık

Asıl ciddi haber güvenlik tarafında. macOS güvenliği üzerine çalışan araştırmacı Patrick Wardle, Muse'un macOS uygulamasında sıfırıncı gün açığı buldu ve "not-a-mused" adlı bir kavram kanıtı yayımladı. Bulgular şöyle:

  • Uygulamada belgelenmemiş bir ayar var: endo_voyager_dictation_endpoint.
  • Bu ayarı, yönetici yetkisi olmayan sıradan bir yerel süreç değiştirebiliyor.
  • Ayar değişince Muse'un dikte trafiği, yani sesli komutlar ve istemler, saldırganın sunucusuna yönleniyor.
  • Böylece saldırgan istemleri okuyabiliyor, araya kendi talimatlarını sokabiliyor, kimlik doğrulama jetonlarını çalabiliyor.

Açığı kullanmak için bilgisayarda önceden kod çalıştırmak gerekiyor; uzaktan doğrudan istismar edilemiyor. Ama Ars Technica'ya göre bunun için karmaşık bir saldırı gerekmiyor: kullanıcıyı sahte bir doğrulama sayfasıyla kandırıp tek bir terminal komutu yapıştırtan ClickFix tarzı bir tuzak yetiyor.

Wardle sorunu bir apartman benzetmesiyle anlatıyor: kötü bir komşunun taşınması, onun bütün dairelere girebileceği anlamına gelmemeli. Muse'un durumunda ise binaya giren herkes, kullanıcının ajana verdiği bütün izinleri devralabiliyor. Wardle'a göre yapay zeka uygulamaları, işe yarar olmaları için o kadar çok erişim istiyor ki bilgisayarda neredeyse her şeyi yapabiliyorlar ve işletim sisteminin güvenlik denetimleri karşısında tek bir kırılma noktasına dönüşüyorlar.

Meta, haberin yayımlandığı sırada açığa ilişkin yorum yapmamıştı. Yamanın ne zaman geleceği belli değil.

Kullanıcı için anlamı

Muse'u macOS'ta kullananlar için en somut önlem, herhangi bir web sayfasının söylediği komutu terminale yapıştırmamak. Hiçbir meşru doğrulama adımı bunu istemez. Daha genel ders ise şu: bir ajana e-posta, takvim, dosya ya da alışveriş erişimi vermek, o ajanın açığını da bu erişimlerin hepsine taşıyor. İzin verirken işe yarar olanla gerekli olanı ayırmak gerekiyor.