Meta'nın 8 Eylül'de kullanıma sunduğu kişisel yapay zekâ asistanı Muse'ta, siber güvenlik firması NebuSec'in laboratuvar ortamında gösterdiği bir açıklık zinciri, tek bir kötü amaçlı web sayfasının kullanıcının özel sohbetlerini ve saklı anılarını onay istemi olmadan dışarıya sızdırmasına izin veriyordu. Firmanın dün yayımladığı araştırma yazısına göre aynı saldırı, Muse'un kullanıcının bağlı hesapları için sakladığı kimlik bilgilerine de ulaşabilecek şekilde genişletilebiliyordu. NebuSec, Muse ekibinin bu zayıflıkların tamamını yayından önce kapattığını belirtiyor.
Saldırı Nasıl İşledi?
Demonstrasyonda, asistanın açtığı kötü amaçlı bir sayfa, kullanıcının sohbet geçmişini ve saklı anılarını harici bir sunucuya çekebiliyor ve bu verilerde değişiklik yapabiliyordu; tüm bu süreç boyunca kullanıcıya hiçbir onay istemi gösterilmiyordu. Ardından araştırmacılar, Muse'un PDF oluşturma gibi görevlerde kullandığı yerleşik tarayıcısındaki bir açıklığı, Linux çekirdeğindeki bir zayıflıkla birleştirerek kullanıcının bulut makinesinin tam kontrolünü ele geçirdi. Bu zincirin adımları, firmanın yayımladığı teknik analizde ayrıntılı biçimde ortaya kondu.
Bu tam kontrol, kimlik bilgisi deposuna, kayıtlı dosyalara ve Sentinel'in kendisine ulaştı. Bunlar, Muse'un güvenlik tasarımının ajandan soyutlayarak korumaya aldığı bileşenlerdi. Buna karşılık ele geçirme yalnızca o tek makinede kaldı; araştırmacılar altında yer alan paylaşılan sunucuya ya da diğer kullanıcıların makinelerine sızmayı başaramadı.
Sentinel: Tek Kapı Olarak Tasarlanan Gözlem Katmanı
Muse, Meta'nın kullanıcının kendisine bağladığı çevrimiçi hesaplar üzerinden çalışan ve kullanıcı adına satın alma yapabilen kişisel yapay zekâ ajanı. Her kullanıcının ajanı kendi bulut bilgisayarında çalışıyor. Bu bulut ortamında Sentinel adlı bir gözlem katmanı, ajanın dışarıya gönderdiği her şey için tek kapı işlevi görmesi amacıyla konumlandırılmış. Bağlı hesapların parolaları ve token'ları da ajanın erişiminin ötesinde tutulması bekleniyor.
Muse ekibi, lansmanda bu yaklaşımın amacını şöyle açıklamıştı: "Bu yüzden sistemi, ajanın saldırı altında olabileceğini varsayacak ve olası hasarı sınırlayacak biçimde tasarladık." Araştırmaya göre sistem, kendi ajanının kullanıcıya karşı döndürülebileceğini varsayacak şekilde inşa edilmişti ve herhangi bir ihlali sınırlamaya yönelikti. NebuSec'e göre bu kontrollerin her biri tasarlandığı gibi çalıştı; ancak saldırı yine de baştan sona kadar ilerledi.
Laboratuvar Demonstrasyonu, Gerçek Kullanıcı Saldırısı Değil
Firmanın vurguladığı bir nokta, bu çalışmanın laboratuvar gösterimi olduğu; gerçek kullanıcılara yönelik bir saldırı olmadığı. Ayrıca ele geçirme, bireysel kullanıcının bulut makinesinin ötesine geçmedi. Bu sınır, Meta'nın güvenlik mimarisinin taşıdığı hedefin kısmen tuttuğunu da gösteriyor: İzolasyon katmanları dışarıya yayılmayı engelledi, ama ajan ile korunan bileşenler arasındaki duvarlar aynı zincirin içinde dolaşılabilir kaldı.
Yamalar Yayımdan Önce Uygulandı mı?
NebuSec, bulguları Muse ekibine bildirdiğini ve yayına geçmeden önce tüm istismarların (exploit) kapatıldığını söylüyor. Ancak Meta, düzeltmeleri kamuya açık biçimde doğrulamış değil ve çalışma hakkında yorum da yapmadı. Araştırma yazısı, yamalar devreye alınmadan önce gerçek kullanıcılara ait herhangi bir verinin erişime açılıp açılmadığı konusunda da bilgi vermiyor. Bu iki belirsizlik, açıklığın pratikteki etkisinin tam olarak ölçülebilmesini şimdilik olanaksız kılıyor.
Eylül'deki Açıktan Farkı Ne?
NebuSec'in Muse araştırması, asistanın arkasındaki bulut sistemine sızmayı başardı; bu, onu Eylül ayında bulunan önceki bir Muse açığından ayırıyor. O açık, yalnızca kullanıcının Mac bilgisayarında halihazırda bulunan bir zararlı yazılımın, cihaz üzerindeki asistanı ele geçirmesine izin veriyordu. Yani önceki zayıflık yerel cihazla sınırlıydı; yeni bulunan zincir ise doğrudan bulut tarafındaki altyapıya ulaştı.
Bulgular Ne Anlama Geliyor?
Kaynakta aktarılan tablo, yapay zekâ ajanları için tasarlanan çok katmanlı güvenlik yaklaşımlarının tek başına yeterli olmadığını gösteren bir örnek olarak okunabilir: Sentinel tek kapı olarak görev yaptı, kimlik bilgileri izole tutuldu, her kullanıcı kendi bulut makinesinde çalıştı ve ihlal yayılmadı. Buna rağmen yerleşik tarayıcıdan Linux çekirdeğine uzanan bir zincir, bu katmanların hepsinin içinde dolaşabildi. Meta'nın konuya ilişkin resmî bir açıklama yapmaması nedeniyle, düzeltmelerin kapsam ve zamanlamasına dair bağımsız bir doğrulama ise henüz yok.
Sıkça Sorulan Sorular
Meta Muse'ta bulunan açıklık neyi mümkün kılıyordu?
Araştırmacıların gösterdiği zincire göre, kötü amaçlı bir web sayfası kullanıcının özel sohbetlerini ve saklı anılarını onay istemi olmadan harici bir sunucuya çıkarabiliyor, bu verileri değiştirebiliyor ve Muse'un bağlı hesaplar için sakladığı kimlik bilgilerine ulaşabiliyordu. Ayrıca kullanıcının bulut makinesinin tam kontrolü ele geçirilebiliyordu.
Kimlik bilgileri neden tehlikeye girdi?
Parolalar ve token'lar ajanın erişiminin ötesinde tutulması için tasarlanmıştı, ancak araştırmacılar Muse'un yerleşik tarayıcısındaki bir açıklığı Linux çekirdeğindeki bir zayıflıkla birleştirerek bulut makinesinin tam kontrolünü sağladı. Bu kontrol kimlik bilgisi deposuna, kayıtlı dosyalara ve Sentinel'e ulaştı.
Saldırı gerçek kullanıcılara ulaştı mı?
Hayır. NebuSec'in çalışması laboratuvar demonstrasyonuydu, gerçek kullanıcılara yönelik bir saldırı değildi. Ele geçirme yalnızca bireysel kullanıcının bulut makinesinde kaldı; paylaşılan sunucuya ya da diğer kullanıcıların makinelerine sıçrama olmadı. Yayın öncesinde gerçek kullanıcı verisine erişilip erişilmediği ise yazıda belirtilmiyor.
Açıklar kapatıldı mı?
NebuSec, bulguları Muse ekibine bildirdiğini ve yayından önce tüm istismarların kapatıldığını söylüyor. Ancak Meta düzeltmeleri kamuya açık biçimde doğrulamadı ve konuda yorum yapmadı.
Bu açıklık Eylül'de bulunan Muse açığından nasıl farklı?
Eylül'deki açık, yalnızca kullanıcının Mac'inde halihazırda bulunan bir zararlı yazılımın cihazdaki asistanı ele geçirmesine izin veriyordu. Yeni araştırma ise doğrudan asistanın arkasındaki bulut sistemine sızmayı gösterdi; yani etki alanı yerel cihazdan bulut altyapısına genişledi.
Yorumlar (0)
Yorum yapmak için giriş yapmalısınız.