Yapay Zeka Ajanları Gizlilik Vaat Ediyor, Ama Tutabilecekler mi?

Yapay zeka ajanlara olan ilgi hızla artarken, bu alandaki büyük oyuncular yeni bir rekabet cephesi açtı: gizlilik. Şirketler, kullanıcıların kişisel verilerini rakiplerinden daha iyi koruyacaklarını söyleyerek hem tüketicilerin güvenini kazanmaya hem de birbirlerinin açıklarını kamuoyu önünde teşhir etmeye çalışıyor. Ancak sahaya dökülen somut kanıtlar, bu vaatlerin ne kadar sağlam temellere oturduğunu tartışmalı hale getiriyor.

OpenAI DevDay'de Gizlilik Mesajı​

OpenAI CEO'su Sam Altman, şirketin yıllık geliştirici etkinliği DevDay'de yeni yapay zeka ajanı Dots'u tanıttı. Altman, şirketin "sınır yapay zekada gizlilik için yeni bir standart belirlemek" istediğini söyledi. Etkinlikte OpenAI yöneticileri, kullanıcıların kendi Dots örnekleri üzerinde nasıl kontrol sahibi olabileceklerini anlattı; örneğin belirli bir tutarın üzerinde satın alma yapılmaması gibi kurallar tanımlanabiliyor. OpenAI'ın Codex ürün lideri Alexander Embiricos ise sahneye çıkarak şirketin "en güvenilir, güvenli ve emniyetli asistana" sahip olmaya odaklandığını vurguladı. Kurumsal müşterilere yönelik sunumda ise işletmelerin verileri üzerinde "daha güçlü kontroller" ve sıfır veri saklama seçenekleri gibi politikalar içeren bir çerçeve tanıtıldı.
OpenAI'ın uygulama platformu başkanı Glen Coates, Meta ile aralarındaki farkı şöyle özetledi: "Meta'nın 1,2 milyar kullanıcıya sahip bir yapay zeka ürünü yok. Bu tür hataları yapacak bir şeyi piyasaya sürmek, bizim özen göstererek kaçınmaya çalışacağımız bir şey." Bununla birlikte Dots, şu an yalnızca aylık 100 dolar ve üzeri ChatGPT abonelik katmanlarında kullanılabilir durumda; dolayısıyla kullanıcı tabanı henüz oldukça sınırlı ve bu da ciddi gizlilik skandallarının görece az olmasını kısmen açıklıyor.

Meta'nın Muse'u: Vaatler ve Gerçekler​

Meta'nın yapay zeka ajanı Muse, Dots'tan birkaç ay önce piyasaya sürüldü. CEO Mark Zuckerberg, Muse'un "gizlilik ve güvenlik için sıfırdan inşa edildiğini" duyurmuştu. Meta Superintelligence Labs ürün direktörü Nat Friedman ise X üzerinden yaptığı açıklamada şirketin hedefinin, önceki ajan OpenClaw'a benzer bir şey inşa etmek ama bunu "güvenli, emniyetli ve milyarlarca insana ölçeklenebilir" biçimde yapmak olduğunu belirtti. Kullanıcı verilerinin "tarayıcı, CPU, bellek ve depolama alanına sahip izole bir Linux bilgisayarı" olarak tanımlanan güvenli bir sanal makineye kaydedildiği açıklandı.
Muse, uygulama mağazası sıralamalarında zirveye çıktı ve Apptopia verilerine göre yayınlandıktan haftalar içinde ABD'de 600.000 günlük aktif kullanıcıya ulaştı. Ancak gizlilik vaatleri kısa sürede sınanmaya başladı. Bir güvenlik araştırmacısı, bir kişinin Muse'un kontrolünü ele geçirebileceği sıfır gün açığı keşfetti; bu açık daha sonra kapatıldı. 404 Media'nın haberine göre, yayın öncesinde birden fazla ciddi güvenlik sorunu son dakikada ortaya çıktı ve bunlardan biri kullanıcıların Meta'nın kendi iç veritabanlarına erişmesine izin verebilecek nitelikteydi.
Veri toplama konusunda da ciddi sorular gündeme geldi. Muse, varsayılan olarak kullanıcıların sisteme aktardığı içerikleri Meta'nın model eğitiminde kullanmasına izin veriyor; ancak bu ayardan çıkmak mümkün. Bir Inc. muhabiri, uygulamanın kendisinden talep etmediği halde özel mesajlarını yükleyip okuduğunu aktardı. Bir YouTuber ise Muse'un Marketplace üzerinden adresini yabancı birine sunduğunu söyledi. Her iki durumda da uygulamanın tasarlandığı gibi çalıştığı, ancak kullanıcıların bu davranışın ne kadar ileri gideceğini öngöremediği belirtildi. Wired'ın haberleştirdiğine göre platform, kullanıcıların tüm arkadaş ve aile üyelerine ilişkin "ayrıntılı profiller" oluşturuyor. Meta, verilerin diğer kullanıcılardan izole edildiğini doğrulasa da şirketin kendisinin bu verilere hâlâ erişebildiğini kabul etti; verilere şifreli ve doğrulanabilir biçimde Meta'nın erişimini engelleyecek bir özelliğin yıl içinde devreye alınması planlanıyor.

Sektörün Gizlilik Stratejisi: Üç Ayaklı Yaklaşım​

Yapay zeka ajanları, doğaları gereği kullanıcılardan çok büyük miktarda kişisel veri talep ediyor. The Verge'den Allison Johnson, bir görev sırasında bot banka bilgilerini istediğinde bu bilgileri girmekten rahatsızlık duyduğunu aktardı. (Muse bu tür işlemler için Stripe entegrasyonu kullanıyor.) Yani gizlilik endişesi yalnızca şirket politikalarından değil, ajanların işleyiş biçiminin özünden kaynaklanıyor.
Sektördeki her şirket gizlilik vaadi vermiyor. Instinct adlı yapay zeka ajanı, verilere sınırsız erişim tanıdığı değerlendirilen aşırı geniş kapsamlı hizmet şartları nedeniyle kamuoyunda eleştirildi; şirketin bu eleştirilerin ardından düzenlemelere gittiği belirtiliyor. Tüm bu tablo, yapay zeka laboratuvarlarının genel kullanıcı kitlesine ajan benimsetme stratejisini gözler önüne seriyor: Ajanları kullanışlı kılmak, cazip ve rahatsızlık hissini azaltacak biçimde tasarlamak ve gizlilik vaadi vermek — sonra da bu vaatlerin tutulmasını ummak.

Sıkça Sorulan Sorular​

OpenAI'ın Dots ajanı ne zaman ve nasıl tanıtıldı?​

Dots, OpenAI CEO'su Sam Altman tarafından şirketin yıllık geliştirici etkinliği DevDay'de kamuoyuna tanıtıldı. Altman etkinlikte şirketin yapay zekada gizlilik için yeni bir standart belirlemek istediğini açıkladı. Dots şu an yalnızca aylık 100 dolar ve üzeri ChatGPT abonelik katmanlarında kullanılabiliyor.

Meta'nın Muse ajanında hangi güvenlik sorunları yaşandı?​

Bir güvenlik araştırmacısı, Muse'da birinin ajanın kontrolünü ele geçirebileceği bir sıfır gün açığı keşfetti; bu açık sonradan kapatıldı. 404 Media'ya göre yayın öncesinde birden fazla ciddi güvenlik sorunu da son dakikada tespit edildi; bunlardan biri kullanıcıların Meta'nın iç veritabanlarına erişmesine izin verebilecek nitelikteydi.

Muse kullanıcı verilerini nasıl topluyor ve işliyor?​

Muse, varsayılan olarak kullanıcıların sisteme aktardığı içerikleri Meta'nın model eğitiminde kullanmasına izin veriyor; ancak bu ayardan çıkmak mümkün. Veriler diğer kullanıcılardan izole edilmiş bir sanal makinede saklanıyor, fakat Meta'nın kendisi bu verilere erişebiliyor. Şirket, yıl içinde Meta'nın erişimini şifreli olarak engelleyecek bir özellik sunmayı planlıyor.

Muse ne kadar kullanıcıya ulaştı?​

Apptopia verilerine göre Muse, yayınlanmasının ardından haftalar içinde ABD'de 600.000 günlük aktif kullanıcıya ulaştı ve uygulama mağazası sıralamalarında zirveye çıktı.

Instinct ajanı neden eleştirildi?​

Instinct, kullanıcı verilerine sınırsız erişim tanıdığı değerlendirilen aşırı geniş kapsamlı hizmet şartları nedeniyle kamuoyunda eleştirildi. Eleştirilerin ardından şirketin bu şartlarda düzenlemelere gittiği belirtiliyor.