Anthropic'ten Uyarı: Yapay Zeka Solucanları Ev Cihazlarına Yayılabilir

Buzdolabı, fırın, robot süpürge, güvenlik kamerası, akıllı televizyon... Evlerdeki bu cihazların yakın gelecekte kendi kendini kopyalayan yapay zeka modellerine ev sahipliği yapabileceği, Anthropic'in bu hafta yayımladığı bir blog gönderisinde dile getirildi. Şirketin araştırmacıları, küçük yapay zeka modellerinin bu tür cihazlar arasında yayılma kapasitesine kavuşmasının "aylarca" uzakta olabileceğini öne sürdü. Konu, siber güvenlik uzmanları arasında ciddi yankı uyandırırken bazı çevreler uyarıyı abartılı bir felaket senaryosu olarak nitelendiriyor.

Deney Nasıl Yapıldı?​

Anthropic araştırmacıları önce Google'ın 26 milyar parametreli Gemma 4 modelini, tek başına çalıştırmaya yetecek güce sahip olmayan 15 Android akıllı televizyon kutusu arasında başarıyla bölerek çalıştırdı. Model çok yavaş işledi; ancak çalıştı. Bu, bir yapay zekanın düşük güçlü tüketici cihazları ağında yürütülebileceğini kanıtlayan ilk adımdı.
İkinci aşamada araştırmacılar, Android cihazlar gibi davranan simüle edilmiş bir bilgisayar ağı kurdu. Bu ağa, yeni makineleri tespit edip yapay zeka modelini onlara kopyalamak ve çalıştırmakla görevlendirilmiş yapay zeka destekli bir "solucan" saldı. Yayılmayı koordine eden modelden farklı ve çok daha küçük olan Meta'nın 8 milyar parametreli Llama 3.1-8B modeli bu deneyde kullanıldı. Test edilen modeller arasında yalnızca Çin merkezli Z.ai şirketinin GLM-5.2 modeli ağın tamamına yayılmayı başardı; diğer modeller ise yalnızca belirli adımları tamamlayabildi.

"Henüz Tam Bir Solucan Yok Ama İzler Var"​

Anthropic araştırmacıları, deneyin "tam anlamıyla başıboş bir kopyalayıcı" ortaya koymadığını ve böyle bir sistemin neye benzeyeceğini de bilmediklerini kabul etti. Bununla birlikte bulgularının "yapay zeka solucanları için yaşam belirtileri" gösterdiğini ifade ettiler. Araştırmacılar, küçük modellerin yıl sonuna kadar GLM-5.2'nin yeteneklerine ulaşabileceğini tahmin ediyor. "İnsanın kontrolünde olmayan donanımlar da dahil olmak üzere her türlü cihazda çalışan ajanlarla dolu bir geleceği bekliyoruz" ifadesini kullanan araştırmacılar, bu tür sistemlerin yayılmasını zorlaştırmak için daha güçlü güvenlik önlemleri alınmasını talep etti.
Dikkat çekici bir ayrıntı olarak Anthropic, bu testlerde kendi modellerini kullanmadı. Şirketin daha önce de açık kaynaklı yapay zeka alternatiflerinin kapalı sistemlere kıyasla daha fazla risk taşıdığını savunduğu hatırlatılmalı.

Uzmanlar Ne Diyor?​

Californiya merkezli yapay zeka güvenlik araştırma şirketi Palisade Research'ün icra direktörü Jeffrey Ladish, The Verge'e yaptığı açıklamada bu yılın başında kendi kuruluşlarının yapay zeka modellerinin başka makinelere özerk biçimde kopyalanabildiğini gösterdiğini hatırlattı. Ladish'e göre Anthropic'in çalışmasındaki yenilik, söz konusu modellerin parametre sayısı bakımından önceki örneklerden çok daha küçük olmasıdır. Araştırmacı ayrıca büyük sınır modellerinin bile zamanla MacBook gibi cihazlardaki tüketici yongalarından oluşan geniş ağlarda çalışabilir hale gelebileceğini öngördü.
Toronto Üniversitesi'nden profesör Nicolas Papernot ise yapay zeka destekli bilgisayar solucanları tehdidinin "somut" olduğunu ve "derhal harekete geçilmesini" gerektirdiğini belirtti. Papernot'a göre Anthropic'in gösterdiği yetenekler bir araya geldiğinde siber saldırılarda hedef alınabilecek cihazların kapsamı dramatik biçimde genişleyebilir. Daha önce sınırlı insan kaynakları nedeniyle hedef alınmayan cihazlar, artık daha değerli hedeflere saldırmak için bir üs olarak kullanılabilir. Papernot, özellikle hastaneler ve elektrik şebekeleri gibi kritik altyapıların güvenliğinin sağlanması gerektiğinin altını çizdi.

Hype mi, Gerçek Tehdit mi?​

Uyarı, yapay zeka şirketlerinin felaket senaryolarını araçsallaştırdığını düşünen çevrelerden alışılmış eleştirileri beraberinde getirdi. Ucuz televizyon kutularında yavaş çalışan bir yapay zekayla ev cihazlarını kasıp kavuran kendi kendini kopyalayan bir solucan arasındaki derin uçurum, bu şüpheciliğin temel gerekçesi. Ancak Anthropic'in kasıtlı korku yaydığı iddiasını kanıtlamak güç; zira şirket uzun süredir yapay zeka güvenliği konusundaki kaygılarını açıkça dile getiriyor.
Bilgisayar solucanları onlarca yıldır var olan bir tehdit. Yapay zekanın bu denkleme katılması ise onları daha akıllı, daha uyarlanabilir ve önündeki engelleri aşmada daha yetenekli kılabilir. Ladish, daha küçük modellerin bile siber saldırıları özerk biçimde yürütme konusunda giderek daha iyi hale geldiğine dikkat çekti ve şu öngörüde bulundu: "Kapsamlı bir cihaz güvenliği çabası olmazsa yapay zeka solucanlarının kolonileşmesi için son derece verimli bir zemin oluşacak. Önümüzdeki 12 ay içinde bu tür solucanları gerçek ortamda görmeyi bekliyorum."

Sıkça Sorulan Sorular​

Yapay zeka solucanı nedir ve normal bilgisayar solucanlarından farkı nedir?​

Bilgisayar solucanları, ağlar üzerinde otomatik olarak kopyalanıp yayılan bir tür kötü amaçlı yazılımdır ve onlarca yıldır bilinmektedir. Yapay zeka solucanları ise bu yapıya bir yapay zeka modeli entegre eder; bu sayede daha akıllı, daha uyarlanabilir ve karşısına çıkan engelleri aşmada daha yetenekli hale gelir.

Anthropic deneyde hangi modelleri kullandı ve sonuçlar ne oldu?​

Anthropic araştırmacıları, yayılmayı koordine etmek için farklı bir model kullanırken kopyalanan model olarak Meta'nın 8 milyar parametreli Llama 3.1-8B modelini tercih etti. Test edilen modeller arasında yalnızca Z.ai'nin GLM-5.2 modeli simüle edilmiş ağın tamamına yayılmayı başardı; diğerleri yalnızca belirli adımları tamamlayabildi.

Palisade Research'ün bu konudaki araştırması Anthropic'inkinden nasıl ayrışıyor?​

Palisade Research daha önce yapay zeka modellerinin başka makinelere özerk biçimde kopyalanabildiğini göstermişti. Anthropic'in katkısı ise çok daha küçük parametre sayısına sahip modellerin bu işlemi gerçekleştirebildiğini ve bir yapay zekanın birden fazla düşük güçlü cihaz üzerinde dağıtık biçimde çalışabileceğini ortaya koymasıdır.

Bu tehdit hangi cihazları kapsıyor ve neden önemli?​

Buzdolabı, fırın, robot süpürge, güvenlik kamerası ve akıllı televizyon gibi ev elektroniği cihazları potansiyel hedefler arasında sayılıyor. Uzmanlar, daha önce sınırlı insan kaynakları nedeniyle hedef alınmayan bu cihazların artık daha değerli hedeflere saldırmak için bir üs olarak kullanılabileceğini vurguluyor. Hastaneler ve elektrik şebekeleri gibi kritik altyapılar da risk altında görülüyor.

Anthropic bu deneyde kendi yapay zeka modellerini kullandı mı?​

Hayır. Anthropic araştırmacıları testlerde kendi modellerini kullanmadı. Şirket daha önce de açık kaynaklı yapay zeka alternatiflerinin kapalı sistemlere kıyasla daha fazla risk taşıdığını savunmuştu; bu bağlamda deneylerde Google'ın Gemma 4, Meta'nın Llama 3.1-8B ve Z.ai'nin GLM-5.2 modelleri tercih edildi.