Yapay zeka araştırmacıları, süper zekanın insanlık için varoluşsal bir tehdit oluşturabileceği uyarısında bulundu. Eski OpenAI ve Google DeepMind çalışanı Geoffrey Irving, insanlığın yok olma ihtimalini yazı tura atmak gibi gördüğünü söylerken, Google DeepMind araştırma bilimcisi Neel Nanda bu riskin en az yüzde 10 olduğunu belirtti. Uyarılar, yapay zekanın yeteneklerini ve motivasyonlarını inceleyen kar amacı gütmeyen Palisade Research tarafından frominside.ai sitesinde yayımlanan bir düzine görüşmede dile getirildi.
Görüşmelere OpenAI, Google ve Anthropic'in mevcut ve eski çalışanları katıldı. Araştırmacıların bir kısmı, yapay zekanın insanlığın yok oluşuna neden olabileceği ihtimaline dikkat çekti. Yayımlanan videolar, yapay zeka güvenliği kavramının ne anlama geldiği ve bu konuda ne yapılması gerektiği konusundaki belirsizliği de gözler önüne serdi. Videolarda bu soruna yönelik tek ve bütüncül bir çözüm önerisi sunulmadı.
Sitede her bir görüşmenin tamamı ayrı videolar halinde yer alırken, benzer konularda konuşan birden fazla kişinin açıklamalarından oluşturulmuş derleme bölümler de bulunuyor. Bu derlemeler arasında, tartışmaların sadece bir abartı veya pazarlama olup olmadığı ve araştırmacıların bu kadar tehlikeli gördükleri bir alanda neden çalışmaya devam ettikleri gibi başlıklar yer alıyor.
Yayımlanan içerikler, daha önce yapay zeka güvenliği topluluğuna ilişkin hazırlanan ve bu terimin ne anlama geldiğini ya da bu konuda ne yapılması gerektiğini netleştirmenin ne kadar zor olduğunu ele alan bir rapora da atıf yapıyor. Söz konusu raporda da Geoffrey Irving ve Neel Nanda'nın yorumlarına yer verilmişti. Yeni yayımlanan videolar da bu belirsizliği teyit eder nitelikte, ortak bir çözüm çerçevesi ortaya koymuyor.
Google DeepMind araştırma bilimcisi Neel Nanda ise riskin daha düşük ancak yine de son derece yüksek olduğunu vurguladı. Nanda, "İnsanlığın yok olmasına neden olma ihtimali en az yüzde 10 ve bu gülünç derecede yüksek" dedi. Her iki araştırmacının da aralarında bulunduğu birçok isim, yapay zekanın insanlığı yok oluşa sürükleyebileceği ihtimali konusunda uyarıda birleşti.
Bu oranlar, yapay zeka güvenliği tartışmalarında telaffuz edilen en yüksek risk tahminleri arasında yer alıyor. Araştırmacılar, yüzde 10'luk bir ihtimalin bile insanlık tarihi açısından kabul edilemez derecede yüksek olduğunun altını çiziyor.
Kokotajlo, kontrol sorununa da dikkat çekerek, "Ne yazık ki onları nasıl kontrol edeceğimizi hiç bilmiyoruz. Ve bu yüzden muhtemelen kimse onları kontrol edemeyecek. Bu tam olarak kulağa geldiği kadar tehlikeli ve buna izin verilmemeli" değerlendirmesinde bulundu.
Bu açıklama, süper zekanın tam olarak kulağa geldiği kadar tehlikeli olduğu yönündeki başlığın da kaynağını oluşturuyor. Araştırmacılar, kontrol mekanizması bulunmayan ve insan kapasitesini aşan bir zekanın yaratılmasının geri döndürülemez sonuçlar doğurabileceği görüşünde birleşiyor.
Google çalışanı Mary Phuong, bu konudaki çıkar çatışmasına açıkça değindi. Phuong, "Söylediklerime kesinlikle şüpheyle yaklaşmalısınız çünkü bana laboratuvar tarafından ödeme yapılıyor" dedi.
Neel Nanda ise çalışmaya devam etme gerekçesini varoluşsal riski azaltma hedefiyle açıkladı. Nanda, "Eğer yaptığım işin bu varoluşsal riskleri doğrudan azalttığına inanmasaydım, bırakırdım... Bu şirketler ben bıraktım diye bu sistemleri yapmayı bırakmayacaklar" ifadesini kullandı. Bu sözler, bireysel olarak çekilmenin gelişimi durdurmayacağı, bu nedenle içeride kalarak riski azaltmaya çalışmanın daha anlamlı olduğu düşüncesini yansıtıyor.
Görüşmelerin geneli, yapay zeka güvenliği alanındaki tartışmaların pazarlama veya abartı olup olmadığı sorusunu da ele alıyor. Araştırmacılar, bu endişelerin abartı olarak görülmemesi gerektiğini, aksine ciddiye alınması gereken somut risklere işaret ettiğini savunuyor.
Görüşmelere OpenAI, Google ve Anthropic'in mevcut ve eski çalışanları katıldı. Araştırmacıların bir kısmı, yapay zekanın insanlığın yok oluşuna neden olabileceği ihtimaline dikkat çekti. Yayımlanan videolar, yapay zeka güvenliği kavramının ne anlama geldiği ve bu konuda ne yapılması gerektiği konusundaki belirsizliği de gözler önüne serdi. Videolarda bu soruna yönelik tek ve bütüncül bir çözüm önerisi sunulmadı.
Palisade Research ve frominside.ai Görüşmeleri
Palisade Research, kendisini yapay zekaların yeteneklerini ve motivasyonlarını inceleyen bir kar amacı gütmeyen kuruluş olarak tanımlıyor. Kuruluş, yapay zeka araştırmacılarıyla yaptığı bir düzine görüşmeyi frominside.ai adresinde topladı ve yayımladı. Görüşmelerde yer alan isimler arasında OpenAI, Google ve Anthropic'te halen çalışan veya daha önce çalışmış araştırmacılar bulunuyor.Sitede her bir görüşmenin tamamı ayrı videolar halinde yer alırken, benzer konularda konuşan birden fazla kişinin açıklamalarından oluşturulmuş derleme bölümler de bulunuyor. Bu derlemeler arasında, tartışmaların sadece bir abartı veya pazarlama olup olmadığı ve araştırmacıların bu kadar tehlikeli gördükleri bir alanda neden çalışmaya devam ettikleri gibi başlıklar yer alıyor.
Yayımlanan içerikler, daha önce yapay zeka güvenliği topluluğuna ilişkin hazırlanan ve bu terimin ne anlama geldiğini ya da bu konuda ne yapılması gerektiğini netleştirmenin ne kadar zor olduğunu ele alan bir rapora da atıf yapıyor. Söz konusu raporda da Geoffrey Irving ve Neel Nanda'nın yorumlarına yer verilmişti. Yeni yayımlanan videolar da bu belirsizliği teyit eder nitelikte, ortak bir çözüm çerçevesi ortaya koymuyor.
İnsanlığın Yok Oluş Riski Yüzde Kaç Olarak Açıklandı?
Görüşmelerde en dikkat çekici açıklamalar, insanlığın yok oluş ihtimaline ilişkin oranlar oldu. Eski OpenAI ve Google DeepMind çalışanı Geoffrey Irving, yeni bir görüşmede "İnsanlığın yok olma ihtimali bence yazı tura atmak gibi, yaklaşık yüzde 50" ifadesini kullandı.Google DeepMind araştırma bilimcisi Neel Nanda ise riskin daha düşük ancak yine de son derece yüksek olduğunu vurguladı. Nanda, "İnsanlığın yok olmasına neden olma ihtimali en az yüzde 10 ve bu gülünç derecede yüksek" dedi. Her iki araştırmacının da aralarında bulunduğu birçok isim, yapay zekanın insanlığı yok oluşa sürükleyebileceği ihtimali konusunda uyarıda birleşti.
Bu oranlar, yapay zeka güvenliği tartışmalarında telaffuz edilen en yüksek risk tahminleri arasında yer alıyor. Araştırmacılar, yüzde 10'luk bir ihtimalin bile insanlık tarihi açısından kabul edilemez derecede yüksek olduğunun altını çiziyor.
Süper Zeka Neden Tanrı Benzeri Güç Olarak Tanımlanıyor?
Eski OpenAI araştırmacısı Daniel Kokotajlo, süper zeki yapay zekanın gücünü tanımlamak için çarpıcı bir benzetme kullandı. Kokotajlo, süper zeki yapay zekanın "temelde tanrı benzeri bir güce sahip olacağını" söyledi.Kokotajlo, kontrol sorununa da dikkat çekerek, "Ne yazık ki onları nasıl kontrol edeceğimizi hiç bilmiyoruz. Ve bu yüzden muhtemelen kimse onları kontrol edemeyecek. Bu tam olarak kulağa geldiği kadar tehlikeli ve buna izin verilmemeli" değerlendirmesinde bulundu.
Bu açıklama, süper zekanın tam olarak kulağa geldiği kadar tehlikeli olduğu yönündeki başlığın da kaynağını oluşturuyor. Araştırmacılar, kontrol mekanizması bulunmayan ve insan kapasitesini aşan bir zekanın yaratılmasının geri döndürülemez sonuçlar doğurabileceği görüşünde birleşiyor.
Araştırmacılar Neden Riskli Gördükleri Alanda Çalışmaya Devam Ediyor?
Videolarda en çok merak edilen sorulardan biri, araştırmacıların bu kadar büyük bir risk gördükleri bir teknolojiyi neden geliştirmeye devam ettikleri oldu. Bu soruya verilen yanıtlar, hem kişisel motivasyonları hem de sektöre dair eleştirel bir özeleştiriyi içeriyor.Google çalışanı Mary Phuong, bu konudaki çıkar çatışmasına açıkça değindi. Phuong, "Söylediklerime kesinlikle şüpheyle yaklaşmalısınız çünkü bana laboratuvar tarafından ödeme yapılıyor" dedi.
Neel Nanda ise çalışmaya devam etme gerekçesini varoluşsal riski azaltma hedefiyle açıkladı. Nanda, "Eğer yaptığım işin bu varoluşsal riskleri doğrudan azalttığına inanmasaydım, bırakırdım... Bu şirketler ben bıraktım diye bu sistemleri yapmayı bırakmayacaklar" ifadesini kullandı. Bu sözler, bireysel olarak çekilmenin gelişimi durdurmayacağı, bu nedenle içeride kalarak riski azaltmaya çalışmanın daha anlamlı olduğu düşüncesini yansıtıyor.
Görüşmelerin geneli, yapay zeka güvenliği alanındaki tartışmaların pazarlama veya abartı olup olmadığı sorusunu da ele alıyor. Araştırmacılar, bu endişelerin abartı olarak görülmemesi gerektiğini, aksine ciddiye alınması gereken somut risklere işaret ettiğini savunuyor.
Yapay Zekâ
Yapay Zekâ
Yapay Zekâ
Yorumlar (0)
Yorum yapmak için giriş yapmalısınız.