Georgetown Üniversitesi merkezli Güvenlik ve Ortaya Çıkan Teknolojiler Merkezi'nin (CSET) yönetici direktörü Helen Toner, yapay zeka güvenliği ve düzenlemesi hakkındaki uyarılarını yeniledi. Toner, OpenAI'nın yönetim kurulunda görev yaparken Sam Altman'ın görevden alınmasına oy veren dört üyeden biri olarak tanınıyor; Altman kısa süre sonra CEO olarak geri döndü, Toner istifa etti ve şirket yeni bir yönetim kuruluyla tamamen yeniden yapılandı. Bu olay, sektörde artık "the blip" olarak anılıyor.
OpenAI'de yaşanan accountability krizi
Toner, Decoder podcastindeki uzun röportajında OpenAI deneyiminin temel dersini şöyle özetledi: Şirketin kâr amacı gütmeyen yönetim kurulu, OpenAI'nin güvenli yapay zeka geliştirme misyonunun kâr ve büyüme lehine ihlal edilmesini önlemek için vardı. Kurul bu mekanizmayı fiilen devreye sokmaya çalıştığında ise hesap verebilirlik mekanizması kırıldı. Toner'a göre bu deneyim, sektörün kendi kendini denetlemesine güvenilmemesi gerektiğini gösteriyor. İyimser görüşünü dile getirirken şu değerlendirmeyi yaptı: Geleceğe dair umutlarımız herhangi bir kişinin güvenilir olmasına bağlıysa, büyük bir sorundayız.
CSET ne yapıyor?
Toner'ın yönettiği CSET, 2019'dan bu yana Georgetown içinde yaklaşık 50 kişilik bir ekip olarak çalışıyor. Amaçları, ortaya çıkan teknolojileri ulusal güvenlik açısından titiz ve uygulanabilir analizlerle karar vericilere aktarmak. 2019'da listenin en tepesinde yapay zeka vardı. Ekip uzun raporlar üretiyor ve bu raporları Kongre üyeleri ile çalışanlarına, Beyaz Saray ve çeşitli bakanlıklar dahil olmak üzere yürütme organına kısa brifinglerle sunuyor. Toner, karar vericilerin kaliteli ve bağımsız bilgiye ciddi talebi olduğunu, teknoloji sektöründen gelen kişilerin Kongre çalışanlarının beklentinin çok üstünde bilgiye sahip olduğunu fark ettiğini söylüyor.
Sektörün gerçekte hedeflediği şey
Toner, OpenAI ve Anthropic gibi şirketlerin tüketici internet şirketi olarak algılanmasının, kuruluş vizyonlarından çok uzak olduğunu vurguluyor. 2015'te kurulan OpenAI ve 2021'de kurulan Anthropic'in temel hedefi, insanlar kadar ya da onlardan daha akıllı makineler üretmek. Şirketlerin günlük diline yerleşen öncelik, özyinelemeli kendini geliştirme (RSI) üzerinden "süper zeka"ya ulaşmak. Toner'a göre 2025 ve 2026'da bu şirketler, Ar-Ge süreçlerinin giderek daha fazla bölümünde yapay zekayı kullanmaya başladı ve buna bağlı bir hızlanma görüyor olduklarını söylüyor. Toner, bu hedefin birçok kişiye ne kadar aşırı göründüğünün gözden kaçırıldığını belirterek, bunu kamuya açık bir şekilde anlatmanın değer taşıdığını savunuyor.
AGI tartışması ve bilinç sorusu
Toner, artık AGI (genel yapay zeka) kavramının bir dönüm noktası olarak kullanılmasının yararsız olduğunu düşünüyor. Tanımlarından bazılarını aştığımızı, bazılarından hâlâ çok uzakta olduğumuzu söylüyor; bu nedenle kavramın terk edilip daha spesifik ifadeler kullanılması gerektiğini savunuyor. AGI'nin şu anki teknolojiyle ulaşılabilir olasılığının, bilim kurgu olarak değil ciddiye alınması gereken bir senaryo olarak değerlendirilmesi gerektiğini vurgulayan Toner, ülkelerin acil durum planlarına benzer bir hazırlık yaklaşımını öneriyor. Claude'un bilinçli olup olmadığı sorusuna ise "Hiçbir fikrim yok" cevabını veriyor; bu sorunun bilimsel olarak çözümsüz olduğunu ve her iki yönde hata yapmanın da ciddi sonuçları olacağını söylüyor.
Hizalanma sorunu ve biyolojik silah riski
Toner, "hizalanma" teriminin çok farklı anlamlarda kullanıldığına dikkat çekiyor: Şirketin koyduğu korumaların çalışması, modelin kullanıcı istediğini tam olarak yapması ya da modelin ahlaken iyi olması bunlar birbirinden çok farklı hedefler. Toner, en tutarlı tanım olan kullanıcının istediğini yapma hedefinin bile çözülmeye yakın görünmediğini söylüyor. Biyolojik silah riskine gelince, Toner toplumun uyum kapasitesini küçümsememek gerektiğini savunuyor: ABD'de biyoloji eğitimi almış yüz binlerce insan varken büyük ölçekli saldırı yaşanmamasının nedenlerinden biri bilginin görece az bulunması, diğeri ise malzemeye erişim, postayla DNA sentezi gibi önlemler ve FBI'ın terör gruplarını izlemesi. Siberalanda ise saldırganın savunucuya kıyasla çok daha az güvenilebilirlik kanıtı sunması gerektiğini, otonom savunma sistemlerine ise çok daha güçlü güvenceler gerektiğini belirtiyor.
Beyaz Saray'ın gönüllü anlaşması ve Çin
Röportajda, frontier laboratuvarlarının liderlerinin yavaşlama çağrısı yapmasına karşılık Beyaz Saray'ın cevabının bir gönüllü uzlaşma olduğu hatırlatılıyor; bu anlaşma kısmen OpenAI örneğinde başarısızlığa uğrayan yönetim kurulu hesap verebilirliğine dayanıyor. Toner ayrıca politika konuşmalarının her birinde Çin konusunun büyük yer tuttuğunu vurguluyor. Anthropic'in halka arz yolunda ilerlemesinin, OpenAI'nin en büyük rakibine yeni bir pazar baskısı seti getireceği de röportajda dile getirilen bir başka gelişme. Röportaj, Nvidia'nın araştırma açması ve Jensen Huang'ın istifasından önce yapıldığı için bu konu doğrudan ele alınmıyor.
Sıkça Sorulan Sorular
Helen Toner kimdir?
Helen Toner, Georgetown Üniversitesi bünyesindeki Güvenlik ve Ortaya Çıkan Teknolojiler Merkezi'nin (CSET) yönetici direktörüdür. Yapay zeka güvenliği ve politika topluluğunda tanınan bir isimdir ve OpenAI'nın yönetim kurulunda görev yapmış, Sam Altman'ın görevden alınmasına oy veren dört üyeden biridir.
"The blip" olarak anılan olayda ne oldu?
OpenAI'nin kâr amacı gütmeyen yönetim kurulunun dört üyesi, Sam Altman'ı CEO'luktan uzaklaştırdı. Olay, Altman'ın CEO olarak geri dönmesi, Toner'ın istifası ve yeni bir yönetim kurulunun gelmesiyle sonuçlandı. OpenAI sonrasında tamamen yeniden yapılandı.
Toner neden sektörün kendini denetlemesine güvenilmez diyor?
OpenAI'nin yönetim kurulu, şirketin güvenli yapay zeka misyonunu kâr ve büyüme lehine ihlal etmesini önlemek için vardı; kurul bu hesap verebilirlik mekanizmasını fiilen devreye sokmaya çalıştığında mekanizma kırıldı. Toner'a göre bu, sektörün kendi kendini denetlemesine güvenilemeyeceğini gösteriyor.
RSI ve süper zeka hedefi ne anlama geliyor?
RSI (özyinelemeli kendini geliştirme), yapay zekanın bir sonraki nesil daha akıllı sistemleri geliştirmek için kullanılması fikri. Toner'a göre OpenAI ve Anthropic'in temel hedefi insanlardan daha akıllı makineler üretmek ve bu fikir 1960'larda Alan Turing ile çalışan I. J. Good'un "zeka patlaması" kavramına kadar uzanıyor.
AGI'ye ulaşıldı mı?
Toner, AGI'nin bir dönüm noktası olarak kullanılmasının artık yararsız olduğunu söylüyor. Tanımlarından bazılarını aştığımızı, bazılarından hâlâ uzakta olduğumuzu belirtiyor; bu nedenle tartışmanın daha spesifik kavramlarla yürütülmesi gerektiğini savunuyor.
Yorumlar (0)
Yorum yapmak için giriş yapmalısınız.