Yapay zeka güvenliği ve sektörün yavaşlaması gerekip gerekmediği yönündeki tartışma, Anthropic CEO'su Dario Amodei'nin "pace the frontier" (sınırı ölçülü ilerletme) planını yayımlaması ve Nvidia CEO'su Jensen Huang'ın ABD Başkanı Donald Trump'ın yapay zeka karşıtlığının bir aldatmaca olduğu ve düzenlemeye gerek olmadığı yönündeki iddialarını yinelemesiyle yeniden alevlendi. TechCrunch'ın Equity podcastinin son bölümünde Kirsten Korosec, Sean O'Kane ve Anthony, Amodei ve OpenAI CEO'su Sam Altman gibi yöneticilerin yavaşlama isteğinde ciddi olup olmadığını ele aldı.
Programda Anthony, sektörde birçok liderin Amodei'nin planına hızla destek vermesine şaşırdığını belirtirken, Sean planın ayrıntılardan yoksun olduğuna dikkat çekti. Kirsten'ın mevcut düzenlemeler ve serbest piyasanın tek başına yeterli güvence sağlayıp sağlayamayacağı sorusuna ise Sean, federal hükümetin genel olarak düzenlemeleri uygulamakta isteksiz göründüğünü ve tüketici tercihlerinin bu pazarı yönlendirecek kadar etkili olmadığını söyleyerek yanıt verdi.
Anthony, sektörde kısa sürede bir uzlaşma oluşmasının bir yandan cesaret verici olduğunu, diğer yandan da bu uzlaşmanın gerçekten büyük bir yavaşlama adımına dönüşüp dönüşmeyeceği konusunda kendisini şüpheye düşürdüğünü ifade etti. Sean ise bu gelişmeyi, bir hafta önce programda yavaşlama beklemediğini söylemesinin hemen ardından gelen bir dönüş olarak nitelendirdi. Sean'a göre şirketlerin mevcut yapısı yavaşlamayı zorlaştırıyor ve Dario Amodei, Sam Altman ve bir ölçüde Elon Musk'tan gelen açıklamalara rağmen ortada hala somut detaylar yok.
Sean, "pace the frontier" ifadesini Point Break filmine benzeterek bunun çok Kaliforniya tarzı bir söylem olduğunu söyledi ve hem risklere ilişkin iddialarda hem de yavaşlamadan tam olarak ne kastedildiği konusunda belirsizlik bulunduğunu vurguladı.
Sean, Huang'ın kendisini bu alanda "odadaki aklıselim kişi" olarak gördüğünü düşündüğünü söyledi. Sean'a göre bir ila iki yıl önce bu rol Microsoft ve CEO'su Satya Nadella'ya atfediliyordu, ancak Nadella'nın Google'ı dans ettireceğine dair sözünün gerçekleşmemesi ve hatta tersinin olması gibi nedenlerle Microsoft bu konumu kaybetti. Sean, Huang'ın hem mümkün olduğunca çok kişiyi memnun edecek en ölçülü şeyi söylemek istediğini hem de sektör ile mevcut yönetim arasındaki en kullanışlı irtibat kişisi olduğunu değerlendirdi. Başkanın sahnedeyken aramasının da bu bağı ve yüksek profilli konferansın her iki tarafa da bu karmaşaya yanıt verme imkanı sunduğunu ekledi.
Kirsten ise bu görünümün biraz kurgulanmış hissettirdiğini ve bir adım ileri gidildiğini savundu. Kirsten'a göre bu durum, Nvidia'nın yapay zekanın ölçüsüz bir şekilde ilerlemesinden büyük ölçüde fayda sağladığını açıkça gösterdi.
Anthony'ye göre bu dil tercihi önemli. Her iki ismin de yavaşlamadan bahsetmesi, önerilen üç tedbirin teoride işleri yavaşlatabilecek olmasına rağmen, hiçbirinin açıkça "şu anki hızdan daha yavaş gitmeliyiz" demediğini gösteriyor. Anthony, önerilerin daha çok "bazı temel güvenlik önlemleri alıyoruz ve birilerinin bizi gözetlemesine izin veriyoruz" mesajı verdiğini söyledi.
Bunun yanında demokratik ülkelerdeki büyük yapay zeka şirketlerinin güvenlik standartları ve sınırları konusunda koordinasyon sağlaması ve uluslararası koordinasyonun güçlendirilmesi de öneriler arasında yer alıyor. Kirsten, bu başlıkların genel çerçeve olarak bilindiğini ancak etraflarında ciddi bir belirsizlik bulunduğunu ve özellikle Huang gibi isimlerden kayda değer itirazlar geldiğini belirtti.
Sean da bu noktada planların hala gevşek olduğunu ve hem risklere dair iddialarda hem de yavaşlamanın pratikte ne anlama geldiğinde spesifiklik eksikliği olduğunu yineledi.
Sean bu fikri teoride hoş bulduğunu ancak pratikte işlemediğini söyledi. Sean'a göre mevcut federal hükümet genel olarak düzenlemeleri uygulamak konusunda istekli görünmüyor, bu durum yapay zeka özelinde daha da belirgin. Ayrıca pazarı tüketici tercihlerinin yönlendirdiğini söylemek de zor. Sean, "Eğer bu şirketlerden biri gerçekten kötü bir şey yaparsa, kaç iptal olacağına bağlı olarak bir etki görecekler" şeklindeki beklentinin bu pazarda karşılığı olmadığını ifade etti.
Sean, şirketlerin artık kurumsal satışlara yönelmesiyle gelirlerinin büyük kısmını kurumsal müşterilerden elde ettiğini ve bu nedenle tüketicinin parasıyla oy vermesinin zorlaştığını anlattı. Kurumların, OpenAI'ın Codex'i ile Anthropic'in Claude Code'u arasında sırf prensipte bir anlaşmazlık nedeniyle kolayca taraf değiştirmeyeceğini belirtti. Buna ek olarak şirketlerin büyük yatırım paralarıyla ayakta tutulduğunu ve bu sayede olası kayıpları daha kolay absorbe edebildiklerini, bu nedenle piyasa baskısının caydırıcı etkisinin sınırlı kaldığını dile getirdi.
Programda Anthony, sektörde birçok liderin Amodei'nin planına hızla destek vermesine şaşırdığını belirtirken, Sean planın ayrıntılardan yoksun olduğuna dikkat çekti. Kirsten'ın mevcut düzenlemeler ve serbest piyasanın tek başına yeterli güvence sağlayıp sağlayamayacağı sorusuna ise Sean, federal hükümetin genel olarak düzenlemeleri uygulamakta isteksiz göründüğünü ve tüketici tercihlerinin bu pazarı yönlendirecek kadar etkili olmadığını söyleyerek yanıt verdi.
Amodei'nin "Pace the Frontier" Planına Hızlı Destek
Equity'deki sohbette Anthony, Amodei'nin blog yazısını yayımlamasından önce bile sektörde benzer önerilerin dolaşımda olduğunu gözlemlediğini aktardı. Anthony'ye göre bu öneriler yalnızca Amodei'nin kendi düşüncesi değil, yapay zeka güvenliği topluluğunda bir süredir olgunlaşan fikirlerin bir yansımasıydı. Buna rağmen birçok kişinin bu fikri hızla benimsemesi dikkat çekici bulundu.Anthony, sektörde kısa sürede bir uzlaşma oluşmasının bir yandan cesaret verici olduğunu, diğer yandan da bu uzlaşmanın gerçekten büyük bir yavaşlama adımına dönüşüp dönüşmeyeceği konusunda kendisini şüpheye düşürdüğünü ifade etti. Sean ise bu gelişmeyi, bir hafta önce programda yavaşlama beklemediğini söylemesinin hemen ardından gelen bir dönüş olarak nitelendirdi. Sean'a göre şirketlerin mevcut yapısı yavaşlamayı zorlaştırıyor ve Dario Amodei, Sam Altman ve bir ölçüde Elon Musk'tan gelen açıklamalara rağmen ortada hala somut detaylar yok.
Sean, "pace the frontier" ifadesini Point Break filmine benzeterek bunun çok Kaliforniya tarzı bir söylem olduğunu söyledi ve hem risklere ilişkin iddialarda hem de yavaşlamadan tam olarak ne kastedildiği konusunda belirsizlik bulunduğunu vurguladı.
Huang ve Trump'tan Düzenleme Karşıtı Mesaj
Tartışmanın diğer tarafında Nvidia CEO'su Jensen Huang'ın tutumu yer aldı. Kirsten, Huang'ın All-In Summit sahnesinde Başkan Trump'tan bir telefon almasının da dahil olduğu açıklamalarına dikkat çekti. Huang'ın bu çıkışının, yapay zeka karşıtlığının aldatmaca olduğu ve düzenlemenin gereksiz olduğu yönündeki söylemle örtüştüğü belirtildi.Sean, Huang'ın kendisini bu alanda "odadaki aklıselim kişi" olarak gördüğünü düşündüğünü söyledi. Sean'a göre bir ila iki yıl önce bu rol Microsoft ve CEO'su Satya Nadella'ya atfediliyordu, ancak Nadella'nın Google'ı dans ettireceğine dair sözünün gerçekleşmemesi ve hatta tersinin olması gibi nedenlerle Microsoft bu konumu kaybetti. Sean, Huang'ın hem mümkün olduğunca çok kişiyi memnun edecek en ölçülü şeyi söylemek istediğini hem de sektör ile mevcut yönetim arasındaki en kullanışlı irtibat kişisi olduğunu değerlendirdi. Başkanın sahnedeyken aramasının da bu bağı ve yüksek profilli konferansın her iki tarafa da bu karmaşaya yanıt verme imkanı sunduğunu ekledi.
Kirsten ise bu görünümün biraz kurgulanmış hissettirdiğini ve bir adım ileri gidildiğini savundu. Kirsten'a göre bu durum, Nvidia'nın yapay zekanın ölçüsüz bir şekilde ilerlemesinden büyük ölçüde fayda sağladığını açıkça gösterdi.
Altman ve Musk da Yavaşlama Söylemine Dahil Oldu
Programda yavaşlama tartışmasının yalnızca Amodei ile sınırlı kalmadığı vurgulandı. Sean, Amodei'nin yanı sıra OpenAI CEO'su Sam Altman'ın ve bir dereceye kadar Elon Musk'ın da benzer söylemlere katıldığını hatırlattı. Anthony de hem Altman'ın hem de Amodei'nin "slowdown" (yavaşlama) kelimesini kullandığını ancak daha çok "pace" (ölçülü ilerleme) kelimesini tercih ettiğini belirtti.Anthony'ye göre bu dil tercihi önemli. Her iki ismin de yavaşlamadan bahsetmesi, önerilen üç tedbirin teoride işleri yavaşlatabilecek olmasına rağmen, hiçbirinin açıkça "şu anki hızdan daha yavaş gitmeliyiz" demediğini gösteriyor. Anthony, önerilerin daha çok "bazı temel güvenlik önlemleri alıyoruz ve birilerinin bizi gözetlemesine izin veriyoruz" mesajı verdiğini söyledi.
Önerilen Üç Tedbir: Bağımsız Denetim ve Koordinasyon
Kirsten, uzlaşmanın kimleri kapsadığının altını çizerek bunun "frontier AI labs" yani sınırdaki yapay zeka laboratuvarları ile ilgili olduğunu ve bu ayrımın önemli olduğunu söyledi. Kirsten'ın aktardığına göre genel fikir, Anthropic veya OpenAI gibi şirketlerin içinde çalışacak bağımsız üçüncü taraf değerlendiricilerin gelmesi ve yapay zeka güvenliği uygulamalarını ile olaylarını izlemesi yönünde.Bunun yanında demokratik ülkelerdeki büyük yapay zeka şirketlerinin güvenlik standartları ve sınırları konusunda koordinasyon sağlaması ve uluslararası koordinasyonun güçlendirilmesi de öneriler arasında yer alıyor. Kirsten, bu başlıkların genel çerçeve olarak bilindiğini ancak etraflarında ciddi bir belirsizlik bulunduğunu ve özellikle Huang gibi isimlerden kayda değer itirazlar geldiğini belirtti.
Sean da bu noktada planların hala gevşek olduğunu ve hem risklere dair iddialarda hem de yavaşlamanın pratikte ne anlama geldiğinde spesifiklik eksikliği olduğunu yineledi.
Serbest Piyasa ve Mevcut Düzenlemeler Yeterli mi?
Programın en tartışmalı bölümlerinden biri, Kirsten'ın Sean'a yönelttiği serbest piyasa sorusu oldu. Kirsten, rekabetin korunduğu ve korumacılığın olmadığı bir serbest piyasa toplumunda, zaten var olan düzenlemelerle birlikte güvensiz bir ürün çıkaran şirketin ayakta kalamayacağını ve mevcut düzenleyicilerin bu şirketlerin peşine düşebileceğini savunan görüşü Sean'a sordu.Sean bu fikri teoride hoş bulduğunu ancak pratikte işlemediğini söyledi. Sean'a göre mevcut federal hükümet genel olarak düzenlemeleri uygulamak konusunda istekli görünmüyor, bu durum yapay zeka özelinde daha da belirgin. Ayrıca pazarı tüketici tercihlerinin yönlendirdiğini söylemek de zor. Sean, "Eğer bu şirketlerden biri gerçekten kötü bir şey yaparsa, kaç iptal olacağına bağlı olarak bir etki görecekler" şeklindeki beklentinin bu pazarda karşılığı olmadığını ifade etti.
Sean, şirketlerin artık kurumsal satışlara yönelmesiyle gelirlerinin büyük kısmını kurumsal müşterilerden elde ettiğini ve bu nedenle tüketicinin parasıyla oy vermesinin zorlaştığını anlattı. Kurumların, OpenAI'ın Codex'i ile Anthropic'in Claude Code'u arasında sırf prensipte bir anlaşmazlık nedeniyle kolayca taraf değiştirmeyeceğini belirtti. Buna ek olarak şirketlerin büyük yatırım paralarıyla ayakta tutulduğunu ve bu sayede olası kayıpları daha kolay absorbe edebildiklerini, bu nedenle piyasa baskısının caydırıcı etkisinin sınırlı kaldığını dile getirdi.
Siber Güvenlik
Siber Güvenlik
Siber Güvenlik
Yorumlar (0)
Yorum yapmak için giriş yapmalısınız.