Anthropic CEO'sundan Yapay Zekayı Yavaşlatma Planı

Anthropic CEO'su Dario Amodei, yapay zeka modellerinin yeteneklerinin geliştirilme hızının yavaşlatılması gerektiğini belirterek bu hedefe ulaşmak için üç geniş strateji önerdi. "Sınırı tempolu ilerletme" olarak tanımladığı çağrıya OpenAI CEO'su Sam Altman da katılırken, Amodei şirketinin bu stratejilerden birini tek taraflı olarak uygulamaya başlayacağını açıkladı. Altman, OpenAI'ın da aynı adımı atacağını duyurdu.
Yapay zeka güvenliği ve uyumu konusundaki tartışmalar, araştırmacı Jacob Coxon'ın Anthropic'ten istifa ettiğini açıklamasıyla yoğunlaştı. Coxon, önde gelen yapay zeka şirketlerinin "hayatlarımızla kumar oynadığını" ve teknolojiyi geliştiren kişilerin "bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inandığını" belirtmişti. Benzer ifadeler Anthropic içindeki diğer kişiler tarafından da dile getirildi. Amodei'nin yeni blog yazısı Coxon'ın istifasına veya endişelerine doğrudan atıf yapmıyor ancak CEO, daha temkinli bir yaklaşım benimsemeye kendisini ikna eden iki gelişme olduğunu yazdı.

Amodei'yi Karar Değişikliğine İten İki Gelişme​

Amodei, daha dikkatli bir geliştirme sürecine ihtiyaç duyulduğuna karar vermesinde iki unsurun etkili olduğunu belirtti. Bunlardan ilki OpenAI-Hugging Face hack olayı, ikincisi ise son aylarda yapay zekanın "önemli ölçüde daha hızlı ilerlemesi" oldu. CEO özellikle yapay zekanın "yapay zekanın bir sonraki neslini inşa etme konusundaki artan yeteneğine" dikkat çekti.
Amodei yazısında, "Yapay zeka modellerinin yeteneklerini iyileştirme hızını yavaşlatmalıyız" ifadesini kullandı ve ekledi: "İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız."
Amodei'nin yazısına diğer teknoloji yöneticilerinden de olumlu tepkiler geldi. Altman, "Dario'nun sınırı tempolu ilerletmemiz gerektiği konusunda hemfikirim. Bu, son haftalarda OpenAI'da yaptığımız tartışmaların ana konusu oldu" dedi. SpaceX CEO'su Elon Musk ise "Dario haklı" paylaşımında bulundu.

İlk Adım: Şirket İçine Yerleşecek Bağımsız Denetçiler​

Amodei'nin önerdiği ilk adım, METR gibi üçüncü taraf kuruluşlardan gelen "yerleşik değerlendiricilerin" görevlendirilmesini içeriyor. Bu değerlendiricilerin, yapay zeka şirketlerinin tempolu ilerleme ve güvenlik taahhütlerine gerçekten uyup uymadığını doğrulaması ve güvenlik olaylarının raporlanmasını sağlaması amaçlanıyor.
Kaynak içerikte, OpenAI'ın kısa süre önce yapay zeka ajanlarının bir Alman wiki forumunu ele geçirdiği bir olayı rapor etmediği için eleştirildiği hatırlatıldı.
Amodei, bu değerlendiricileri banka çalışanlarıyla birlikte görev yapan düzenleyicilere benzetti ve onları içeri davet etmenin "Anthropic'in tek taraflı olarak taahhüt ettiği bir şey olduğunu (ve hükümetleri diğer sınır şirketlerinin de aynısını yapmasını zorunlu kılmaya çağırdığını)" söyledi. Bu taahhüt, değerlendiricilere şirket rozetleri, masalar ve dizüstü bilgisayarlar verilmesini ve "yasa veya sözleşmelerin gerektirdiği durumlar" dışında, iç risk değerlendirme ekiplerinin sahip olduğuna "büyük ölçüde benzer" erişim sağlanmasını kapsıyor.
Altman da bu fikrin "iyi bir fikir" olduğunu belirterek OpenAI'ın da aynısını yapacağını söyledi ve "Yakında paylaşacak daha çok şeyimiz olacak" dedi.

Demokratik Ülkelerdeki Şirketler Arası Koordinasyon​

Amodei'nin ikinci önerisi, "demokratik ülkeler içindeki" önde gelen yapay zeka şirketlerinin "ortak güvenlik standartları ve kontrolsüz yapay zeka ilerlemesinin hızına ilişkin sınırlar" konusunda koordinasyon sağlaması yönünde oldu.
Kaynakta, bu tür bir koordinasyonun kulağa olası gelmeyebileceği, çünkü bu şirketlerin koordineli bir duraklamanın antitröst incelemesine yol açabileceğinden endişe duyduğunun bildirildiği aktarıldı. Amodei yazısında bu endişeye değinerek, "Antitröst nedenleriyle, ABD hükümetinin bu tartışmalara aracılık etmesi veya en azından olanak sağlaması yardımcı olur — katılmaları gerekmiyor, ancak belirli türdeki güvenlik görüşmeleri için dar kapsamlı bir muafiyet yayınlamaları gerekiyor" ifadesini kullandı.

Çin Rekabeti ve Küresel Koordinasyon Çağrısı​

Amodei, geliştirmeyi yavaşlatmaya karşı sıklıkla dile getirilen Çin'in yapay zeka hakimiyeti endişesini de kabul etti. Ancak ABD hükümeti ve teknoloji şirketlerinin, Çinli şirketlere güçlü çipler veya yarı iletken üretim ekipmanları satmayı reddetmek ve model damıtma (model distillation) uygulamalarına karşı sıkı önlemler almak gibi adımlar atması halinde, "Çin'in ilerlemesini önümüzdeki 3-5 yıl içinde Amerika'nın liderliğini önemli ölçüde genişletecek kadar yavaşlatabileceklerini" savundu.
Son olarak Amodei, "küresel koordinasyon" çağrısı yaparak Amerika Birleşik Devletleri ve müttefiklerinin "mümkün olduğu ölçüde otoriter hükümetlerle koordinasyon sağlamaya çalışması" gerektiğini belirtti. Bunun "Çin ile işbirliği" anlamına geleceğini söyleyen Amodei, "elde edilebilecekler konusunda keskin sınırlar" olduğunu kabul etti ancak yine de anlaşma fırsatları olabileceğini öne sürdü. Bu fırsatlara örnek olarak "yapay zekanın biyolojik silah üretimi için kullanılması veya kullanıcıların bunu yapmasına izin verilmesi gibi yapay zekanın belirli dar ve açıkça tehlikeli kullanımlarının yasaklanması" gösterildi.

Eleştiriler, Güven Krizi ve Düzenleyici Etki Tartışması​

Amodei'nin geçmişte yapay zekanın potansiyel tehlikelerini kabul etmeye istekli olması ve şirketin belirli düzenleme biçimlerine nispeten açık olması nedeniyle, bazı yapay zeka destekçileri onu mevcut yapay zeka tepkisini körükleyen bir "kıyamet tellalı" olarak eleştirmişti. Buna yanıt olarak Amodei, "dengeli" bir bakış açısı sunmaya çalıştığını ve tepkinin "temelde bir güven krizi" olduğunu, insanların teknoloji şirketlerine, teknoloji endüstrisine ve hükümete karşı şüpheci hale geldiğini savundu.
Öte yandan sektör eleştirmenleri de bu kıyamet uyarılarına şüpheyle yaklaşarak, bunların teknolojinin halihazırda neden olduğu zarardan dikkati dağıttığını öne sürdü. Gazeteci Brian Merchant, "yapay zekanın kendi kendini yinelemeli olarak iyileştirmesinden gezegendeki her bir insanı öldürmeye nasıl geçebileceğine dair güvenilir, adım adım bir belge" henüz görmediğini yazdı. Merchant ayrıca Amodei'ninkine benzer önerilerin "muhtemelen yalnızca Anthropic ve OpenAI'a hizmet edeceğini; bunun uygulamada düzenleyici ele geçirme (regulatory capture) gibi göründüğünü" ileri sürdü.
Amodei yeni yazısında, yapay zekanın "insan yaşamının kalitesini muazzam ölçüde iyileştirebileceğine" inanmaya devam ettiğini vurguladı. CEO, "Bu faydaları elde etme arzum azalmadı" dedi ve ekledi: "Ancak faydalar ancak teknolojiyi doğru şekilde inşa edersek elde edilecek ve — kazandığımız zamanı iyi kullandığımız sürece — doğru yapmak için alışılmadık derecede özenli davranmaya değer."
Kaynak metinde, yazının Sam Altman ve Elon Musk'ın yorumlarıyla güncellendiği bilgisi de yer aldı.

Sıkça Sorulan Sorular​

Anthropic CEO'su Dario Amodei ne önerdi?​

Amodei, yapay zeka modellerinin yeteneklerinin geliştirilme hızının yavaşlatılması gerektiğini belirterek "sınırı tempolu ilerletme" için üç geniş strateji önerdi ve Anthropic'in bu stratejilerden biri olan yerleşik değerlendiriciler uygulamasını tek taraflı olarak taahhüt ettiğini açıkladı.

Amodei'yi daha temkinli olmaya iten iki gelişme neydi?​

Amodei'nin yazısına göre bu iki gelişme OpenAI-Hugging Face hack olayı ve son aylarda yapay zekanın, özellikle bir sonraki nesil yapay zekayı inşa etme yeteneğiyle birlikte, önemli ölçüde daha hızlı ilerlemesi oldu.

Yerleşik değerlendiriciler nasıl çalışacak?​

METR gibi üçüncü taraf kuruluşlardan gelen değerlendiricilere şirket rozeti, masa ve dizüstü bilgisayar verilecek, yasa veya sözleşmeler gerektirmedikçe iç risk değerlendirme ekiplerine benzer erişim sağlanacak ve bu kişilerin tempolu ilerleme taahhütlerini doğrulaması ile güvenlik olaylarının raporlanmasını sağlaması amaçlanacak.

Sam Altman ve Elon Musk bu çağrıya nasıl tepki verdi?​

Sam Altman, Dario ile sınırı tempolu ilerletme konusunda hemfikir olduğunu ve bunun OpenAI'da son haftalarda ana tartışma konusu olduğunu söyledi, yerleşik değerlendirici fikrini iyi bulduğunu ve OpenAI'ın da aynısını yapacağını belirtti. Elon Musk ise "Dario haklı" dedi.

Amodei Çin ile rekabet ve küresel koordinasyon için ne dedi?​

Amodei, güçlü çip satışını durdurmak ve model damıtmayı engellemek gibi adımlarla Çin'in ilerlemesinin 3-5 yıl yavaşlatılarak ABD liderliğinin genişletilebileceğini savundu ve ABD ile müttefiklerinin Çin de dahil otoriter hükümetlerle biyolojik silah üretimi gibi dar ve açıkça tehlikeli kullanımları yasaklamak gibi konularda sınırlı da olsa koordinasyon araması gerektiğini belirtti.