METR raporuna göre Anthropic'in yapay zekâsı kendini geliştiriyor

Yapay zekâ güvenlik kuruluşu METR'in Anthropic'te 11 hafta süren araştırmaya dayanan raporu, yapay zekâ sistemlerinin kendi geliştirme süreçlerini ne denli hızlandırdığına ilişkin en net delilleri sunuyor.
Raporda Anthropic modellerinin, bir yıl öncesine kıyasla yaklaşık iki kat daha hızlı ilerlediği görülüyor. Kurum, bir yıllık süreçte "tarihsel olarak iki yılın ilerlemesi"ne eşdeğer kazançlar elde edildiğini aktarıyor.

Yapay zekâ gelişimi hızlanıyor​

METR araştırmacıları, hızlanmanın yalnızca hesaplama gücünün artmasından kaynaklanmadığına dair "emin" olduklarını belirtti. Raporda, ekim ayı itibarıyla hızlanmanın büyük bölümünün "yapay zekâdan" kaynaklandığı, bu katkının zamanla arttığı vurgulanıyor.
Anketler ve görüşmeler, çalışanların üretkenliğinin belirgin şekilde artığını gösteriyor. Şirketin en yetkin dahili modelini kullanan çalışanlar, yapay zekâ destekli çalışmanın kendilerini "yaklaşık 12 kat" daha verimli kıldığını bildiriyor; bu oran, birkaç ay önce Mythos 5 modelini kullanan çalışanların bildirdiğinin yaklaşık iki katı.

Anlaşılır kılınmayan modeller​

Anthropic'in son altı ayda geliştirip yayımlamadığı üç model bulundu. Bu modeller, iç kod adlarıyla Model 2, Model 3 ve Model 4 olarak anılıyor ve eğitimleri sırasıyla temmuz, ağustos-eylül ile eylül-ekim aylarında tamamlanmış.
Buna ek olarak METR, 2022 yılına dayanan başka bir yayımlanmamış modeli, "Yayımlanmamış 2022" olarak tespit etti. Rapor, hızlanmanın şu an büyük ölçüde yapay zekânın insan araştırmacılarını desteklemesinden kaynaklandığını, ancak "tam otonom katkıların yakında daha büyük rol oynayacağına dair bazı işaretler" bulunduğunu kaydediyor.

Kısıtlama uygulamaları tepki topluyor​

Anthropic, METR'e geniş çapta kapalı bilgi, model performans verileri ve çalışan görüşmeleri sağladı; bu, kuruluşun beklentilerinin ötesine geçerek işbirliği açısından övgü aldı. Buna rağmen şirket, raporun son halinden bilgileri çıkarılma yetkisini geniş biçimde kullandı.
METR, yaklaşık 100 sayfalık tam raporun kamu versiyonundan Anthropic tarafından "en bilgilici oldukları kanıtın çoğunluğunun" çıkarıldığını aktarıyor. Bu kısıtlama, bulguların bağımsız denetimini güçleştiriyor ve kamuoyunun kuruluşun son durumuna dair sınırlı bilgiye sahip kalmasına yol açıyor.

Güvenlik ve şeffaflık tartışması büyüyor​

Rapordaki hızlanma, şirketin kendi güvenliğini savunan söylemi ile eylemleri arasındaki farkı daha görünür kıldı. Yapay zekâ araştırmacıları, otonom kendini geliştirme (RSI) sürecinin daha yakın geleceğe taşınmış olabileceği ve mevcut güvenlik önlemlerinin bu hızı karşılayamayacağı görüşünde.
Yeni York Eyaleti Meclis Üyesi Alex Bores, rapor üzerine, "mümkünse bu yıl" RSI için yasal düzenleme çağrısında bulundu. Uzmanlar, raporu, "düşerim çok hızlı olacak" uyarısıyla yorumlarken, bağımsız denetimlerin güçlendirilmesine ihtiyaç bulunduğunu belirtiyor.

Sıkça Sorulan Sorular​

METR raporuna göre hızlanmanın kaynağı ne?​

Rapora göre hızlanmanın büyük bölümü yapay zekâ kaynaklı, çünkü hesaplama gücündeki artış tek başına hızlanmayı açıklamıyor.

Çalışanların üretkenlik bildirimleri neleri gösteriyor?​

Çalışanlar, en yetkin dahili modeli kullandıklarında kendilerini yaklaşık 12 kat daha verimli hissettiklerini belirtiyor; bu, birkaç ay önceki bildirimlerin yaklaşık iki katı.

Anthropic, son altı ayda kaç modelin eğitimini tamamladı?​

Anthropic, son altı ayda üç yayımlanmamış modelin eğitimini tamamladı; Model 2, Model 3 ve Model 4.

Çalışanların bildirdiği hızlanma, geçmiş veriyle karşılaştırılıyor mu?​

Evet, raporda bir yıllık ilerlemenin "tarihsel olarak iki yıl"a denk geldiği vurgulanıyor.

RSI'ya yönelik siyasi çağrı nedir?​

New York Eyalet Meclis Üyesi Alex Bores, RSI'nin yasaklanmasına yönelik çağrıda bulundu.