Anketler, 100 veya daha fazla çalışanı olan kuruluşlardaki 385 nitelikli katılımcıdan elde edildi. Katılımcılar VentureBeat okuyucuları ve panel yanıtlayıcılarından oluşan kendi kendini seçmiş bir gruptu; bu nedenle bulgular tüm şirket evrenini değil, söz konusu yanıtlayıcıları tanımlıyor.
Boşta GPU'ya Rağmen Neden Yeni Platform?
İlk bakışta çelişkili görünen bu tablo, aslında kurumsal yapay zeka harcamalarındaki yapısal bir kırılmayı yansıtıyor. GPU'ları zamanın yarısından fazlasında boşta kalan şirketlerin yüzde 70'i, önümüzdeki 12 ay içinde yeni, ek veya yedek bir yapay zeka hesaplama platformu benimsemeyi planlıyor. Karşılaştırma açısından belirtmek gerekirse, GPU'ları yoğun kullanılan şirketlerde bu oran yüzde 74; iki grup arasındaki fark istatistiksel olarak anlamlı değil.Verilerin işaret ettiği okumaya göre, şirketlerin büyük bölümü 2024 ve 2025'te yaşanan GPU kıtlığı haberlerinden ürkerek ileriye dönük kapasite ayırdı. Ancak bu kapasite, çalışanların günlük işlerinde tercih ettiği Anthropic, OpenAI ve Google'ın sınır modelleriyle doğrudan ikame edilemiyor. Bu modeller kapalı kaynaklı olduğundan, şirket kendi kontrolündeki GPU'lara yükleyemiyor; modeli kullanmak için token başına ya da ayrılmış kapasite üzerinden ödeme yapması gerekiyor. Boştaki GPU'ları doldurmak için açık ağırlıklı bir modele geçmek ise ciddi mühendislik çalışması gerektiriyor.
Nitekim yeni platform planlayanlar arasında yapılan analizde, boşta GPU'su olan şirketlerin yüzde 90'ı seçenekleri arasında bir bulut platformu veya model sağlayıcısını saydı; şirket içi ya da ortak konumlandırılmış GPU kümesi veya kendi kendini yöneten açık kaynak yığınını tercih edenlerin oranı yalnızca yüzde 8 olarak kaldı.
Kendi Altyapısını Çalıştıranlar Daha Verimli
Anket verileri, altyapı tercihiyle kullanım oranı arasında belirgin bir ilişki olduğunu da gösteriyor. Şirket içi veya ortak konumlandırılmış GPU kümesi ya da kendi kendini yöneten açık kaynak yığını kullanan şirketlerde GPU'ların zamanın yarısında ya da daha azında boşta kalma oranı yüzde 56 olarak ölçüldü. Diğer tüm üretim ortamlarında bu oran yüzde 83'e çıkıyor. Anket bu farkın nedenini sorgulamadı; ancak kendi yığınını çalıştıran bir ekibin her boşta geçen saati doğrudan görebildiği ve bu saati dolduracak mühendislik kapasitesine sahip olduğu değerlendiriliyor.Öte yandan finansal gerekçelendirme açısından da dikkat çekici bir bulgu var: Eylül anketinde, yeni bir yapay zeka hesaplama platformu planladığını söyleyen şirketlerin yüzde 91'inin finans ekibinin incelediği bir yatırım getirisi hesabı bulunmuyordu.
Asıl Maliyet Artışı Token ve Ajan Kullanımında
Anket bulgularının ötesinde, yapay zeka harcamalarının geleceğine ilişkin de önemli bir çerçeve çiziliyor. Yapay zeka ajanlarına geçiş hızlandıkça, çok adımlı görevleri planlayıp yürüten bu sistemler çok daha fazla token tüketiyor. Gartner'ın öngörüsüne göre, ajansal iş akışı başına çıkarım maliyetleri 2028'e kadar beşten fazla artacak. Token başına fiyatlar düşse de ajanlar çok daha fazla ve daha pahalı token kullandığından bu düşüş toplam maliyeti dengelemiyor.Bağlam önbelleğe alma bu noktada kritik bir maliyet kalemi haline geliyor. Mart ayında yayımlanan teknik bir kılavuzda iki Nvidia mühendisi, bir Claude Code oturumunun ilk çağrısından sonraki çağrıların bağlamın yüzde 85 ila yüzde 97'sini önbellekten yeniden kullandığını bildirdi. Anthropic, önbelleğe alınan tokenlar için modele göre normal girdi fiyatının kırkta biri ile onda biri arasında bir ücret uyguluyor.
Kodlama ajanı ekiplerinde maliyet çarpanı da dikkat çekici boyutlara ulaşıyor. Vals AI'ın bulgularına göre, bir baş ajanın eş zamanlı beş alt ajan yönettiği ekipler, tek bir ajana kıyasla 1,8 ila 5,1 kat daha yüksek maliyete yol açıyor; dört ekip kurulumundan yalnızca biri kıyaslama puanlarını istatistiksel olarak anlamlı biçimde iyileştirdi.
Mevcut kaynakların daha verimli kullanılması için önerilen yaklaşımlar arasında şunlar yer alıyor: Her tamamlanan görevin maliyetini hem GPU kapasitesi hem de API harcaması üzerinden ölçmek; varsayılan model ve çaba düzeyini token fiyatına değil tamamlanan görev başına maliyete göre belirlemek; her ajana yalnızca ihtiyaç duyduğu bağlamı göndermek ve tekrar eden bağlamı önbelleğe almak; ikinci bir ajanı yalnızca görev paralel parçalara bölündüğünde devreye sokmak; sınıflandırma, çıkarım ve özetleme gibi rutin yüksek hacimli işleri sınır model API'lerinden boştaki GPU'larda çalışan açık modellere taşımak; kalan boş GPU saatlerini toplu çıkarım, model değerlendirmeleri ve ince ayar gibi bekleyebilecek işlerle doldurmak.
13 Ekim'de Uluslararası Para Fonu, yapay zeka hisse fiyatlarında yaşanabilecek sert bir düşüşün küresel finansal istikrarı tehdit edebileceği uyarısında bulundu. Anket verileri ise yapay zeka balonuna ilişkin tartışmanın odağının Nvidia, Microsoft, Google ve Amazon Web Services gibi hesaplama satıcılarından kurumsal alıcıların içine taşındığını gösteriyor.

Siber Güvenlik
Siber Güvenlik
Siber Güvenlik
Yorumlar (0)
Yorum yapmak için giriş yapmalısınız.