Amazon Web Services, Pazartesi günü yapay zeka uygulamalarını kendi geliştirdiği çip olan Trainium'a kolayca taşımayı sağlayan TorchNeuron adlı yeni aracını duyurdu. Bu adımla Amazon, yapay zeka uygulamaları için varsayılan donanım tercihi haline gelen Nvidia'nın yazılım alanındaki avantajına doğrudan meydan okuyor. Şirket, PyTorch ile yazılmış uygulamaların tek satırlık bir yapılandırma değişikliğiyle Trainium üzerinde çalışabileceğini ve bunun için kodun yeniden yazılmasına gerek olmadığını belirtiyor.
Amazon'a göre bugün yapay zeka uygulamalarının yaklaşık yüzde 85'i, geliştiricilerin yapay zeka modellerini oluşturmak, eğitmek ve çalıştırmak için kullandığı ücretsiz ve açık kaynaklı bir araç seti olan PyTorch ile yazılıyor. Facebook tarafından geliştirilen PyTorch, 2022 yılından bu yana açık kaynak projelerini sürdüren Linux Foundation bünyesinde yer alıyor. Nvidia ise yıllardır CUDA adlı yazılım altyapısının PyTorch ile yazılmış uygulamaları sorunsuz bir şekilde desteklemesini sağlayarak donanımını bu araç setinin içine varsayılan olarak yerleştirmiş durumda.
Amazon, çiplerini bu platforma kolayca getirmeye çalışan ilk şirket değil. PyTorch kullanıcıları, uygulamalarını basit bir yapılandırma değişikliğiyle AMD GPU'larına ve hatta Apple çiplerine de taşıyabiliyor. Amazon ise Trainium'a geçişin yalnızca kolay olmadığını, aynı zamanda yapay zeka girişimlerine Amazon'un tüm bulut altyapısına erişim sağladığını savunuyor.
Bu durum, PyTorch'un yapay zeka uygulamalarının büyük çoğunluğunda kullanılmasıyla birleşince Nvidia'yı yapay zeka uygulamaları için varsayılan donanım seçeneği haline getirdi. Amazon'un TorchNeuron hamlesi, tam olarak bu yazılım avantajını hedef alıyor ve geliştiricilere alternatif çiplerde çalışma konusunda gerçek bir seçenek sunmayı amaçlıyor.
AWS Annapurna Labs Teknoloji Yazılımlarından Sorumlu Başkan Yardımcısı Colin Brace, konuya ilişkin TechCrunch'a e-posta yoluyla yaptığı açıklamada, "AWS üzerine inşa ediyorsunuz. Tek amaçlı bir bilgi işlem sağlayıcısına bel bağlayıp diğer her şeyi onun etrafında oluşturmak için çabalamıyorsunuz" dedi. Brace açıklamasının devamında, "AWS'de prototipten üretime geçiş için gereken altyapı zaten mevcut, bu da bir kurucunun hızlı hareket etmesine ve ihtiyaç duyduğunda ölçeklenmesine olanak tanıyor" ifadesini kullandı.
AWS ayrıca, aynı çipin hem eğitimi hem de çıkarımı üstlenmesi ve girişimlerin ihtiyaç duyduğu bulut altyapısıyla sıkı bir şekilde entegre olması nedeniyle bulutunun girişimlere para tasarrufu sağlayacağını savunuyor. Şirket, bu tasarrufun token başına en ucuz fiyatı sunmasa bile geçerli olduğunu belirtiyor. Brace bu konuda, "Trainium'un değeri fiyat-performans artı hem eğitim hem de çıkarım için tek bir platform olmasıdır, bu da tam bir iş yükünde ekonomiyi iyileştirir" dedi.
Brace, bu yaklaşıma örnek olarak ElevenLabs'ın rakibi olan yapay zeka ses uygulaması sağlayıcısı Deepgram'ı gösterdi. Brace, "Deepgram'a bakın — yerel PyTorch desteğini kullanarak Trainium'a geçtiler ve üretim düzeyinde doğrulukla dolar başına yüzde 70 daha fazla ses işliyorlar" dedi.
Şirketin yeni aracı duyurduğu blog yazısında şu ifadelere yer verildi: Amazon'un yaklaşımı kendi donanımının ötesine geçiyor. Şirket, PyTorch'un kendisine yukarı yönlü değişiklikler katkıda bulunuyor, çerçeveyi belirli çiplere bağlayan kodu kaldırmak için PyTorch topluluğuyla birlikte çalışıyor. Amaç, PyTorch'u yalnızca Trainium kullanıcıları için değil, tüm geliştirici topluluğu için daha donanımdan bağımsız hale getirmek.
Bu taktik, Nvidia ile rekabet eden donanım ve bulut hizmetleri satanlar için kuşkusuz faydalı olsa da, PyTorch'un amaçlarından biri yapay zeka kodunun donanım üzerinde çalışmasını sağlamanın getirdiği tüm zorlukları gizlemek. Amazon'un vaat ettiği gibi Nvidia'yı bu kadar geriye itmenin geliştiricilere daha fazla seçenek ve daha uygun fiyatlı alternatifler sunup sunmayacağı, yoksa yalnızca daha fazla yapılandırma baş ağrısı getirip getirmeyeceği zamanla görülecek. Her halükarda, Amazon PyTorch'u Nvidia'dan derinlemesine ayırmayı başarırsa, bunun GPU devi için yalnızca çip rakipleriyle uğraşmaktan çok daha büyük sonuçları olabilir. Brace'in de dediği gibi: "Asıl hikaye, geliştiricilerin gerçek bir seçeneğe sahip olmasını engelleyen kilitlenmeyi ortadan kaldırmaktır."
Amazon'a göre bugün yapay zeka uygulamalarının yaklaşık yüzde 85'i, geliştiricilerin yapay zeka modellerini oluşturmak, eğitmek ve çalıştırmak için kullandığı ücretsiz ve açık kaynaklı bir araç seti olan PyTorch ile yazılıyor. Facebook tarafından geliştirilen PyTorch, 2022 yılından bu yana açık kaynak projelerini sürdüren Linux Foundation bünyesinde yer alıyor. Nvidia ise yıllardır CUDA adlı yazılım altyapısının PyTorch ile yazılmış uygulamaları sorunsuz bir şekilde desteklemesini sağlayarak donanımını bu araç setinin içine varsayılan olarak yerleştirmiş durumda.
TorchNeuron Nedir ve Nasıl Çalışıyor?
TorchNeuron, PyTorch ile doğrudan uyumlu çalışacak şekilde tasarlandı. Amazon'un açıklamasına göre araç, PyTorch ile yazılmış bir yapay zeka uygulamasının Trainium üzerinde çalışabilmesi için yalnızca bir satırlık yapılandırma değişikliğini yeterli kılıyor. Kodun yeniden yazılmasına ihtiyaç duyulmuyor. TorchNeuron'un PyTorch'tan uyarlanmış olması nedeniyle PyTorch bilen geliştiricilerin bu aracı da zaten biliyor olması hedefleniyor.Amazon, çiplerini bu platforma kolayca getirmeye çalışan ilk şirket değil. PyTorch kullanıcıları, uygulamalarını basit bir yapılandırma değişikliğiyle AMD GPU'larına ve hatta Apple çiplerine de taşıyabiliyor. Amazon ise Trainium'a geçişin yalnızca kolay olmadığını, aynı zamanda yapay zeka girişimlerine Amazon'un tüm bulut altyapısına erişim sağladığını savunuyor.
Nvidia'nın PyTorch ve CUDA Üzerindeki Hakimiyeti
Nvidia'nın yapay zeka donanımındaki liderliğinin temelinde yalnızca çipleri değil, yazılım altyapısı da bulunuyor. Şirketin CUDA yazılımı, uygulamaların Nvidia GPU'ları ve diğer donanımları üzerinde çalışmasını sağlayan altyapıyı oluşturuyor. Nvidia, yıllar boyunca CUDA'nın PyTorch ile yazılmış uygulamaları kesintisiz desteklemesi için yatırım yaptı. Bunun sonucunda Nvidia donanımı, PyTorch araç setinin içine derinlemesine ve neredeyse varsayılan olarak gömülü hale geldi.Bu durum, PyTorch'un yapay zeka uygulamalarının büyük çoğunluğunda kullanılmasıyla birleşince Nvidia'yı yapay zeka uygulamaları için varsayılan donanım seçeneği haline getirdi. Amazon'un TorchNeuron hamlesi, tam olarak bu yazılım avantajını hedef alıyor ve geliştiricilere alternatif çiplerde çalışma konusunda gerçek bir seçenek sunmayı amaçlıyor.
AWS'nin Bulut ve Maliyet Argümanı
AWS, TorchNeuron ile Trainium'a geçişin kolay olmasının ötesinde, girişimlere kendi bulut ekosisteminin tamamını sunduğunu vurguluyor. Şirket, bunun birçok neocloud sağlayıcısına göre daha iyi bir seçenek olduğunu iddia ediyor. AWS'ye göre CoreWeave, Nebius ve Firmus gibi neocloud'ların birçoğu Nvidia ve onun donanımına bağlı durumda.AWS Annapurna Labs Teknoloji Yazılımlarından Sorumlu Başkan Yardımcısı Colin Brace, konuya ilişkin TechCrunch'a e-posta yoluyla yaptığı açıklamada, "AWS üzerine inşa ediyorsunuz. Tek amaçlı bir bilgi işlem sağlayıcısına bel bağlayıp diğer her şeyi onun etrafında oluşturmak için çabalamıyorsunuz" dedi. Brace açıklamasının devamında, "AWS'de prototipten üretime geçiş için gereken altyapı zaten mevcut, bu da bir kurucunun hızlı hareket etmesine ve ihtiyaç duyduğunda ölçeklenmesine olanak tanıyor" ifadesini kullandı.
AWS ayrıca, aynı çipin hem eğitimi hem de çıkarımı üstlenmesi ve girişimlerin ihtiyaç duyduğu bulut altyapısıyla sıkı bir şekilde entegre olması nedeniyle bulutunun girişimlere para tasarrufu sağlayacağını savunuyor. Şirket, bu tasarrufun token başına en ucuz fiyatı sunmasa bile geçerli olduğunu belirtiyor. Brace bu konuda, "Trainium'un değeri fiyat-performans artı hem eğitim hem de çıkarım için tek bir platform olmasıdır, bu da tam bir iş yükünde ekonomiyi iyileştirir" dedi.
Deepgram Örneği ve Tek Platform Yaklaşımı
Amazon, Trainium'un hem modelin öğretilmesi anlamına gelen eğitim hem de eğitilmiş modelin bir kullanıcı sorusunu yanıtlamak gibi göreve sokulması anlamına gelen çıkarım için aynı platformu sunmasına dikkat çekiyor. Şirket, bu tek platform yaklaşımının tam iş yükü genelinde ekonomiyi iyileştirdiğini savunuyor.Brace, bu yaklaşıma örnek olarak ElevenLabs'ın rakibi olan yapay zeka ses uygulaması sağlayıcısı Deepgram'ı gösterdi. Brace, "Deepgram'a bakın — yerel PyTorch desteğini kullanarak Trainium'a geçtiler ve üretim düzeyinde doğrulukla dolar başına yüzde 70 daha fazla ses işliyorlar" dedi.
PyTorch'u Donanımdan Bağımsız Hale Getirme Planı
Amazon, PyTorch uygulaması geliştiricilerine bulutuna geçiş için kolay bir seçenek sunmakla yetinmek istemiyor. Şirket aynı zamanda PyTorch'un otomatik olarak Nvidia merkezli olmaktan çıkarılması için de çaba gösterdiğini ve bunu yapacak kodu ana PyTorch projesine katkıda bulunacağını açıkladı.Şirketin yeni aracı duyurduğu blog yazısında şu ifadelere yer verildi: Amazon'un yaklaşımı kendi donanımının ötesine geçiyor. Şirket, PyTorch'un kendisine yukarı yönlü değişiklikler katkıda bulunuyor, çerçeveyi belirli çiplere bağlayan kodu kaldırmak için PyTorch topluluğuyla birlikte çalışıyor. Amaç, PyTorch'u yalnızca Trainium kullanıcıları için değil, tüm geliştirici topluluğu için daha donanımdan bağımsız hale getirmek.
Bu taktik, Nvidia ile rekabet eden donanım ve bulut hizmetleri satanlar için kuşkusuz faydalı olsa da, PyTorch'un amaçlarından biri yapay zeka kodunun donanım üzerinde çalışmasını sağlamanın getirdiği tüm zorlukları gizlemek. Amazon'un vaat ettiği gibi Nvidia'yı bu kadar geriye itmenin geliştiricilere daha fazla seçenek ve daha uygun fiyatlı alternatifler sunup sunmayacağı, yoksa yalnızca daha fazla yapılandırma baş ağrısı getirip getirmeyeceği zamanla görülecek. Her halükarda, Amazon PyTorch'u Nvidia'dan derinlemesine ayırmayı başarırsa, bunun GPU devi için yalnızca çip rakipleriyle uğraşmaktan çok daha büyük sonuçları olabilir. Brace'in de dediği gibi: "Asıl hikaye, geliştiricilerin gerçek bir seçeneğe sahip olmasını engelleyen kilitlenmeyi ortadan kaldırmaktır."
Webmaster
Webmaster
Webmaster
Yorumlar (0)
Yorum yapmak için giriş yapmalısınız.