Google, TorchTPU'yu Açık Kaynak Yaptı: Nvidia'ya Karşı Amazon'la Aynı Cephede

Google, Salı günü yaptığı açıklamayla TorchTPU'nun artık açık kaynak bir proje olarak kullanıma sunulduğunu duyurdu. Uzun süredir beklenen bu adım, yapay zeka uygulama geliştiricilerinin Nvidia GPU'larına olan bağımlılığını azaltmak isteyen büyük teknoloji şirketlerinin çabalarına yeni bir halka daha ekledi. Bir gün önce Amazon da benzer bir hamleyle kendi PyTorch sürümü TorchNeuron'u duyurmuştu.

PyTorch Nedir ve Nvidia Bağlantısı Nereden Geliyor?​

PyTorch, yapay zeka uygulama geliştiricilerinin ve girişimlerin model oluşturmak, eğitmek ve çalıştırmak için kullandığı popüler açık kaynaklı bir araç setidir. Bazı verilere göre yapay zeka uygulamalarının yüzde 85'i bu araç setiyle geliştiriliyor. PyTorch'u ilk olarak Meta (o dönemki adıyla Facebook) 2016 yılında geliştirdi; bu tarih, büyük dil modellerinin dünyayı değiştireceğinin henüz kimsenin farkında olmadığı bir döneme denk geliyor. O yıllarda Nvidia GPU'ları yapay zeka araştırmalarında zaten standart donanım haline gelmişti; bu nedenle PyTorch'un pek çok özelliği baştan Nvidia çipleriyle uyumlu çalışacak biçimde tasarlandı. Meta, 2022'de PyTorch'u önemli açık kaynak projelerini yöneten kâr amacı gütmeyen kuruluş Linux Foundation'a devretti.
Sonuç olarak bugün yapay zeka uygulamalarının büyük çoğunluğu varsayılan olarak Nvidia çipleri üzerinde çalışacak şekilde yazılıyor. Hem Google hem de Amazon, bu tablonun değişmesini hedefliyor.

TorchTPU Ne Yapıyor?​

Google'ın geliştirdiği TorchTPU, yapay zeka uygulamalarının şirketin kendi yapay zeka çipleri olan Tensor Processing Unit'ler (TPU) üzerinde çalışmasına olanak tanıyor. Araç, mevcut PyTorch uygulamalarını TPU'lara ve dolayısıyla Google Cloud'a taşımayı da kolaylaştırıyor. Geliştiriciler bunu yalnızca basit bir yapılandırma değişikliğiyle, uygulamalarını yeniden yazmadan gerçekleştirebiliyor.
Google, TorchTPU'yu geliştirirken Meta, Hugging Face, vLLM'nin yapımcısı Inferact ve SGLang'ın yapımcısı RadixArk gibi popüler yapay zeka geliştirme araçlarının sahipleriyle doğrudan iş birliği yaptığını açıkladı. Bu iş birliğinin amacı, TorchTPU'nun özelliklerinin ve kod kütüphanelerinin söz konusu araçlarla orijinal PyTorch'ta olduğu gibi sorunsuz çalışmasını sağlamak.

Google'ın Ek Adımları: TPU Agent Suite ve LiteRT​

Google, TorchTPU'nun yanı sıra geliştiricilerin uygulamalarını kendi çiplerine ve bulut platformuna taşımasına yardımcı olmak ve bu süreçte karşılaşılan hataları gidermek için TPU agent suite adlı özel bir araç da piyasaya sürdü. Bunun ötesinde şirket, telefonlarda, dizüstü bilgisayarlarda ve gömülü cihazlarda yapay zeka çalıştırmak için kullanılan popüler LiteRT aracını da PyTorch yapay zeka uygulamalarıyla daha iyi entegre olacak biçimde güncelledi.

Amazon'un Hamlesi: TorchNeuron ve PyTorch'un Çekirdeğine Müdahale​

Amazon, Pazartesi günü kendi PyTorch sürümü TorchNeuron'u duyurdu. TorchNeuron, yapay zeka uygulamalarının Amazon'un kendi geliştirdiği yapay zeka çipi Trainium'a ve AWS'ye yeniden yazım gerektirmeksizin taşınmasına imkân tanıyor. Amazon ayrıca daha ileri giderek ana PyTorch projesine kod katkısı sağladığını da açıkladı. Bu kod katkısı, çeşitli özellikleri Nvidia çiplerinden bağımsız hale getirmeyi ve PyTorch'u varsayılan olarak daha geniş bir donanım yelpazesine açık kılmayı hedefliyor.
Tüm bu gelişmeler, yapay zeka uygulama geliştiricilerinin alternatif çiplere ve bulutlara kolayca geçebildikleri için Nvidia donanımını toplu olarak terk edeceği anlamına gelmiyor. Ancak Amazon ve Google'ın Nvidia'nın avantajını ortadan kaldırmak için somut adımlar attığı açık bir biçimde görülüyor.

Sıkça Sorulan Sorular​

TorchTPU nedir ve ne işe yarar?​

TorchTPU, Google'ın açık kaynak olarak yayımladığı PyTorch sürümüdür. Yapay zeka uygulamalarının Google'ın TPU çipleri üzerinde çalışmasını sağlar ve mevcut PyTorch uygulamalarının yeniden yazılmadan yalnızca basit bir yapılandırma değişikliğiyle Google Cloud'a taşınmasına olanak tanır.

PyTorch'un yapay zeka sektöründeki önemi nedir?​

PyTorch, yapay zeka uygulama geliştiricilerinin ve girişimlerin model oluşturmak, eğitmek ve çalıştırmak için kullandığı popüler açık kaynaklı bir araç setidir. Bazı verilere göre yapay zeka uygulamalarının yüzde 85'i PyTorch ile geliştirilmektedir. İlk olarak Meta tarafından 2016'da geliştirilen araç, 2022'de Linux Foundation'a devredildi.

Amazon'un TorchNeuron'u TorchTPU'dan farkı nedir?​

TorchNeuron, Amazon'un PyTorch sürümü olup yapay zeka uygulamalarını Amazon'un Trainium çipine ve AWS'ye yeniden yazım gerektirmeksizin taşımaya yarar. Amazon ayrıca ana PyTorch projesine çeşitli özellikleri Nvidia'dan bağımsız kılacak kod katkısı da sağlamaktadır. TorchTPU ise Google'ın TPU çipleri ve Google Cloud için geliştirdiği muadil çözümdür.

Google, TorchTPU'yu geliştirirken hangi şirketlerle iş birliği yaptı?​

Google, TorchTPU'nun popüler yapay zeka geliştirme araçlarıyla uyumlu çalışmasını sağlamak amacıyla Meta, Hugging Face, vLLM'nin yapımcısı Inferact ve SGLang'ın yapımcısı RadixArk ile doğrudan iş birliği yaptı.

Bu gelişmeler Nvidia'nın yapay zeka pazarındaki konumunu hemen değiştirir mi?​

Kaynağa göre bu durum, yapay zeka uygulama geliştiricilerinin Nvidia donanımını toplu biçimde terk edeceği anlamına gelmiyor. Ancak hem Amazon hem de Google'ın Nvidia'nın sektördeki avantajını kırmak için açık ve somut adımlar attığı görülüyor.