Salesforce ve Nvidia'dan Kurumsal Odaklı Akıl Yürütme Modeli Koa

Salesforce, bu hafta düzenlenen dev Dreamforce teknoloji konferansında en büyük duyurularından biri olarak ilk akıl yürütme modeli Koa'yı tanıttı. Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edilen Koa, iki şirketin birlikte yürüttüğü sonradan eğitim çalışmalarıyla satış, pazarlama ve müşteri desteğiyle ilgili görevlerde uzmanlaşacak şekilde geliştirildi. Model, kurumsal dünyanın yapay zeka ihtiyaçlarının öncü laboratuvarların sunduklarından nasıl farklılaştığının en net örneklerinden biri olarak gösteriliyor.
Koa'nın duyurusu, kapalı öncü modellere alternatif arayan kurumsal müşteriler için yeni bir seçenek olarak öne çıkıyor. Salesforce, Koa'yı mevcut Agentforce platformunda sunduğu diğer modellere bir alternatif olarak konumlandırıyor. Şirket, bu hamleyle hem veri güvenliği hem de maliyet verimliliği konusunda farklı bir yaklaşım sunmayı hedefliyor.

Koa Nedir ve Dreamforce'ta Neden Öne Çıktı?​

Koa, Salesforce'un ilk akıl yürütme modeli olma özelliğini taşıyor. Modelin temeli, Nvidia'nın açık ağırlıklı Nemotron modeli. İki şirket, Koa'yı genel amaçlı bir sistemden alıp satış ve müşteri desteği bilgisine hakim bir modele dönüştürmek için birlikte çalıştı. Salesforce'a göre Koa, kurumsal dünyanın ihtiyaçlarının öncü laboratuvarların sunduğu genel yeteneklerden ayrıştığını gösteriyor.
Kaynak içeriğe göre, tescilli yapay zeka laboratuvarları, kurumsal şirketlerin dosyalarını, kodlarını, komutlarını ve geri bildirimlerini doğrudan kendi modellerine ve ajanlarına yüklemesini ve bunun için milyonlarca dolar harcamasını tercih ediyor. Salesforce ise Koa ile bu yaklaşıma karşı farklı bir teklif sunuyor.
Şirketin Koa ile sunduğu başlıca özellikler şöyle sıralanıyor:

• Kapalı öncü modellere karşı açık ağırlıklı bir alternatif
• İmkansız matematik problemlerini çözmek yerine belirli iş görevlerini yapmak üzere eğitilmiş bir model
• Hiçbir gerçek müşteri verisini içermediği için bu verileri başkalarına sızdırmayacak bir yapı
• Aynı işi daha az token kullanarak yaptığı için yapay zeka harcamalarını azaltmaya yardımcı olan bir model
• İhtiyaca göre bir yapay zeka "geçidi" üzerinden otomatik olarak yönlendirilebilen bir sistem
• Salesforce içine gömülü olarak müşterinin tüm veri gereksinimlerini ve güvenliğini takip eden bir model

\n

Agentforce Platformunda Koa Nasıl Konumlanıyor?​

Koa, Salesforce'un müşterilerinin müşteri hizmetleri sorularını yanıtlama veya randevu planlama gibi rutin görevleri yerine getiren ajanlar oluşturduğu Agentforce platformunda sunulacak. Platformda halihazırda sunulan diğer modellere ek bir alternatif olarak yer alacak.
Salesforce AI'dan Sorumlu Başkan Yardımcısı Jayesh Govindarajan, TechCrunch'a yaptığı açıklamada şirketin yaklaşımını şöyle anlattı: "Agentforce portföyünün bir parçası olan birçok küçük, göreve özel dil modeli oluşturduk. Ancak akıl yürütme her zaman öncü model sağlayıcılarına güvendiğimiz bir şeydi. Şimdiye kadar."
Govindarajan'ın aktardığına göre, Koa öncesinde bir ajanın uzun süren veya çok adımlı bir görev üzerinde akıl yürütmesi gerektiğinde, bu komutlar Agentforce'un yapay zeka geçidi üzerinden Claude veya ChatGPT gibi bir öncü modele yönlendiriliyordu. Yapay zeka geçidi, hangi isteğin hangi model tarafından ele alınacağına karar veren sistem olarak çalışıyor.

Nemotron Tabanı ve Sentetik Veriyle Eğitim Süreci​

Govindarajan, şirketin neden daha önce kendi kurumsal düzeyde öncü modelini eğitmediğini de açıkladı. Buna göre en büyük engel, başlangıç için kullanılabilecek önceden eğitilmiş bir temel modelin bulunmamasıydı. Govindarajan, "Kendi kurumsal düzeyde öncü modelimizi eğitmememizin nedenlerinden biri - her zaman istedik - her zaman önceden eğitilmiş bir temel modelin olmamasıydı. Nemotron ortaya çıkana kadar, bir, mevcut olan, iki, son teknoloji olan ve üç, net veri kaynağına sahip olan egemen bir Amerikan önceden eğitilmiş modeli yoktu. Qwen'in ne üzerinde eğitim aldığını bilmiyoruz" dedi. Qwen, Alibaba tarafından üretilen popüler Çin açık ağırlıklı modeli olarak anılıyor.
Modelin sonradan eğitilmesi, genel amaçlı bir sistemin satış ve müşteri desteği bilgisine hakim hale getirilmesi anlamına geliyor. Bu süreçte Salesforce ve Nvidia, Salesforce müşterilerine ait hiçbir gerçek veriyi kullanmadı. Bunun yerine, müşterilerin kalıplarını taklit eden sentetik veriler oluşturuldu.
Govindarajan bu süreci şöyle tarif etti: "Aslında müşteri hizmetleri merkezini arayan sinirli müşteriler de dahil olmak üzere, persona müşteri hizmetleri uzmanıyla bir müşteri hizmetleri ortamını simüle ettik, tüm yol boyunca bir anlaşmayı kapatmaya çalışan bir satış uzmanına kadar."

Token Verimliliği ve Kurumsal Güvenlik Vurgusu​

Koa'nın, Salesforce müşterilerinin bir ajanın yapmasını istediği iş görevlerinde Claude veya ChatGPT'ye aynı görevleri göndermekten daha başarılı ve harcanan token açısından daha ucuz olması hedefleniyor.
Nvidia'nın Kurumsal Üretken Yapay Zeka Yazılımlarından Sorumlu Başkan Yardımcısı Kari Ann Briski, TechCrunch'a yaptığı açıklamada Nemotron'un mimarisine dikkat çekti. Briski, "Nemotron ile çıkarım için token verimli benzersiz bir mimariye sahibiz" dedi ve ekledi: "Sahip olmanız gereken şeylerin üçlüsü gibi: egemen yapay zeka, ilk token'a kadar geçen süre, token ekonomisi için verimli akıl yürütme."
Bu yaklaşım, Salesforce'un Koa'yı sunarken vurguladığı maliyet ve verimlilik iddiasını destekliyor. Daha az token ile aynı işin yapılması, kurumsal müşteriler için yapay zeka harcamalarının düşürülmesi anlamına geliyor. Aynı zamanda modelin hiçbir gerçek müşteri verisini içermemesi ve Salesforce'un veri gereksinimlerini ve güvenlik altyapısını takip etmesi, veri sızıntısı endişelerine karşı bir güvence olarak sunuluyor.

Anthropic İş Birliği ve Claudeforce Hamlesi​

Salesforce, Koa hamlesine rağmen Anthropic veya OpenAI ile bağlarını koparmıyor. Şirket, kısa süre önce Anthropic ile Claudeforce adını verdiği bir ortaklık da duyurdu.
Bu ortaklık, şirketlerin Claude'u yapay zeka arayüzü olarak kullanmasına olanak tanırken, verilerinin Salesforce'un kayıt sistemi içinde kalmasını ve şirketin altyapısı tarafından güvence altına alınmasını sağlıyor. Böylece müşteriler, verilerini Salesforce dışına çıkarmadan Claude'un yeteneklerinden faydalanabiliyor.
Koa'nın Agentforce içindeki yapay zeka geçidi üzerinden otomatik olarak yönlendirilebilmesi de bu stratejinin bir parçası. İhtiyaca göre görevler Koa'ya veya Claude ve ChatGPT gibi öncü modellere yönlendirilebiliyor. Bu yapı, Salesforce'un hem kendi açık ağırlıklı modelini hem de öncü laboratuvarların modellerini aynı platformda bir arada sunma yaklaşımını yansıtıyor.

Sıkça Sorulan Sorular​

Koa nedir ve hangi model üzerine inşa edildi?​

Koa, Salesforce'un ilk akıl yürütme modelidir ve Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edilmiştir. İki şirket modeli birlikte sonradan eğitmiştir.

Koa hangi görevlerde uzmanlaşmak için eğitildi?​

Koa, satış, pazarlama ve müşteri desteğiyle ilgili görevlerde uzmanlaşacak şekilde eğitildi. İmkansız matematik problemlerini çözmek yerine bu belirli iş görevlerini yerine getirmeye odaklanıyor.

Koa eğitilirken gerçek müşteri verileri kullanıldı mı?​

Hayır. Salesforce ve Nvidia, Koa'yı eğitirken Salesforce müşterilerine ait hiçbir gerçek veriyi kullanmadı. Bunun yerine müşterilerin kalıplarını taklit eden sentetik veriler oluşturuldu ve müşteri hizmetleri ortamı simüle edildi.

Koa, Salesforce'un hangi platformunda sunulacak?​

Koa, Salesforce'un müşterilerinin rutin görevler için ajanlar oluşturduğu Agentforce platformunda sunulacak. Platformdaki diğer modellere alternatif olacak ve yapay zeka geçidi üzerinden ihtiyaca göre otomatik olarak yönlendirilebilecek.

Salesforce, Anthropic ve OpenAI modellerini tamamen bırakıyor mu?​

Hayır. Salesforce, Koa'ya rağmen bu şirketlerle çalışmayı sürdürüyor. Hatta Anthropic ile Claudeforce adlı bir ortaklık duyurdu; bu ortaklık şirketlerin verileri Salesforce'un kayıt sisteminde ve altyapısında güvende kalırken Claude'u yapay zeka arayüzü olarak kullanmasına olanak tanıyor.