Şirketin açıklamasına göre Palette 3.0, çip üzerinde çalışan yapay zekâ iş yüklerinin kapsamını genişletiyor, uygulamaların işlemciyi paylaşma biçimini iyileştiriyor ve metin üretimini 3,5 kata kadar hızlandıran teknikler sunuyor. Platform; robotlar, dronlar ve endüstriyel sistemler de dahil olmak üzere fiziksel ürünlere yapay zekâ entegre eden geliştiricileri hedefliyor. Uygulama geliştirme katmanının bir parçası olan Palette Neat çekirdek kütüphanesi Apache 2.0 lisansıyla sunuluyor; derleyici ve donanım yazılımının lisans koşulları ise henüz netleştirilmiş değil.
VentureBeat'e konuşan SiMa.ai GenAI ürün yöneticisi Manuel López Roldán, bu değişikliklerin mevcut işlemciler üzerinde çalıştığını doğruladı: "Tamamı yazılım." Şirketin makine öğrenmesi hızlandırıcı (MLA) yazılımından sorumlu başkan yardımcısı Ashok Sudarsanam ise ekibinin, modelleri hızlandırıcı için talimatlara çeviren derleyiciyi ve bu talimatların çalışmasını planlayan yazılımı geliştirdiğini söyledi. Sudarsanam, "İlk günden itibaren donanım ve yazılımımızı birlikte inşa ettik" diyerek, müşterilerin elindeki çipleri yeni çıkan modelleri destekleyecek ve uygulamaları hızlandıracak biçimde güncellediklerini belirtti.
Palette 3.0 ne zaman ve nasıl erişime açıldı?
Şirketin topluluk duyurusuna göre Palette SDK 31 Ekim'den bu yana erişilebilir durumda. Güncellenen Model Browser'ın ise şirket güncellemenin yeteneklerini ve performansını detaylandırırken 17 Kasım'da çevrimiçi olması bekleniyor. Geliştiriciler SiMa.ai'nin Developer Center'ı ve GitHub organizasyonu üzerinden çalışmaya başlayabiliyor. Şirketin DevKit 3.0 mağaza listesi, ABD ve Avrupa için bir geliştirme sistemini 1.499 dolar fiyatla listeliyor. Bu paket bir Modalix modülü, taşıyıcı kart, muhafaza, güç kaynağı ve 500 GB depolama alanı içeriyor. Açıklamada ayrı bir Palette 3.0 yazılım fiyatı ya da üretim hacmi donanım fiyatları yer almıyor.Tek çipte birden fazla yapay zekâ iş yükü
Palette 3.0'ın temel değişikliği, bir cihazın aynı anda birden fazla yapay zekâ görevi yapması gerektiğinde ortaya çıkan duruma odaklanıyor. Şirketin medya sunumunda tek bir Modalix çipinin bir dil modeliyle birlikte üç görüntü-dil modelini çalıştırdığı gösteriliyor. Ayrı bir demoda ise nesne algılamadan 3B poz tahminine uzanan görevlerde çipin kaynaklarını paylaşan altı Docker konteyneri yer alıyor.Şirket, uygulamaların çipe iş gönderme biçimini de değiştirdi. Süreçler artık bir ara servis devre dışı bırakılarak isteklerini doğrudan işletim sistemi çekirdeğindeki sürücülere iletiyor. Her donanım motoru aynı anda tek bir isteği işlerken farklı motorlar paralel biçimde ayrı işler yapabiliyor. Geliştiriciler, bireysel isteklere öncelik atayabiliyor. López Roldán, VentureBeat'e sürekli nesne algılama yapması gereken bir kamera akışının, sahneye arada bağlam ekleyen bir dil modeliyle birlikte nasıl yönetilebileceğini örnek olarak verdi. Algılamanın isteklerine yüksek öncelik verilip dil modelinin hızlandırıcıyı boşaldığında kullanmasına izin verilebiliyor. Demolar kaynak paylaşımını gösterirken, brifing materyalleri yoğun yük altında yüksek öncelikli isteklerin ne kadar bekleyebileceği sorusunu açık bırakıyor.
SiMa.ai ayrıca tek bir Modalix çipinde YOLOv26 nesne algılamasının, 60 eşzamanlı 720p akışta toplamda saniyede 600 kare, yani akış başına ortalama saniyede 10 kare hızında çalıştırıldığını gösterdi. Ayrı bir kamera ayarlama iş akışında López Roldán, geliştiricilerin yeni bir kamerayı renk kartelasına doğrultup bir yapay zekâ ajanıyla görüntü işleme ayarlarını düzenleyebildiğini söyledi. Şirkete göre bu ayarlar uygulama kodunu yeniden derlemeye gerek kalmadan yapılabiliyor; böylece ekipler yeni bir sensörü kendileri ayarlayabiliyor.
3,5 kat performans iddiası neyi ölçüyor?
SiMa.ai, üretim hızındaki en büyük kazanımları spekülatif çözmeye (speculative decoding) bağlıyor. Bu teknik, birkaç token önceden taslak üretip hedef modelin bunları birlikte doğrulamasına olanak tanıyarak yanıt üretmek için gereken sıralı adım sayısını azaltıyor. Şirketin brifing sunumu, aynı hedef modellerde geleneksel üretime kıyasla 2,21x ile 3,49x arası çözme verimliliği artışı raporlıyor. Teknikler arasında EAGLE3, DFlash ve Gemma 4 için çoklu token tahmini yer alıyor. Öne çıkan bir sonuçta DFlash N16 ile Qwen3.5 9B kullanılarak aralığın üst ucuna ulaşıldığı belirtiliyor.Bu kazanımlar, Modalix üzerinde aynı modellerde geleneksel çözmeye karşı ölçülmüş. Ayrı bir testte, 900 isteklik otomotiv asistanı senaryosunda yanıt süresinde daha küçük bir hızlanma, 1,35x ile 2,06x arası bir iyileşme raporlandı. Şirket, 900 isteğin tamamının beklenen yapılandırılmış fonksiyon çağrılarını ürettiğini açıkladı. SiMa.ai ayrıca çipin, ortalama güç çekişi yaklaşık aynı kalırken işlem başına yüzde 25,9 ile 51,4 arası daha az enerji kullandığını tahmin ediyor. Bu testlerde çip, işi daha erken tamamlayarak enerji tasarrufu sağladı. Tahmin çipin işlem gücünü kapsıyor; bir robotun toplam enerji tüketimi sensörler ve motorlar gibi bileşenlere de bağlı.
Öne çıkan başka bir yetenek ise 16 GB'lık bir Modalix modülünde OpenAI'nin GPT-OSS-20B modeli için verilen destek. Bir modeli cihaza sığdırmak anlamlı bir eşik olsa da müşterilerin hedeflenen yapılandırmalarında yanıt süresini, bağlam sınırlarını ve doğruluğu ölçmeleri gerektiği belirtiliyor.
Model Browser, sayıların arkasındaki dengeyi gösteriyor
López Roldán, VentureBeat'e yükseltilmiş Model Browser'ın bir kıyaslamanın arkasındaki dengeleri nasıl ortaya koyduğunu gösterdi. Verimlilik ve gecikme süresinin yanı sıra çip gücü, CPU ve bellek kullanımı ile model katmanlarının tek tek nasıl çalıştığı gibi ölçümler sunuluyor. Birden fazla yapılandırmaya sahip modellerde geliştiriciler, daha düşük sayısal hassasiyetin hız ve doğruluğu nasıl etkilediğini görebiliyor. Bu, bir ekibin modeli kendi verisiyle ince ayar yaptıktan sonra hangi yapılandırmayı deneyeceğini seçmesine yardımcı olabiliyor.López Roldán'a göre tarayıcının indirme düğmesi, Modalix'te yerel olarak çalışmaya hazır bir çıktı sunuyor. Bunu yeniden derlemek isteyenler, GitHub, Hugging Face veya Roboflow gibi kaynaklardan alınan özgün modelle başlayan ve kamuya açık bir depodaki betikleri kullanabiliyor. İnce ayarlı bir modeli dağıtıma hazırlarken "tam iş akışını yeniden oluşturabilirsiniz" diyen López Roldán, başlangıç model setini seçerken müşterilerin talep ettiği modellerin önceliklendirildiğini söyledi. Şirket yöneticisi ayrıca "kartın internet bağlantısına bile ihtiyacı yok" diyerek, müşterilerin bağlantılı bir siteden güncelleme paketlerini indirip sahadaki cihazlara sonra kurabildiğini açıkladı. Bu, kesintili ya da hiç olmayan bağlantıyla çalışması gereken kurulumlar için önemli.
Nvidia ve Hailo ile rekabet
SiMa.ai, tek bir değiştirilebilir üründen ziyade geniş bir uç bilişim yelpazesiyle rekabet ediyor. Nvidia, entegre Jetson geliştirme sistemlerini ve JetPack yazılım ortamını sunarken Hailo, bir ana bilgisayara yerel yapay zekâ işleme ekleyebilen hızlandırıcılar sağlıyor. Listelenen fiyatlar geliştirme donanımını kapsıyor; bir dağıtım bütçesi ayrıca üretim donanımı ve entegrasyonu hesaba katmalı.Nvidia'nın Jetson Orin Nano Super geliştirme kiti 399 dolarla Jetson ekosistemine daha düşük fiyatlı bir giriş sunarken, Modalix ile aynı yapılandırmayı taşıyor değil. Yüksek talepli robotik ve fiziksel yapay zekâ uygulamalarını hedefleyen Jetson AGX Thor geliştirme kiti ise 5.499 dolar. Raspberry Pi AI HAT+ 2 ile Hailo-10H tabanlı seçenek 200 dolarla çok daha ucuz bir donanım başlangıç noktası sunuyor, ancak Raspberry Pi kartı, depolama ve diğer bileşenlerin ayrıca eklenmesi gerekiyor. Raspberry Pi'nin belgeleri, yaklaşık 6 milyar parametreye kadar dil ve görüntü-dil modeli desteğini tanımlıyor. Bu, SiMa.ai'nin öne çıkardığı 20 milyar parametreli uzman karma modeli (mixture-of-experts) örneğinden farklı; ancak parametre sayıları tek başına doğruluk ya da hız kanıtı oluşturmuyor.
Kurumsal karar tüm uygulamaya dair
Palette 3.0, algılama ve akıl yürütme modelleri tek başına çalışırken sorun göstermeyen ama birlikte çalıştığında işlem gücü ve bellek için yarışan ekipler için en çok anlamlı platform. Bir robot için bu, dil modeli yanıt üretirken nesne algılamanın süresi içinde yanıt verip vermediğine bağlanabiliyor. SiMa.ai'nin çözme rakamları üretim hızına sayı koyarken, karma iş yükü demoları bu son tarih sorusunu geliştiricilere kendi uygulamalarında test etme görevi bırakıyor.Platform 3.0, mevcut müşteriler için bir göç yükü de içeriyor. Şirketin sürüm duyurusu, 2.1.3 sürümünden 3.0.0 sürümüne geçişin bir göç gerektirdiğini ve geliştiricilerin yerel uygulamalarını eşleşen bileşenlere karşı yeniden derlemesi gerektiğini belirtiyor.

Siber Güvenlik
Siber Güvenlik
Siber Güvenlik
Yorumlar (0)
Yorum yapmak için giriş yapmalısınız.