Perplexity, Nvidia ile geliştirdiği Portable Computer platformunu bugün duyurdu. Kullanıcıların sahip olduğu donanımlarda çalışan ve bulut ücreti gerektirmeyen yerel yapay zeka ajanı, veri gizliliğini ve sıfır token maliyetini önceliklendiriyor.
Siber Güvenlik
Admin2 okunma

Perplexity ve Nvidia'dan Bulutsuz Yapay Zeka Ajanı: Portable Computer Tanıtıldı

Perplexity, Nvidia ile geliştirdiği Portable Computer platformunu bugün duyurdu. Kullanıcıların sahip olduğu donanımlarda çalışan ve bulut ücreti gerektirmeyen yerel yapay zeka ajanı, veri gizliliğini ve sıfır token maliyetini önceliklendiriyor.

Perplexity ve Nvidia'dan Bulutsuz Yapay Zeka Ajanı: Portable Computer Tanıtıldı

Haber detayı

Perplexity, bugün Portable Computer'ı piyasaya sürerek yapay zeka ajanlarının buluttan yerel cihazlara taşınmasına yönelik en iddialı girişlerden birini gerçekleştirdi. Nvidia ile yakın iş birliğiyle geliştirilen platform, kullanıcının zaten sahip olduğu Nvidia DGX Spark masaüstü süper bilgisayarı veya Nvidia RTX grafik kartlı Linux makinelerinde tamamen yerel olarak çalışıyor. Bu yeni sistem sayesinde model verileri, kullanıcı dosyaları ve yapılan işlemler hiçbir zaman makineden ayrılmıyor. Şirket, tüm görevlerin varsayılan olarak cihaz üzerinde başladığını ve herhangi bir adımın daha güçlü bir bulut modeline gönderilmeden önce kullanıcıdan izin istendiğini belirtiyor.

Tek Paket Olarak Hazırlanmış Yerel Yapay Zeka Yığını​

Perplexity Computer, şirketin bilgi çalışmaları için tasarladığı agentic platformdur ve çok adımlı görevleri tamamlamak üzere yapay zeka modellerini, dosyaları, araçları ve web erişimini yönetir. Portable Computer, bu deneyimi yerel ortamda birebir yeniden üretiyor. Yerel modeller, ajan kurgusu, çıkarım motoru, araçlar, uygulama bağlantıları ve güvenlik sandalığı tek bir sistemde paketlenmiş durumda. Geleneksel yerel yapay zeka yığınlarında kullanıcıların model ağırlıklarını indirmesi, çıkarım sunucusu kurması, araçları birbirine bağlaması ve performansı ayarlaması gerekiyor. Portable Computer ise bu karmaşıklığı ortadan kaldırarak hızlı kuruluma odaklanıyor. Press briefing sırasında konuşan Perplexity Altyapı ve Kurumsal Mühendislik Direktörü Nate, aynı arayüzü tamamen yerel bir uygulamaya taşıdıklarını ve bunun yerel olarak iş yapmak için gereken tüm ajan kurgusunu ve çıkarımı içerdiğini belirtti.

Model ve Araç Kurgusunun Ortak Tasarımı​

Platformun lansmanıyla birlikte Perplexity, etkili yerel ajanlar için modelin ve ajan kurgusunun birlikte tasarlanması gerektiğini savunan bir araştırma makalesi yayımladı. Genel amaçlı kurgular, devasa bağlamları absorbe edebilen ve uzun vadeli planlama yapabilen büyük modeller varsayar; küçük yerel modeller ise bu talepler altında zorlanıyor. Perplexity, Qwen 3.8 27B gibi modellerin 260 bin tokenlik bağlam penceresi vaat etse de pratikte 100 bin token sonrası zorlandığını gözlemledi. Buna karşılık şirket, özlü bir sistem istemi, sınırlı temel araç seti ve talep üzerine yüklenen beceriler içeren kasıtlı olarak minimal bir kurgu geliştirdi. Gmail ve GitHub gibi popüler bağlantılar, token tüketimi yüksek MCP sunucularından kompakt komut satırı araçlarına dönüştürüldü. Kendini doğrulama mekanizmaları görev sağlığını izlerken, işletim sistemi düzeyinde sürekli aktif güvenlik sandalığı, korumasız komut çalıştırılmamasını garanti altına alıyor.

Token Ekonomisi ve Hibrit Çalışma Mantığı​

Bulut altyapısından yerel donanıma geçişin arkasındaki stratejik mantık, yapay zeka yüklerinin değişen doğuşuyla açıklanıyor. Chatbot etkileşimleri ani sorgulara dayalıyken, ajanlar kesintisiz ve sürekli çalışmaya ihtiyaç duyuyor. Nvidia Geliştirici Teknolojileri Direktörü Nader, ajanların mümkün olduğunca sürekli açık kalmasını ve bol miktarda token tüketmesini istediğimizi belirterek, yerel yapay zekanın bu açmazı çözdüğünü vurguladı. Yerelde tamamlanan işlemler fatura kredisi harcamıyor ve arayüzdeki kredi sayacı sıfırda kalıyor. Saatlerce belge inceleyen, kendi çalışmalarını doğrulayan ve analizler üzerinde iterasyon yapan bir ajan, bulutta ciddi API faturaları oluşturabilirken, kullanıcıya ait bir cihazda bu maliyet neredeyse sıfıra düşüyor. Bu durum hem token harcama hem de veri hareketi konusunda kurumsal ölçeklenebilirliği kolaylaştırıyor.
Hibrit yaklaşım da ürünün önemli bir parçası. Demo gösterilerinde ajan, yerel verileri analiz ettikten sonra Slack'e sonuçları aktarabiliyor. Sistem ayrıca Google Drive, Gmail ve GitHub'a bağlanıyor ve yerel model sınırlarına ulaştığında buluta yönlendirme yapılabiliyor. Lansmanda Qwen 3.8 27B veya Perplexity tarafından özel olarak eğitilen PPLX 27B modelleri kullanılabiliyor; Nvidia'nın Nemotron 3.5 Lightning modeli yakında eklenecek. Terminal Bench 2.1 gibi zorlu kodlama testlerinde tamamen yerel Qwen modeli yüzde 59.6 başarı gösterirken, buluttaki Claude Opus 5 danışmanına yükseltme yapılması bu oranı yüzde 73.0'a çıkarıyor. Herhangi bir danışman çağrısı öncesinde, çıkış bağlamı üzerinde bir PII sınıflandırıcısı çalıştırılıyor ve kullanıcıdan tam olarak hangi verinin cihazdan ayrılacağı gösteriliyor.

Mevcut Çözümlerle Fark ve İş Birliği Bağlamı​

Ollama gibi mevcut yerel çıkarım araçlarıyla karşılaştırıldığında Portable Computer'in konumu net çizgilerle belirleniyor. Nate, çabaların büyük kısmının ajan kurgusu seviyesinde olduğunu ve sistemin alt katmanda model çıkarımı için vLLM kullandığını belirtti. Nvidia tarafında ise DGX Spark üzerindeki çıkarımın hızlı kurulması kolay görünebilir ancak daha karmaşık agentic işlere geçildiğinde performans ve farklı kurgu ihtiyaçları ortaya çıkıyor. Katılımcılardan biri, mühendis olmasına rağmen DGX Spark'ı kendi başına kurmanın zor olduğunu belirterek ürünün, agentic yapının anlaşılması için gerekli olan doğru kullanıcı deneyimini sunduğunu ifade etti. Nvidia, donanımın ölçeklenebilirliğine de dikkat çekiyor: İki Spark'ın paylaşılan bellek üzerinden bağlanması DeepSeek gibi sınır sınıfı açık modelleri çalıştırırken, dört cihaz GLM 5.2 veya Nemotron Ultra'yı yönetebiliyor. Nader, sekiz Spark'ın bile bağlandığını gördüğünü kaydetti.

Öne Çıkan Sınırlılıklar ve Destek Planları​

Portable Computer, Pro, Max, Enterprise Pro ve Enterprise Max aboneleri için bugün Linux üzerinde yayına alındı. Windows desteği Eylül ayında geliyor. Sistemi çalıştırmak için en az 24 GB VRAM'e sahip herhangi bir RTX GPU gerekiyor. Nate, bu eşik deneyimi garantilemek için belirlenen bir taban çizgisi olduğunu belirtti. Ancak lansmanla ilgili bazı sorular da akılda kalıyor. Perplexity'nin en dikkatli rakamları kendi iç benchmark değerlendirmelerinden geliyor ve şirket, kompakt modellerin zorlu akıl yürütme görevlerinde hala büyük modellere göre geride kaldığını kabul ediyor. Başlangıçta sadece Linux desteği bulunurken, 24 GB VRAM şartı birçok tüketici bilgisayarını dışarıda bırakıyor. Apple Silicon desteği de şu anki yol haritasında bulunmuyor. Nate, şu anda yoğun odaklanmanın Nvidia donanımı üzerinde olduğunu teyit etti.

Sıkça Sorulan Sorular​

Portable Computer hangi cihazlarda ve işletim sistemlerinde çalışıyor?​

Platform, Nvidia DGX Spark masaüstü süper bilgisayarı ve Nvidia RTX grafik kartlı Linux makinelerde çalışıyor. Lansmanda Linux desteği sunulurken Windows desteği Eylül ayında eklenecek.

Yerel olarak çalışmak token maliyetlerini nasıl etkiliyor?​

Görevler varsayılan olarak cihaz üzerinde tamamlandığı için bulut fatura kredisi veya token ücreti harcanmıyor. Arayüzdeki kredi sayacı sıfırda kalıyor ve yalnızca kullanıcı izin verdiği durumlarda buluta adım gönderiliyor.

Hangi yapay zeka modelleri destekleniyor?​

Lansmanda Qwen 3.8 27B ve Perplexity tarafından özelleştirilmiş PPLX 27B modelleri kullanılabiliyor. Nvidia'nın Nemotron 3.5 Lightning modeli ise yakında sisteme dahil edilecek.

Minimal ajan kurgusu neden tercih edildi?​

Küçük yerel modeller, genel amaçlı kurguların getirdiği geniş bağlam ve uzun vadeli planlama yüklerine dayanmakta zorlanıyor. Bu nedenle özlü istemler, talep üzerine yüklenen beceriler ve komut satırı araçları kullanılarak hafif ve verimli bir yapı oluşturuldu.

Performans ölçümleri nasıl değerlendiriliyor?​

Şirketin iç değerlendirmelerine göre, Qwen 3.8 27B ile DGX Spark'ta elde edilen skorlar açık kaynaklı diğer kurgulara göre daha yüksek çıkıyor. Ancak kompakt modeller, zorlu akıl yürütme görevlerinde hala büyük bulut modellerinin gerisinde kalabiliyor.

Etiketler

Yorumlar (0)

Yorum yapmak için giriş yapmalısınız.

Geri
Üst