ChatGPT Mühendisinden Yeni AI Modeli Jev Yayında

OpenAI’de ChatGPT’nin yapımına ve insan geri bildirimli pekiştirmeli öğrenme (RLHF) eğitim tekniğinin geliştirilmesine katkıda bulunan Diogo Almeida, iki yıl önce şirketten ayrılarak TypeSafe AI adlı girişimi kurdu. Bu hafta şirket, metin üretmek yerine yalnızca olasılıklar sunan yeni nesil yapay zeka modeli Jev’i tanıttı. Büyük dil modeli (LLM) kategorisinde yer almayan sistem, kullanıcıların önceden belirlediği çıktılarla çalıştığı için halüsinasyon riskini ortadan kaldırırken, yazılım geliştiricilere otomasyon süreçlerinde hem son derece düşük maliyetli hem de yüksek hız sağlayan alternatif bir yol sunuyor.

Dil Üretimi Yerine Olasılık Odaklı Mimari​

Almeida, mevcut yapay zeka modellerinin insan diline aşırı derecede optimize edilmesinin otomasyon ihtiyaçlarına hizmet etmediğini belirtiyor. Bilgisayarların farklı bir dilde iletişim kurduğunu vurgulayan araştırmacı, teknolojinin henüz pratik faydaya dönüşemediğini ifade etti. TypeSafe AI’ın piyasaya sürdüğü Jev modeli, bu boşluğu doldurmak üzere tasarlandı. Geleneksel LLM’lerin aksine metin çıktısı üretmeyen model, bunun yerine “doğrulanmış kararlar” olarak adlandırılan olasılık dağılımları üretiyor. Dili tamamen kenara bırakması, sistemin inanılmaz derecede hızlı ve ekonomik çalışmasını sağlıyor. Kullanıcılar çıktıyı önceden tanımladığı için modelin kurgusal veya hatalı bilgi üretmesi mümkün olmuyor. Şirket ayrıca, çıkış tokenlarının ücretsiz olduğunu ve giriş tokenlarının milyonlarca değil, milyarlarca bazında ölçüldüğünü açıkladı.

Yazılım Otomasyonunda Test Edilen Performans​

Jev’in piyasaya sürülmesiyle birlikte geliştiricilerden gelen yoğun ilgi, şirketin API servislerinde kısa süreli kesintilere yol açtı. Yazılım otomasyonu alanındaki kullanımı öne çıkan model, geliştiriciler tarafından kodlara entegre edilecek zekâ için daha sağlam ve ekonomik bir çözüm olarak değerlendiriliyor. Örneğin, agentic altyapı geliştiren Vercel şirketinden yazılım mühendisi Pranit Sharma, şirketlerinin güvenlik amacıyla komutları denetlemek için OpenAI’nin Luna 5.6 modelini kullandığını belirtti. Vercel, Luna’yı Jev ile değiştirdiğinde sonuçların beş ile on sekiz kat daha hızlı ve doğruluk oranı daha yüksek elde edildiğini kaydetti. Benzer şekilde, Bryo AI’ın baş teknoloji sorumlusu Nikhil Mudholkar, Jev’i iş e-postalarını sınıflandırmak için Google’un Gemini modeliyle karşılaştırdı. Testlerde Gemini’nin doğruluk açısından çok küçük bir farkla öne çıkmasına karşın, Jev’in maliyetinin Gemini’ye göre on ila yirmi kat daha düşük olduğu görüldü. Mudholkar, özellikle Jev’in gerçek olasılık değerlerini döndürmesinin iş akışlarını otomatikleştirmek için ideal olduğunu vurguladı.

Agent İzleme ve Gerçek Zamanlı Yönlendirme​

Yeni model, yalnızca LLM’lerin yerini almakla kalmayıp aynı zamanda onları tamamlayıcı bir denetim aracı olarak da işlev görüyor. Agent’ların birbirini izlemesi genellikle yüksek maliyet gerektirirken, Almeida Jev’in bu süreci daha mantıklı hale getirdiğini savunuyor. Kullanıcıların LLM izlerini takip etmesini ve jailbreak (kısıtlama aşma) girişimlerini engellemek için Jev’i kullanabileceği belirtiliyor. Açık kaynaklı model hazneli Pi’yi geliştiren Earendil’in baş teknoloji sorumlusu Armin Ronacher, halüsinasyon sorununun kısmen kullanıcıya devredildiğini anlatıyor. Kullanıcının, örneğin yüzde elli olasılık dönen bir sonucu rastgele bir durum olarak görüp görmezken, yüzde doksan beşlik sonucu doğrudan kullanabilmesi esneklik sağlıyor. Ronacher, başka bir potansiyel kullanım alanı olarak model yönlendirme (model routing) durumuna değiniyor. Belirli bir iş yükünün hangi modele ihtiyacı olduğunu tahmin etmek faydalı olsa da bunu LLM’lerle yapmak pahalı kalabiliyor. Jev’in düşük maliyeti ve yüksek hızı, bu tür gerçek zamanlı sıralamaları mümkün kılıyor.

Sentetik Veri Eğitimi ve Gelecek Vizyonu​

Modelin adı, 19. yüzyıl ekonomisti William Stanley Jevons’tan geliyor. Ekonomistin paradoksu, bir malın düşen fiyatının kullanımının giderek artmasını açıklıyor. Almeida, zekânın düşen maliyetinin de benzer şekilde yaygın bir şekilde konuşlandırılmasını hedefliyor. Şirket, Jev’e “Sistem Bir Model” diyor ve modelin muhakeme yerine sezgiye, spesifik görevlere odaklanmaya yönelik tasarlandığını belirtiyor. Almeida, modelin yalnızca sentetik veri kullanılarak eğitildiğini ve bunun için “doğrulanmış kararlardan pekiştirmeli öğrenme” adlı özel bir teknik uygulandığını paylaştı. Tüm verinin kendilerinin oluşturulduğuna erken dönemde yatırım yaptığını ve bunun şirket tarihi boyunca yaptığı en iyi yatırımlardan biri olduğunu ifade etti. Şirket kadrosunun yarısının istatistiksel olarak net bilinen sentetik veri alt alanına odaklanmış bir laboratuvar gibi çalıştığını ekledi. Ronacher, Jev’in faydası ortaya çıktığında rekabetçi modellerin hızla türeyeceğini öngörürken, TypeSafe AI’ın da yeni modlarda model versiyonları geliştirmeyi planladığını belirtiyor. Almeida ise sınır araştırma laboratuvarlarının ana ürününün korku veya hype olduğunu, kendi odağının ise doğrudan zekâ üretimi olduğunu vurgulayarak şirketin yaklaşımını özetledi.

Sıkça Sorulan Sorular​

Jev modeli neden büyük bir dil modeli (LLM) olarak sınıflandırılmıyor?​

Jev, geleneksel büyük dil modellerinin aksine metin üretmiyor ve bunun yerine kullanıcılar tarafından önceden tanımlanan çıktılar için olasılık değerleri sunuyor. Bu yapı, onu insan diline dayalı modellere kıyasla farklı bir kategoriye yerleştiriyor.

Jev’in maliyet yapısı ve token ölçümü nasıl çalışıyor?​

Modelin çıktı tokenları ücretsizken, giriş tokenları milyonlarca değil, milyarlarca bazında ölçülüyor. Bu sayısal ölçek, özellikle yüksek hacimli otomasyon işlerinde maliyetleri ciddi oranda düşürmeyi amaçlıyor.

Vercel ve Bryo AI, Jev’i hangi senaryolarda test etti?​

Vercel, güvenlik denetimi için kullandığı modeli Jev ile değiştirerek beş ila on sekiz kat daha hızlı ve doğru sonuçlar aldı. Bryo AI ise iş e-postası sınıflandırma testinde Jev’in Gemini’ye kıyasla on ila yirmi kat daha ekonomik olduğunu ve yüksek doğruluk skorları sunduğunu kaydetti.

Modelin sentetik veri ile eğitilmesi ne anlama geliyor?​

TypeSafe AI, Jev’i yalnızca kendi ürettiği sentetik verilerle eğitti. Şirket, bu yaklaşımı “doğrulanmış kararlardan pekiştirmeli öğrenme” yöntemiyle birleştirerek halüsinasyon riskini minimize etmeyi ve modelin belirli görevlere tam uyum sağlamasını hedefledi.

Jev modeli geliştiricilerin iş akışlarında nasıl bir rol üstleniyor?​

Model, yazılım otomasyonu, agent izleme, jailbreak önleme ve gerçek zamanlı model yönlendirme gibi alanlarda kullanılabiliyor. Sağladığı olasılık skorları sayesinde geliştiriciler, iş akışlarını dinamik şekilde yönetebiliyor ve halüsinasyon sorununu kullanıcı tarafında filtreleyebiliyor.