OpenAI, sıfır veri saklama altyapısını genişleten yeni şemsiye girişimi Private Intelligence'ı DevDay 2026'da duyurdu. Girişim, halihazırda kullanıma sunulan gizliliği koruyan güvenlik inceleme sistemi ile sonbaharda gelmesi planlanan ve yapay zeka çıkarımının kendisini daha gizli ve doğrulanabilir hale getirmeyi amaçlayan gizli bilgi işlem mimarisini bir araya getiriyor. Duyuru, kurumsal müşteriler arasında veri sızıntısı ve fikri mülkiyetin açığa çıkması endişelerinin daha somut hale geldiği bir dönemde geldi.
Şirketin aktardığına göre Private Intelligence, müşteri hassas verileri ile OpenAI arasında daha sert bir teknik sınır çizmeyi hedefliyor. Bu yaklaşım, özellikle kaynak kodu, gizli bilgiler, yayımlanmamış araştırmalar, hukuki belgeler veya diğer değerli fikri mülkiyetleri işleyen şirketler için sözleşme dilinden daha güçlü bir teknik güvence sunma iddiası taşıyor.
ZDR with Private Safety Processing halihazırda erişilebilir durumda. Private Inference için ise OpenAI sonbaharı işaret ediyor ve sistemin gizli bilgi işlem ile katı, doğrulanabilir kontrolleri birleştireceğini söylüyor. Şirket, Private Inference'a ilişkin model, API uç noktası, ChatGPT Enterprise kapsamı, kullanılacak güvenilir yürütme donanımı, müşterilerin bağımsız olarak doğrulayabileceği unsurlar ve maliyet gibi detayları henüz açıklamadı.
Buradaki zorluk güvenlik izlemesiyle ilgili. Sınır modelleri daha uzun süreli ve daha otonom çalışabilir hale geldikçe, bazı kötüye kullanım veya tehlikeli davranışların ancak birden fazla etkileşim birlikte değerlendirildiğinde görülebileceğini savunan OpenAI, Ağustos ayında Private Safety Processing ön izlemesini paylaştığında mevcut ZDR uyumlu güvenlik kontrollerinin büyük ölçüde tekil etkileşimleri değerlendirdiğini ve daha geniş bir dizideki örüntüleri tanıma yeteneğini sınırladığını ifade etmişti.
Private Safety Processing bu ikilemi çözmeyi amaçlıyor. Yeni ZDR with Private Safety Processing mimarisinde, bir güvenlik sınıflandırıcısı veya onaylı örnekleme politikası aracılığıyla seçilen müşteri içeriği şifreleniyor ve müşteri tarafından kontrol edilen depolama alanına yerleştiriliyor. OpenAI, müşteri içeriğinin düz metin kopyası yerine operasyonel meta veriler ve saklanan kayda referans içeren bir dizin tutuyor.
Depolama alanı AWS S3 bucket, Azure Blob container veya Google Cloud Storage olabiliyor ve sistem müşteri tarafından yönetilen Enterprise Key Management yetkilendirmesini kullanabiliyor. Şifrelenmiş içerik daha sonra OpenAI'ın “hardware-attested safety runtime” olarak tanımladığı bir ortam içinde otomatik inceleme için geri alınabiliyor. Bu korumalı ortam, kayıtların şifresini çözebilen tek iş yükü olacak şekilde tasarlandı ve OpenAI personelinin temel müşteri materyalini görmesini engelliyor. Ortamdan düz metin olarak yalnızca önceden tanımlanmış güvenlik sinyallerinin ve onaylı operasyonel meta verilerin çıkmasına izin veriliyor. Daha ayrıntılı sonuçlar ortamdan ayrılmadan önce yeniden şifreleniyor.
Başka bir deyişle OpenAI, sistemlerinin tehlikeli bir durum olup olmadığını değerlendirme yeteneğini, çalışanlarının müşterinin gerçekte ne yaptığını görme yeteneğinden ayırmaya çalışıyor. Şirket, PSP üzerinden işlenen materyalin model eğitimi için kullanılamayacağını veya diğer OpenAI gruplarına ya da ortaklarına sağlanamayacağını söylüyor.
OpenAI'ın PSP dokümantasyonuna göre korunan kayıtlar, otomatik güvenlik inceleme sisteminin bunları inceleyebilmesi için 30 günlük yaşam süresiyle (time-to-live) müşteri tarafından kontrol edilen depolamaya yazılıyor. Müşterilerin bu süre boyunca ilgili depolama, izinler ve anahtar yetkilendirmesini sürdürmesi gerekiyor.
Ayrım, kontrol ve erişilebilirlik noktasında ortaya çıkıyor. OpenAI, korunan içeriğin kendi kopyasını tutmadığını, personelinin kayıtları inceleyemeyeceğini ve depolama ortamını ile yapılandırıldığı durumlarda anahtar yetkilendirmesini müşterinin kontrol ettiğini belirtiyor. Bu durum, OpenAI'ın okunabilir kötüye kullanım izleme kayıtlarını kendisinin saklamasından maddi olarak farklı olsa da, kurumsal güvenlik ekiplerinin düzenleyici, hukuki ve iç saklama politikalarını değerlendirirken müşteri tarafındaki depolama gereksinimini hesaba katması gerekiyor.
NYU matematikçisi Tristan Buckmaster ve Anthropic araştırmacısı Levent Alpöge, OpenAI'ın Codex'i de dahil olmak üzere çeşitli yapay zeka ürünlerini kullanırken ilgili problemler üzerinde çalışıyordu. OpenAI daha sonra Buckmaster'ın Codex istemlerinin sonucunu etkileyip etkilemediğini araştırdığını ve duyurudan önceki iki ay içindeki istemlerinin, eğitim de dahil olmak üzere sistemi etkileyemeyeceği sonucuna vardığını açıkladı.
Ancak olay daha geniş bir endişeyi görünür kıldı: Şirketler kurumsal verileri doğrudan incelemeyeceğine söz verse bile, kullanıcılar bir yapay zeka sistemine girilen özel bilgilerin eğitime, değerlendirmeye veya rakip araştırmalara sızamayacağına dair daha güçlü kanıt istiyor. Financial Times, bilimsel araştırmalardaki ilgili kaygıyı potansiyel bir “snoop-and-scoop” sorunu olarak tanımladı ve yalnızca Navier-Stokes tartışmasına değil, Anthropic ile ilgili hesaplamalı biyoloji vakasına da işaret etti. Bu vakada bir araştırmacı, bir yapay zeka asistanıyla kullanılan yayımlanmamış çalışmanın daha sonra yapay zeka tarafından üretilen bulguları etkileyip etkilemediğini sorgulamıştı. Haberde böyle bir aktarımı kuran doğrudan bir kanıt bulunmadığı, ancak tartışmaların araştırmacıları kaynak ve gizli yapay zeka destekli çalışma konusunda daha dikkatli düşünmeye zorladığı aktarıldı.
Haberde bazı kurumsal alıcıların daha güçlü ZDR garantileri talep ettiği veya daha izole dağıtımları değerlendirdiği belirtildi. Microsoft'un da bu endişeleri özel yapay zeka altyapısı için rekabetçi bir satış argümanı olarak kullandığı aktarıldı. Aynı haberde OpenAI ve Anthropic'in kurumsal müşterilerine, müşteriler izin vermedikçe kurumsal anlaşmalar kapsamındaki bilgileri varsayılan olarak modelleri eğitmek için kullanmadıklarını söyledikleri, ancak her iki şirketin de bazı meta veri türlerini toplamaya devam ettiği ve bu ayrımın bazı kurumsal müşteriler için yeterince net olmadığı ifade edildi.
Örnek olarak telekomünikasyon operatörü C Spire'ın hem OpenAI hem de Anthropic ile verilerinin model eğitimi için kullanılmasını yasaklayan ancak teknik kullanım verilerinin toplanmasına izin veren anlaşmalar sürdürdüğü, The Information'ın haberinde yer aldı. Bu durum, kurumsal sözleşmeler altında bile müşteri içeriği, meta veriler ve model iyileştirme verileri arasındaki çizginin nasıl karmaşık kalabildiğini gösteriyor.
OpenAI, Ağustos ayında Private Safety Processing ön izlemesini paylaşırken müşterilerin özellikle yapay zeka sistemleri daha yetenekli hale geldikçe öngörülebilir korumalar talep ettiğini, özellikle güvenlik gereksinimlerinin aksi takdirde hassas materyali yapay zeka sağlayıcısının saklamasına izin vermeye zorlayabileceği durumlarda bu talebin arttığını belirtmişti. Bu bağlamda Private Intelligence, sözleşmesel taahhütlerin ötesinde müşteri kontrollü depolama, müşteri tarafından yönetilen yetkilendirme, donanım doğrulamalı inceleme, insan incelemesi yerine otomatik inceleme ve OpenAI'a geri akan bilginin sıkı biçimde sınırlandırılması gibi mimari önlemlerle güven açığını azaltmayı hedefliyor.
Şirketin aktardığına göre Private Intelligence, müşteri hassas verileri ile OpenAI arasında daha sert bir teknik sınır çizmeyi hedefliyor. Bu yaklaşım, özellikle kaynak kodu, gizli bilgiler, yayımlanmamış araştırmalar, hukuki belgeler veya diğer değerli fikri mülkiyetleri işleyen şirketler için sözleşme dilinden daha güçlü bir teknik güvence sunma iddiası taşıyor.
Private Intelligence İki Bileşenden Oluşuyor
OpenAI, Private Intelligence çatısını iki ana bileşene ayırıyor. CEO Sam Altman'ın DevDay sunumunda gösterilen slaytta da bu ayrım net biçimde yer aldı. Buna göre ilk bileşen “ZDR with Private Safety Processing” olarak adlandırılıyor ve müşteri içeriğini saklamadan gelişmiş güvenlik sağlamayı amaçlıyor. İkinci bileşen ise “Private Inference” olarak işaretlendi, ön izlemede olduğu ve işleme sırasında doğrulanabilir kontrollerle gizli bilgi işlem sunacağı belirtildi.ZDR with Private Safety Processing halihazırda erişilebilir durumda. Private Inference için ise OpenAI sonbaharı işaret ediyor ve sistemin gizli bilgi işlem ile katı, doğrulanabilir kontrolleri birleştireceğini söylüyor. Şirket, Private Inference'a ilişkin model, API uç noktası, ChatGPT Enterprise kapsamı, kullanılacak güvenilir yürütme donanımı, müşterilerin bağımsız olarak doğrulayabileceği unsurlar ve maliyet gibi detayları henüz açıklamadı.
ZDR ile Private Safety Processing Nasıl Çalışıyor?
OpenAI, uygun API müşterilerine zaten Zero Data Retention (ZDR) sunuyor. Standart politikada müşteri istemleri ve model yanıtları kötüye kullanım izleme kayıtlarının dışında tutuluyor ve desteklenen API çağrıları saklanmayan davranışa zorlanıyor. Şirket, iş verilerinin müşteriler açıkça izin vermedikçe eğitim için kullanılmadığını belirtiyor.Buradaki zorluk güvenlik izlemesiyle ilgili. Sınır modelleri daha uzun süreli ve daha otonom çalışabilir hale geldikçe, bazı kötüye kullanım veya tehlikeli davranışların ancak birden fazla etkileşim birlikte değerlendirildiğinde görülebileceğini savunan OpenAI, Ağustos ayında Private Safety Processing ön izlemesini paylaştığında mevcut ZDR uyumlu güvenlik kontrollerinin büyük ölçüde tekil etkileşimleri değerlendirdiğini ve daha geniş bir dizideki örüntüleri tanıma yeteneğini sınırladığını ifade etmişti.
Private Safety Processing bu ikilemi çözmeyi amaçlıyor. Yeni ZDR with Private Safety Processing mimarisinde, bir güvenlik sınıflandırıcısı veya onaylı örnekleme politikası aracılığıyla seçilen müşteri içeriği şifreleniyor ve müşteri tarafından kontrol edilen depolama alanına yerleştiriliyor. OpenAI, müşteri içeriğinin düz metin kopyası yerine operasyonel meta veriler ve saklanan kayda referans içeren bir dizin tutuyor.
Depolama alanı AWS S3 bucket, Azure Blob container veya Google Cloud Storage olabiliyor ve sistem müşteri tarafından yönetilen Enterprise Key Management yetkilendirmesini kullanabiliyor. Şifrelenmiş içerik daha sonra OpenAI'ın “hardware-attested safety runtime” olarak tanımladığı bir ortam içinde otomatik inceleme için geri alınabiliyor. Bu korumalı ortam, kayıtların şifresini çözebilen tek iş yükü olacak şekilde tasarlandı ve OpenAI personelinin temel müşteri materyalini görmesini engelliyor. Ortamdan düz metin olarak yalnızca önceden tanımlanmış güvenlik sinyallerinin ve onaylı operasyonel meta verilerin çıkmasına izin veriliyor. Daha ayrıntılı sonuçlar ortamdan ayrılmadan önce yeniden şifreleniyor.
Başka bir deyişle OpenAI, sistemlerinin tehlikeli bir durum olup olmadığını değerlendirme yeteneğini, çalışanlarının müşterinin gerçekte ne yaptığını görme yeteneğinden ayırmaya çalışıyor. Şirket, PSP üzerinden işlenen materyalin model eğitimi için kullanılamayacağını veya diğer OpenAI gruplarına ya da ortaklarına sağlanamayacağını söylüyor.
Sıfır Veri Saklama İfadesindeki Kritik Ayrıntı
Mimari, “sıfır veri saklama” ifadesine ilişkin önemli bir nüans da getiriyor. ZDR with PSP, çıkarım sonrasında hiçbir yerde istem veya yanıtın şifreli bir kopyasının bulunmadığı anlamına gelmiyor.OpenAI'ın PSP dokümantasyonuna göre korunan kayıtlar, otomatik güvenlik inceleme sisteminin bunları inceleyebilmesi için 30 günlük yaşam süresiyle (time-to-live) müşteri tarafından kontrol edilen depolamaya yazılıyor. Müşterilerin bu süre boyunca ilgili depolama, izinler ve anahtar yetkilendirmesini sürdürmesi gerekiyor.
Ayrım, kontrol ve erişilebilirlik noktasında ortaya çıkıyor. OpenAI, korunan içeriğin kendi kopyasını tutmadığını, personelinin kayıtları inceleyemeyeceğini ve depolama ortamını ile yapılandırıldığı durumlarda anahtar yetkilendirmesini müşterinin kontrol ettiğini belirtiyor. Bu durum, OpenAI'ın okunabilir kötüye kullanım izleme kayıtlarını kendisinin saklamasından maddi olarak farklı olsa da, kurumsal güvenlik ekiplerinin düzenleyici, hukuki ve iç saklama politikalarını değerlendirirken müşteri tarafındaki depolama gereksinimini hesaba katması gerekiyor.
Kurumsal Güvensizlik ve Navier-Stokes Tartışması Gündemde
OpenAI'ın duyurusu, yapay zeka sağlayıcılarının müşteri etkileşimlerinden ne öğrenebileceğine dair bir dizi tartışmanın ortasında geldi. Bu ayın başlarında OpenAI'ın ajanlarının uzun süredir çözülemeyen Navier-Stokes varlık ve pürüzsüzlük problemini çözdüğü iddiası, yayımlanmamış matematiksel araştırmalarla ilgili bir tartışmayı ateşledi.NYU matematikçisi Tristan Buckmaster ve Anthropic araştırmacısı Levent Alpöge, OpenAI'ın Codex'i de dahil olmak üzere çeşitli yapay zeka ürünlerini kullanırken ilgili problemler üzerinde çalışıyordu. OpenAI daha sonra Buckmaster'ın Codex istemlerinin sonucunu etkileyip etkilemediğini araştırdığını ve duyurudan önceki iki ay içindeki istemlerinin, eğitim de dahil olmak üzere sistemi etkileyemeyeceği sonucuna vardığını açıkladı.
Ancak olay daha geniş bir endişeyi görünür kıldı: Şirketler kurumsal verileri doğrudan incelemeyeceğine söz verse bile, kullanıcılar bir yapay zeka sistemine girilen özel bilgilerin eğitime, değerlendirmeye veya rakip araştırmalara sızamayacağına dair daha güçlü kanıt istiyor. Financial Times, bilimsel araştırmalardaki ilgili kaygıyı potansiyel bir “snoop-and-scoop” sorunu olarak tanımladı ve yalnızca Navier-Stokes tartışmasına değil, Anthropic ile ilgili hesaplamalı biyoloji vakasına da işaret etti. Bu vakada bir araştırmacı, bir yapay zeka asistanıyla kullanılan yayımlanmamış çalışmanın daha sonra yapay zeka tarafından üretilen bulguları etkileyip etkilemediğini sorgulamıştı. Haberde böyle bir aktarımı kuran doğrudan bir kanıt bulunmadığı, ancak tartışmaların araştırmacıları kaynak ve gizli yapay zeka destekli çalışma konusunda daha dikkatli düşünmeye zorladığı aktarıldı.
Palantir, Nvidia ve Booz Allen Temkinli Yaklaşıyor
Benzer endişeler kurumsal pazarda da ortaya çıkıyor. The Information'ın bu ay yayımladığı habere göre Palantir, Nvidia ve Booz Allen Hamilton, hassas bilgilerin nihayetinde kendilerine hizmet sağlayan yapay zeka şirketlerine fayda sağlayabileceği korkusuyla model kullanımını kısıtlamaya veya daha güçlü sözleşmesel garantiler aramaya başladı.Haberde bazı kurumsal alıcıların daha güçlü ZDR garantileri talep ettiği veya daha izole dağıtımları değerlendirdiği belirtildi. Microsoft'un da bu endişeleri özel yapay zeka altyapısı için rekabetçi bir satış argümanı olarak kullandığı aktarıldı. Aynı haberde OpenAI ve Anthropic'in kurumsal müşterilerine, müşteriler izin vermedikçe kurumsal anlaşmalar kapsamındaki bilgileri varsayılan olarak modelleri eğitmek için kullanmadıklarını söyledikleri, ancak her iki şirketin de bazı meta veri türlerini toplamaya devam ettiği ve bu ayrımın bazı kurumsal müşteriler için yeterince net olmadığı ifade edildi.
Örnek olarak telekomünikasyon operatörü C Spire'ın hem OpenAI hem de Anthropic ile verilerinin model eğitimi için kullanılmasını yasaklayan ancak teknik kullanım verilerinin toplanmasına izin veren anlaşmalar sürdürdüğü, The Information'ın haberinde yer aldı. Bu durum, kurumsal sözleşmeler altında bile müşteri içeriği, meta veriler ve model iyileştirme verileri arasındaki çizginin nasıl karmaşık kalabildiğini gösteriyor.
OpenAI, Ağustos ayında Private Safety Processing ön izlemesini paylaşırken müşterilerin özellikle yapay zeka sistemleri daha yetenekli hale geldikçe öngörülebilir korumalar talep ettiğini, özellikle güvenlik gereksinimlerinin aksi takdirde hassas materyali yapay zeka sağlayıcısının saklamasına izin vermeye zorlayabileceği durumlarda bu talebin arttığını belirtmişti. Bu bağlamda Private Intelligence, sözleşmesel taahhütlerin ötesinde müşteri kontrollü depolama, müşteri tarafından yönetilen yetkilendirme, donanım doğrulamalı inceleme, insan incelemesi yerine otomatik inceleme ve OpenAI'a geri akan bilginin sıkı biçimde sınırlandırılması gibi mimari önlemlerle güven açığını azaltmayı hedefliyor.
Siber Güvenlik
Siber Güvenlik
Siber Güvenlik
Yorumlar (0)
Yorum yapmak için giriş yapmalısınız.