OpenAI, AB'de ChatGPT ve Codex metinlerine görünmez filigran ekleyecek

OpenAI, Avrupa Birliği'nde ChatGPT ve Codex tarafından üretilen metinlere görünmez bir filigran eklemeye başlayacağını açıkladı. Şirket Pazartesi günü yayımladığı blog yazısında uygulamanın AB Yapay Zeka Yasası'na uyum amacıyla hayata geçirileceğini duyurdu. Yasa'nın şeffaflık kuralları 2 Ağustos'ta yürürlüğe girmiş ve yapay zeka şirketlerinin ürettiği içerikleri başka sistemlerin tanıyabileceği şekilde işaretlemesini zorunlu kılmıştı. OpenAI, filigranın önümüzdeki haftalarda AB'deki uygun ChatGPT ve Codex kullanıcılarına tüm planlarda kademeli olarak sunulacağını bildirdi. Şirket, dünya genelindeki API geliştiricilerinin ise bugünden itibaren belirli modellerde filigranı isteğe bağlı olarak açabileceğini, bu özelliğin varsayılan olarak kapalı olduğunu belirtti. OpenAI, lansmanda metin filigranını küresel ölçekte varsayılan hale getirmeyeceğini de vurguladı.
Şirketin duyurusu, AB'de yapay zeka tarafından üretilen içeriklerin şeffaflığına ilişkin yükümlülüklerin somut bir uygulaması olarak öne çıkıyor. Filigran, okuyucunun gözle göremeyeceği ancak bir dedektörün tespit edebileceği bir işaret olarak tasarlandı. OpenAI, bu yöntemin kullanıcı kimliğini ortaya çıkarmadığını ve modellerin performansında anlamlı bir değişiklik gözlemlemediklerini de açıkladı.

AB Yapay Zeka Yasası ve Şeffaflık Zorunluluğu​

AB Yapay Zeka Yasası'nın 2 Ağustos'ta yürürlüğe giren şeffaflık kuralları, yapay zeka şirketlerinin ürettiği içeriklerin başka sistemler tarafından tanımlanabilir şekilde işaretlenmesini gerektiriyor. OpenAI, bu yükümlülüğe uyum için ChatGPT ve Codex metinlerine filigran ekleme kararı aldığını belirtti. Uygulama yalnızca Avrupa Birliği ile sınırlı olacak. Şirket, filigranın önümüzdeki haftalarda AB'deki uygun kullanıcılara açılacağını, tüm abonelik planlarını kapsayacağını ifade etti.
Geliştiricilere yönelik taraf ise küresel ölçekte isteğe bağlı bırakıldı. OpenAI, API'yi dünyanın herhangi bir yerinde kullanan geliştiricilerin bugünden itibaren belirli modellerde filigranı açabileceğini duyurdu. Bu seçenek varsayılan olarak kapalı olacak. Şirket, metin filigranını lansmanda küresel varsayılan haline getirmeme kararı aldığını da açıkça paylaştı.

Görünmez Filigran Nasıl Çalışıyor: textGrain Yöntemi​

OpenAI'ın ekleyeceği filigran, metne eklenen görünür bir sembol değil. Sistem, modelin kelime seçimlerini çok küçük ölçüde şekillendirerek okuyucunun fark edemeyeceği ancak dedektörün yakalayabileceği bir desen oluşturuyor. Bu desen kelimelerin kendisinde yaşadığı için metin kopyalanıp yapıştırıldığında da birlikte taşınıyor.
Şirket, yöntemin kullanıcı kimliğini belirlemediğini ve filigran açıkken modellerin performansında anlamlı bir değişiklik görmediklerini belirtti. Duyuruyla birlikte OpenAI, textGrain adını verdiği yönteme ilişkin teknik bir rapor da yayımladı. Pennsylvania Üniversitesi ve Yale'den araştırmacılarla birlikte kaleme alınan rapor, gizli bir anahtar kullanarak bir cümleyi tamamlamak için bir sonraki kelime tahminlerinin nasıl sıralandığına dair bir örnek üzerinden yöntemi anlatıyor. Yüzlerce küçük yönlendirme bir araya geldiğinde, dedektör yalnızca metni ve anahtarı kullanarak yapay zeka tarafından üretilmiş içeriği tespit edebiliyor.

Düzenleme Filigranı Zayıflatıyor mu?​

OpenAI, filigranın düzenleme karşısında zayıflayabildiğini test sonuçlarıyla paylaştı. Şirketin bir testinde kelimelerin yüzde 10'unun eş anlamlılarla değiştirilmesi, tespit oranını yaklaşık yüzde 92'den yüzde 66'ya düşürdü. Şirket ayrıca kısa pasajların, matematik yanıtlarının ve çevrilmiş metinlerin tespitinin daha zor olduğunu belirtti.
Bu sınırlamalar nedeniyle şirket, dedektöre ilk aşamada yalnızca onaylı araştırmacıların ve uzman kuruluşların erişebileceğini açıkladı. OpenAI, "Bu sınırlamalar, ilk dedektör erişimini yalnızca güvenilirliği ve sorumlu kullanımları değerlendirmemize yardımcı olabilecek onaylı araştırmacılara ve uzman kuruluşlara sağlama kararımıza katkıda bulunuyor" ifadesini kullandı.
Şirket, filigranın bulunmamasının insan yazarlığını kanıtlamadığı uyarısını da yaptı. Metin çok kısa veya yoğun şekilde düzenlenmiş olabilir ya da başka bir şirketin yapay zekasından gelmiş olabilir. OpenAI, "Filigranlar bir OpenAI sisteminin bir pasajın bir kısmını ürettiğini veya işlediğini gösterebilir, ancak buna ne kadar insan muhakemesi, düzenlemesi veya yaratıcılığının dahil olduğunu göstermez" değerlendirmesini paylaştı.

Anthropic Hamlesi ve Sektör Taahhütleri​

OpenAI'ın duyurusu, Anthropic'in Claude tarafından üretilen metinlere filigran ekleyeceğini açıklamasından iki ay sonra geldi. Anthropic bu uygulamayı dünya genelinde devreye almıştı. Bu karar, bazı Claude kullanıcılarının tepki göstermesine neden olmuş, kullanıcılar "talimatları, bağlamı, kararları" kendilerinin sağladığını, Claude'un ise sadece "araç" olduğunu savunmuştu.
OpenAI daha önce de bir metin filigranı geliştirmiş ancak kullanıma sunmamıştı. Şirketin bu kararı ertelemesinde, kullanıcıların filigran uygulamayan rakiplere yönelebileceği endişesinin de rol oynadığı, The Wall Street Journal tarafından 2024'te haberleştirilmişti. Anthropic, Google, Meta, Microsoft ve OpenAI, AB'nin yapay zeka tarafından üretilen içeriklere ilişkin uygulama kurallarına uyma taahhüdü veren şirketler arasında yer alıyor.

Sıkça Sorulan Sorular​

OpenAI neden ChatGPT ve Codex metinlerine filigran ekliyor?​

OpenAI, 2 Ağustos'ta yürürlüğe giren AB Yapay Zeka Yasası'nın şeffaflık kurallarına uyum için filigran ekleyeceğini açıkladı. Kurallar, yapay zeka şirketlerinin ürettiği içerikleri başka sistemlerin tanıyabileceği şekilde işaretlemesini gerektiriyor.

Görünmez filigran nasıl çalışıyor?​

Filigran görünür bir sembol değil, modelin kelime seçimlerini ince biçimde şekillendirerek oluşturulan bir desen. Okuyucu deseni göremiyor ancak dedektör tespit edebiliyor. Desen kelimelerin kendisinde olduğu için metin kopyalanıp yapıştırıldığında da taşınıyor. Yöntem, gizli bir anahtarla bir sonraki kelime tahminlerini sıralamaya ve yüzlerce küçük yönlendirmeyi birleştirmeye dayanıyor.

Filigran düzenlenerek kaldırılabilir mi?​

Evet, OpenAI'ın testlerine göre kaldırılabilir. Kelimelerin yüzde 10'unun eş anlamlılarla değiştirildiği bir testte tespit oranı yaklaşık yüzde 92'den yüzde 66'ya düştü. Şirket ayrıca kısa pasajların, matematik yanıtlarının ve çevrilmiş metinlerin tespitinin daha zor olduğunu belirtti.

Filigran bulunmaması metnin insan tarafından yazıldığını kanıtlar mı?​

Hayır. OpenAI, filigranın bulunmamasının insan yazarlığını kanıtlamadığını vurguladı. Metin çok kısa veya yoğun şekilde düzenlenmiş olabilir ya da başka bir şirketin yapay zekası tarafından üretilmiş olabilir.

API kullanan geliştiriciler filigranı nasıl kullanacak?​

Dünyanın herhangi bir yerindeki API geliştiricileri bugünden itibaren belirli modellerde filigranı isteğe bağlı olarak açabiliyor. Özellik varsayılan olarak kapalı. ChatGPT ve Codex için AB'deki uygun kullanıcılara yönelik sunum ise önümüzdeki haftalarda tüm planlarda kademeli olarak yapılacak.