OpenAI, çocuk cinsel istismarı soruşturmalarının işini kolaylaştırmak amacıyla yapay zekâ ile üretilen istismar görüntülerini, gerçek çocukların görüntülerinden ayırt edebilen bir sınıflandırıcı duyurdu. Washington DC'de düzenlenen basın brifinginde açıklanan araç, güvenlik incelemesinden geçen kuruluşlara ücretsiz sunulacak; geliştiricilere bu tür içerikleri tespit etme konusunda rehberlik sağlanacak ve kolluk kuvvetlerine yapay zekânın soruşturmalarda nasıl yardımcı olabileceği üzerine eğitim verilecek.
NCMEC ihbar hatları yapay zekâ kaynaklı raporlarla doldu
Sınıflandırıcının açıklanması, politika yapıcıların yapay zekâ araçlarına daha sıkı güvenlik kısıtlamaları getirilmesi için baskı yaptığı bir dönemde geldi. ABD Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'nin (NCMEC) çocuk cinsel istismarı materyali (CSAM) ihbarlarını toplayıp önceliklendiren CyberTipline hattı, 2025 yılında yapay zekâ üretimine ilişkin 400 bin ihbar aldı. Bu rakam, 2024'teki 67 bin ihbara kıyasla üstel bir artışı temsil ediyor ve araştırmacılar, bu akışın NCMEC'in iş yükünü yönetilemez hale getirebileceği konusunda uyarıda bulunmuştu.
ABD hükümeti, hem yapay zekâ ile üretilen hem de üretilmeyen CSAM'ın yasa dışı olduğunu belirtiyor ve 48 eyalet, cinsel içerikli yapay zekâ derin sahteciliklerini ele alan yasalara sahip. Ancak bu içerikleri üretmeye yarayan araçlar yaygın biçimde erişilebilir durumda; araştırmacılar, sahte görüntü selinin, bir çocuğun o anda fiilen zarar görüp görmediğini anlamayı zorlaştırabildiğini söylüyor.
Başsavcı Jackson: İhbar artışı patlayıcı nitelikte
Başsavcılar İttifakı'nın Yapay Zekâ Görev Gücü eşbaşkanı, Kuzey Carolina Başsavcısı Jeff Jackson, OpenAI'ın etkinliğinde NCMEC'e gelen yapay zekâ kaynaklı CSAM ihbarlarının artışını patlayıcı olarak nitelendirdi ve bu durumun aynı şekilde devam etmesi halinde misyonlarında başarısız olacakları anlamına geleceğini söyledi. Jackson, çoğu eyaletin sentetik CSAM'ı kapsayan yasalara sahip olduğunu, ancak OpenAI gibi bir teknoloji şirketiyle ortaklığın ortaya çıkan bu soruna karşı görece yeni bir yaklaşım olduğunu belirtti. Jackson, Başsavcıların çoğunlukla hesap verme işi yaptığını, bu kez zarar meydana geldikten sonra değil, onu önlemek için birlikte çalışmanın mümkün olup olmadığını görmek istediklerini söyledi ve bu yaklaşımın hâlâ büyük ölçüde bir deney olduğunu ekledi.
Sınıflandırıcı yanlış pozitifleri azaltıyor
OpenAI, yeni sınıflandırıcının yanlış pozitifleri ciddi biçimde azalttığını bildirdi: işaretlenen görüntü sayısı yüzde 48 daha az olurken, işaretlenen görüntülerin istismar materyali içermesi olasılığı iki katına çıktı. Araç, açık kaynaklı modeller ve kişileri soyunmuş gibi gösteren uygulamalar dahil olmak üzere çeşitli araçlarla üretilen istismar görüntülerini yakalamak üzere tasarlandı. Şirketin çocuk güvenliği kamu politikası başkanı John Buckley, bunun yapay zekâ ile üretilen materyale özel bir işaret taşıyan, geniş erişime açık ilk CSAM sınıflandırıcısı olduğunu söyledi. Buckley, sektörün hangi görüntülerin kurgusal bir çocuğu, hangilerinin gerçek bir çocuğu içerdiğini anlayabilmesinin önemli olduğunu belirterek bu triyajın kolluk kuvvetlerine ihbar akışlarında kritik olduğunu vurguladı. Ancak Buckley, yasaların yapay zekâ ile üretilen CSAM'ın zararını tanıması gerektiğini de söyledi; bu materyalin, çocuklara karşı suç işlenmesindeki toplumsal normları aşındırabileceğini ve sıklıkla gerçek çocuklara ait istismar görüntüleriyle birlikte bulunduğunu ifade etti.
ChatGPT'de yeni uyarı ve 24 saatlik erişim duraklatması
OpenAI'ın kendi ChatGPT görüntü üreteci, CSAM taleplerini reddetmek üzere tasarlanmış durumda. Bu talepte bulunan kullanıcılar bundan sonra, uzman rehberliğiyle geliştirilen ve onları yardım aramaya yönlendirmeyi amaçlayan yeni bir uyarı ile karşılaşacak. İlk ihlal, ChatGPT erişiminde 24 saatlik bir duraklatmayı tetikleyecek ve kullanıcıya hesabının kalıcı olarak kapatılabileceği konusunda uyarıda bulunurken, bu davranışla mücadele için destek kaynakları da sunulacak. OpenAI, tüm CSAM vakalarını NCMEC'e bildirdiğini belirtiyor. Buckley, 24 saatlik duraklatmanın, CSAM arama ve CSAM üretiminin önlenmesi ve karşılık verilmesi konusunda neyin işe yaradığına dair uzman önerileri ve uluslararası kanıtlara dayandığını açıklayarak amacın zarar verici davranışı kesintiye uğratmak ve insanları bu davranışı durdurmak için uzman yardıma yönlendirmek olduğunu söyledi.
Yasal baskı artıyor
Teknoloji şirketleri, çocuklara yönelik CSAM ve diğer olası zarar verici içeriklere karşı daha fazla adım atmalarını gerektirebilecek bir dizi politika önerisiyle karşı karşıya. Şimdi yürürlükte olan Take It Down Yasası, sosyal medya platformlarının gerçek veya yapay zekâ ile üretilmiş, rıza dışı müstehcen görüntüleri 48 saat içinde kaldırmasını zorunlu kılıyor. Yeni seçilen Kongre, bu yılın başlarında Grok sohbet botunun kişilerin görüntülerini soyunmuş biçimde ürettiği olayların ardından SpaceXSI gibi yapay zekâ şirketlerine karşı daha güçlü adımlar arayabilir. Ayrıca geçen ay sekiz eyalet, ChatGPT'nin yasa dışı madde kullanımını ve intiharı teşvik ettiği iddialarına atıfta bulunarak, çocuklara yönelik ayrı bir iddia edilen zarar seti gerekçesiyle OpenAI'a dava açtı.
Sıkça Sorulan Sorular
OpenAI'ın duyurduğu sınıflandırıcı ne işe yarıyor?
Araç, çocuk cinsel istismarı soruşturmalarının zarar verici materyali hızla tespit edebilmesi için tasarlandı; yapay zekâ ile üretilen istismar görüntülerini tespit edebiliyor ve bu tür materyale özel bir işaret taşıyan, geniş erişime açık ilk CSAM sınıflandırıcısı olduğu belirtiliyor.
NCMEC CyberTipline'a gelen yapay zekâ kaynaklı ihbarlar ne kadar arttı?
CyberTipline 2025'te 400 bin yapay zekâ kaynaklı ihbar aldı; bu, 2024'te alınan 67 bin ihbara göre üstel bir artış. Araştırmacılar, bu akışın NCMEC'in iş yükünü yönetilemez hale getirebileceği konusunda uyarıda bulunmuştu.
Yeni sınıflandırıcının doğruluk performansı nasıl?
OpenAI'a göre sınıflandırıcı, işaretlenen görüntü sayısında yüzde 48 azalma sağlayarak yanlış pozitifleri ciddi biçimde düşürüyor; buna karşılık işaretlenen görüntülerin istismar materyali içermesi olasılığı iki katına çıkıyor.
ChatGPT'de CSAM üretmeye çalışan kullanıcılara ne oluyor?
Kullanıcılara uzman rehberliğiyle geliştirilen yeni bir uyarı gösteriliyor. İlk ihlal, ChatGPT erişiminde 24 saatlik duraklatmayı tetikliyor; kullanıcıya hesabının kalıcı olarak kapatılabileceği bildiriliyor ve davranışla mücadele için destek kaynakları sunuluyor.
ABD'de yapay zekâ ile üretilen CSAM'ın hukuki durumu ne?
ABD hükümeti, hem yapay zekâ ile üretilen hem de üretilmeyen CSAM'ın yasa dışı olduğunu belirtiyor; 48 eyalet cinsel içerikli yapay zekâ derin sahteciliklerini ele alan yasalara sahip ve Take It Down Yasası, platformların rıza dışı müstehcen görüntüleri 48 saat içinde kaldırmasını gerektiriyor.
Yorumlar (0)
Yorum yapmak için giriş yapmalısınız.