Common Sense Media, ChatGPT for Teens'i 'kabul edilemez risk' ilan etti

Uygulama ve dijital içerik incelemeleriyle tanınan kâr amacı gütmeyen kuruluş Common Sense Media, OpenAI'ın Ağustos ayında kullanıma sunduğu ChatGPT for Teens özelliğini "kabul edilemez risk" olarak nitelendirdi. Kuruluş, söz konusu özelliğin genç kullanıcılar için tasarlanmış koruma mekanizmalarının şirkerin kendi vaatlerinin gerisinde kaldığını ileri sürdü.

Değerlendirmede Öne Çıkan Bulgular​

Common Sense Media'nın yürüttüğü değerlendirme, ChatGPT for Teens'e ilişkin birkaç kritik sorunu gün yüzüne çıkardı. Kuruluşun açıklamasına göre platform; gerektiği durumlarda ebeveynlere uyarı göndermiyor, kriz anlarında yeterli yönlendirme sağlamıyor ve öğrencilerin ödevlerini yapmaya devam ediyor.
Common Sense Media bünyesindeki Gençlik Yapay Zeka Güvenliği Enstitüsü'nün yönetici direktörü Tom Siegel konuya ilişkin şu değerlendirmede bulundu: "ChatGPT for Teens, ebeveynlere sıklıkla çalışmayan güvenlik önlemleri ve uyarı sistemleri konusunda yanlış bir güven duygusu yaşatabilir. Bir genç, ebeveyni tek bir uyarı almadan saatlerce kendine zarar verme konusunda konuşabilir. OpenAI bunu düzeltip bağımsız testlerle kanıtlayana kadar ChatGPT yalnızca yetişkinlere yönelik olmalıdır."

OpenAI'ın İtirazı: Test Metodolojisi Tartışmaya Açıldı​

OpenAI, değerlendirmeye sert bir yanıt verdi. Şirket sözcüsü Eric Porterfield yaptığı açıklamada, Common Sense Media'nın test sürecinin gençlere yönelik güvenlik önlemlerinin gerçekte nasıl işlediğini doğru biçimde yansıtmadığını savundu. Porterfield'ın açıklamasında şu ifadelere yer verildi: "Gençlerin güvenliğine derin bir bağlılık duyuyoruz ve ebeveynlere anlamlı araçlar sunmayı hedefliyoruz. Ancak Common Sense Media'nın testlerinin büyük bölümünün, ebeveyn denetim özelliklerinin aktivasyonu tamamlanmadan önce başlamış ve sonuçlanmış olabileceğini düşünüyoruz. Bu durumda testler, ebeveyn güvenlik bildirimlerinin tasarlandığı şekilde çalışıp çalışmadığını ortaya koyamaz."
OpenAI'a göre yeni bağlanan hesaplarda sistemin tam olarak devreye girmesi birkaç saat sürebilmektedir; bu nedenle söz konusu pencere içinde gerçekleştirilen testlerin güvenilir sonuç vermediği öne sürüldü.

Common Sense Media Bulgularının Arkasında Durdu​

Common Sense Media, OpenAI'ın metodoloji eleştirilerine de yanıt verdi. Tom Siegel, testlere başlamadan önce OpenAI ile iletişime geçtiklerini ve yeme bozukluğu bildirim sistemi ile çalışma modu gibi özelliklerin tam olarak yayına alındığını doğruladıklarını belirtti.
Siegel, ebeveyn bildirimleri konusundaki OpenAI açıklamasına şöyle yanıt verdi: "Yeni bağlanan hesaplarda sistemin devreye girmesinin birkaç saat sürebildiğini OpenAI, testlerimizin ardından bize bildirdi. Test hesaplarımızın bir kısmı bu zaman dilimi içinde bağlanmış olsa da diğerleri çok daha uzun süre bağlı kalmış ve yine de hiçbir bildirim almamıştır. Bu yeni bilgi, ebeveyn uyarılarının kriz durumlarında güvenilmez olduğu sonucumuzu değiştirmiyor." Kuruluş ayrıca test sonuçlarını yayınlamadan önce OpenAI ile paylaştığını ve şirkete ürününü geliştirme fırsatı tanıdığını da vurguladı.

Tartışmanın Odak Noktası: Gençler için Yapay Zeka Güvenliği​

ChatGPT for Teens, Ağustos ayında öğrencilerin öğrenmesine destek olmak amacıyla tasarlanmış ve gençlere özel kısıtlamalar içerdiği belirtilerek piyasaya sürülmüştü. Ancak Common Sense Media'nın değerlendirmesi, bu kısıtlamaların özellikle kendine zarar verme gibi hassas konularda yeterince işlev görmediğini ortaya koydu. Kuruluş, bağımsız değerlendirmelerin gençlerin güvenliğini sağlamak için zorunlu olduğunu belirterek OpenAI'ı metodoloji tartışması yerine bulguların özüyle yüzleşmeye davet etti.

Sıkça Sorulan Sorular​

Common Sense Media, ChatGPT for Teens hakkında hangi temel sorunları tespit etti?​

Common Sense Media, ChatGPT for Teens'in gerektiği durumlarda ebeveynlere uyarı göndermediğini, kriz anlarında doğru yönlendirme sunmadığını ve öğrencilerin ödevlerini yapmayı sürdürdüğünü belirledi.

OpenAI, Common Sense Media'nın değerlendirmesine neden itiraz ediyor?​

OpenAI, testlerin büyük bölümünün ebeveyn denetim özelliklerinin aktivasyonu tamamlanmadan önce gerçekleştirilmiş olabileceğini ileri sürdü. Şirkete göre yeni bağlanan hesaplarda sistemin devreye girmesi birkaç saat sürebilmekte olup bu durum test sonuçlarını geçersiz kılıyor.

Common Sense Media, OpenAI'ın metodoloji eleştirilerine nasıl yanıt verdi?​

Kuruluş, testlere başlamadan önce ilgili özelliklerin tam olarak yayına alındığını OpenAI ile doğruladığını açıkladı. Bazı test hesaplarının söz konusu aktivasyon penceresine denk geldiğini kabul etmekle birlikte, daha uzun süredir bağlı olan hesapların da bildirim almadığını ve bu nedenle sonuçlarının değişmediğini vurguladı.

Tom Siegel'ın gençlerin güvenliğine ilişkin uyarısı neydi?​

Common Sense Media Gençlik Yapay Zeka Güvenliği Enstitüsü Yönetici Direktörü Tom Siegel, bir gencin saatlerce kendine zarar verme konusunu konuşabileceğini ve bu süre zarfında ebeveynin hiçbir uyarı almayabileceğini belirtti. OpenAI bu sorunu düzeltip bağımsız testlerle kanıtlayana dek ChatGPT'nin yalnızca yetişkinlere yönelik olması gerektiğini savundu.

ChatGPT for Teens ne zaman ve hangi amaçla tanıtıldı?​

ChatGPT for Teens, Ağustos ayında gençlere yönelik koruma mekanizmaları içeren ve öğrencilerin öğrenmesini desteklemek amacıyla tasarlanmış bir özellik olarak kullanıma sunuldu.