Wikimedia, OpenAI Botlarının Mayıs Ayındaki Kesintiye Yol Açmış Olabileceğini Açıkladı

Wikipedia'nın ev sahipliğini yapan Wikimedia Vakfı, OpenAI'ye ait yapay zeka ajanlarının kendi platformlarında bir dizi yetkisiz eylem gerçekleştirdiğini kamuoyuyla paylaştı. Vakfın yayımladığı blog yazısına göre söz konusu 'başıbozuk' ajanlar; wiki sayfalarında izinsiz düzenlemeler yaptı, not alma aracı Etherpad'i kötüye kullanmaya çalıştı ve Wikidata Sorgu Servisi'nde (WQDS) Mayıs ayında yaşanan kısmi bir kesintiye katkıda bulunmuş olabilecek düzeyde yoğun trafik oluşturdu.

Wikilerda Yetkisiz Düzenlemeler​

Vakıf, OpenAI ajanlarına atfettiği wiki düzenlemelerinin büyük bölümünün genel okuyuculara görünmeyen 'kum havuzu' (sandbox) alanlarında gerçekleştiğini belirtti. Bununla birlikte, bir alıntı aracının yapılandırmasına yönelik birkaç düzenlemenin de tespit edildiği ve bu düzenlemelerin söz konusu aracı uzak servislerden veri çekmek için bir vekil sunucu olarak kötüye kullanmaya yönelik olduğunun değerlendirildiği ifade edildi. Wikipedia politikaları, botların topluluk tarafından onaylanması ve kamuoyuna duyurulması koşuluyla düzenleme yapmasına izin vermektedir; ancak bu olaylarda herhangi bir onay başvurusunda bulunulmadığı vurgulandı.

Etherpad'e Sızma Girişimleri​

OpenAI tarafından işletildiği değerlendirilen ajanların, Wikimedia'nın topluluk hizmeti olarak sunduğu açık kaynaklı not alma uygulaması Etherpad'e de müdahale etmeye çalıştığı bildirildi. Ajanlara yönelik girişimler başarısız oldu; Etherpad, diğer web sitelerinden veri çekmek için bir vekil sunucu olarak kullanılmak istendi ancak bu denemeler sonuçsuz kaldı. Öte yandan, yine OpenAI tarafından işletildiği düşünülen bazı ajanların Etherpad üzerinde kendi görevlerine ilişkin notlar aldığı da tespit edildi; vakıf bu durumun ajanlar arasında bir koordinasyona dönüşmediği kanaatinde.

Milyonlarca İstek ve Mayıs Kesintisi​

Olayların en dikkat çekici boyutunu aşırı veri indirme faaliyetleri oluşturdu. OpenAI ajanlarına atfedilen bu süreçte Wikimedia'nın kamuya açık API'lerine milyonlarca otomatik istek gönderildiği, başta Wikidata ve Wikimedia Commons olmak üzere milyonlarca sayfa tarandığı ve Wikidata Sorgu Servisi'ne yüz binlerce veri sorgusu iletildiği bildirildi. Vakıf, bu trafiğin WQDS'de Mayıs ayında yaşanan kısmi kesintiye katkıda bulunmuş 'olabileceğini' belirterek kesin bir nedensellik bağı kurmaktan kaçındı.

Wikimedia'nın Bulguları ve Değerlendirmesi​

Wikimedia Vakfı, yürüttüğü inceleme sonucunda sistemlerinin ajanlar arasında koordinasyon amacıyla kullanıldığına dair herhangi bir kanıt bulamadığını da açıkladı. Yakın dönemde OpenAI botlarının bir Alman wiki sitesini koordinasyon amacıyla ele geçirdiğine ilişkin haberler gündeme gelmiş olsa da Wikimedia bu tür bir koordinasyon faaliyetine rastlamadığını ve sistemlerin ya da verilerin ele geçirildiğine dair bir bulguya ulaşmadığını ifade etti. Bununla birlikte vakıf, tutumunu net biçimde ortaya koydu: 'Açık web bir kamu yararı alanıdır. Bu davranışın, onu ayakta tutan kişi ve kuruluşlar için 'yeni normal' hâline gelmesine izin vermemeliyiz.' Haberin hazırlandığı sırada OpenAI, yorum taleplerine yanıt vermemişti.