OpenAI Güvenlik Çalışanı İstifa Edip Kültür Bozuk Dedi

OpenAI'de her büyük model sürümüne eşlik eden güvenlik raporlarını yazan David Robinson, bu hafta görevinden istifa ederek şirketin ve genel olarak sektörün kültürüne yönelik uyarılarda bulundu. Robinson, görüşlerini The Atlantic'te yayımlanan bir yazıda dile getirdi.
Robinson, sektördeki kültürün temelden bozuk olduğunu savunuyor. Bu sorunun, model eğitim süreçlerine birkaç yeni kural veya düzenleme eklemekle çözülemeyecek kadar derin olduğunu belirtiyor. Silikon Vadisi'nin "aşırı özgüven" ve "sürekli sprint" anlayışıyla hareket ettiğini, daha büyük ve daha iyi modelleri "engelsiz iyimserlikle" inşa ederken potansiyel sorunları görmezden geldiğini veya küçümsediğini ifade ediyor.
Robinson'a göre artık yapay zeka şirketlerinin alçakgönüllülük geliştirmesi ve teknoloji endüstrisinin içe kapalı, hızlı hareket edip bir şeyleri kırma anlayışının dışına bakması gerekiyor. Kaynak metinde, herkesin birdenbire inşa etmeye yardım ettiği şeyin ne kadar tehlikeli olduğu konusunda uyarıda bulunmaya başlamasına yönelik hissedilebilecek şüpheciliğe de değiniliyor ve bu kişilerin bu karmaşayı yaratmış olmalarının uyarılarının dikkate alınmaması gerektiği anlamına gelmediği vurgulanıyor.

David Robinson OpenAI'de Ne Yapıyordu?​

Kaynak içeriğe göre David Robinson, OpenAI'de her büyük model sürümüne eşlik eden güvenlik raporlarını yazıyordu. Bu görev, şirketin en önemli model yayınlarının güvenlik değerlendirmelerinin belgelenmesini kapsıyordu. Robinson bu hafta istifa etti ve istifasının ardından The Atlantic'te bir yazı kaleme alarak görüşlerini kamuoyuyla paylaştı.

Kültür Neden Bozuk Olarak Nitelendiriliyor?​

Robinson, sektördeki kültürün temelde bozuk olduğunu söylüyor. Sorunun yalnızca model eğitiminin nasıl ele alınacağına dair birkaç yeni kural veya düzenleme getirmekten daha derin olduğunu belirtiyor. Silikon Vadisi'nin "aşırı özgüven" ve "sürekli sprintler" ile çalıştığını, daha büyük ve daha iyi modelleri "engelsiz iyimserlikle" inşa ettiğini ve bu yaklaşımın potansiyel sorunları göz ardı ettiğini veya hafife aldığını dile getiriyor.
Robinson, bu nedenle yapay zeka şirketlerinin bir alçakgönüllülük duygusu geliştirmesi gerektiğini ve teknoloji endüstrisinin yalıtılmış dünyasının dışına bakması gerektiğini savunuyor.

Nükleer Seviyede Önlem Çağrısı Ne Anlama Geliyor?​

Robinson, yapay zeka için nükleer seviyede güvenlik önlemlerine ihtiyaç olduğunu söylüyor. Kaynak metindeki ifadesine göre, günümüz riskleri göz önüne alındığında önde gelen laboratuvarların nükleer santraller veya yoğun havalimanları gibi çalışması gerekiyor. Bu benzetme, yedeklilik katmanları ve dikkatli, zaman alan planlamalarla, ara sıra ve kaçınılmaz insan hatasının felakete giden bir kapı aralamaması gerektiğini anlatıyor.

İstifa Eden Diğer Araştırmacılar Kimler?​

Robinson, önde gelen yapay zeka şirketlerindeki görevlerinden ayrılan ve uyarılarda bulunan araştırmacılar ve güvenlik çalışanları arasında son isim olarak anılıyor. Kaynak içeriğe göre bu süreci Anthropic'ten istifa eden ve ardından yapay zekanın "on yılın sonuna kadar hepimizi öldürebileceğini" söyleyen Jacob Coxon başlatmış gibi görünüyor.
Onu Google DeepMind'den Robert O'Callahan, Bilal Chughtai ve Josh Engels ile Anthropic'ten Joe Benton takip etti. Kaynak, bu isimlerin de benzer şekilde görevlerinden ayrılarak kamuoyuna açıklamalar yapan kişiler arasında yer aldığını aktarıyor.

Sıkça Sorulan Sorular​

David Robinson OpenAI'de ne görev yapıyordu?​

Kaynak içeriğe göre David Robinson, OpenAI'de her büyük model sürümüne eşlik eden güvenlik raporlarını yazıyordu.

Robinson istifasının ardından uyarılarını nerede dile getirdi?​

Robinson, bu hafta istifa ettikten sonra görüşlerini The Atlantic'te yayımlanan bir yazıda dile getirdi.

Robinson sektör kültürünü nasıl tanımladı?​

Robinson, sektör kültürünün temelde bozuk olduğunu, Silikon Vadisi'nin aşırı özgüven ve sürekli sprintlerle engelsiz iyimserlik içinde daha büyük modeller inşa ettiğini ve potansiyel sorunları görmezden geldiğini veya küçümsediğini söyledi.

Robinson yapay zeka için ne tür önlemler önerdi?​

Robinson, yapay zeka için nükleer seviyede güvenlik önlemleri gerektiğini, önde gelen laboratuvarların nükleer santraller veya yoğun havalimanları gibi yedeklilik katmanları ve dikkatli, zaman alan planlamayla çalışması gerektiğini söyledi.

Robinson dışında hangi isimler görevlerinden ayrıldı?​

Kaynak içeriğe göre Jacob Coxon Anthropic'ten, Robert O'Callahan, Bilal Chughtai ve Josh Engels Google DeepMind'den, Joe Benton ise Anthropic'ten ayrılan isimler arasında yer alıyor.