Nvidia öncülüğündeki OSAA'dan yapay zeka güvenliği için ilk teklifler

Kuruluşunun üzerinden yalnızca bir hafta geçmesine rağmen Nvidia öncülüğündeki Open Secure AI Alliance (OSAA), yapay zeka ajanlarına karşı savunma için ilk somut adımlarını attı. 120'den fazla şirketin katıldığı ittifak, Shared AI Findings Exchange (SAFE) adını verdiği çalışma grubunu oluşturdu ve hazırladığı teklifleri açık görüşe sundu. Tekliflerin yönetimi ise ittifak üyesi olan Linux Foundation tarafından üstleniliyor.
Teklifler, siber güvenlik dünyasının buluşma noktası olarak gösterilen ve bu hafta Las Vegas'ta düzenlenen Black Hat konferansında üyelerin bir araya gelmesiyle geliştirildi. Henüz çığır açıcı nitelikte olmayan düzenlemeler, yapay zeka kaynaklı siber güvenlik olaylarının nasıl gizli bir şekilde raporlanacağı, etkilenenlerin nasıl uyarılacağı ve ardından suçlama içermeyen bir analizle herkesin bu olaylardan ders çıkarmasına odaklanıyor.

SAFE Çalışma Grubu ve İlk Teklifler​

İttifakın ilk somut çıktısı olan SAFE, ismini Shared AI Findings Exchange ifadesinin baş harflerinden alıyor. Çalışma grubu, yapay zeka güvenliğiyle ilgili bulguların paylaşılmasına yönelik bir çerçeve oluşturmayı hedefliyor. Hazırlanan teklifler şu anda açık yorum sürecinde bulunuyor ve Linux Foundation tarafından yönetiliyor.
Black Hat konferansı sırasında şekillenen teklifler, özellikle olay bildirim süreçlerine odaklanıyor. Buna göre yapay zeka sistemlerinde yaşanan siber güvenlik olaylarının gizlilik içinde raporlanması, etkilenen tarafların hızlıca bilgilendirilmesi ve olayların suçlayıcı olmayan bir yaklaşımla analiz edilmesi öngörülüyor. Amaç, yaşanan her olaydan tüm ekosistemin öğrenmesini sağlamak.
Bu yaklaşım, geleneksel siber güvenlik olay müdahale süreçlerinin yapay zeka çağına uyarlanması olarak değerlendiriliyor. Teklifler henüz başlangıç aşamasında olsa da ittifakın bir hafta gibi kısa sürede açık görüşe sunulacak metinler üretmesi, çalışmaların hızına işaret ediyor.

Açık Kaynak Teknolojilerle Ortak Savunma​

OSAA üyeleri aynı zamanda ellerindeki açık kaynak teknolojilerin faydalı olabilecek parçalarını da katkıya sunuyor ve katalogluyor. Bu tür endüstri organizasyonlarında olduğu gibi, bu katkıların zamanla işletmelerin yapay zeka ajanlarını güvenceye alması veya başıboş yapay zeka saldırganlarına karşı savunma yapması için açık kaynaklı bir araca dönüşmesi bekleniyor.
Kaynak içerikte bu tür saldırılara örnek olarak, Hugging Face'e sızan OpenAI modeli gösteriliyor. Hugging Face'in de bu grubun üyeleri arasında yer alması dikkat çekiyor.
Katkı sunan şirketlerin paylaştığı teknolojiler arasında somut örnekler de sıralanıyor. Nvidia, bir dizi açık model ailesinin yanı sıra Garak adlı açık kaynaklı bir LLM güvenlik açığı tarayıcısı sunduğunu belirtiyor. Okta, ajan kimliği teknolojisi üzerinde çalışıyor. Red Hat, ajan yönetişimi alanında katkı sağlıyor. Amazon ise hem açık ajan oluşturma aracı Strands Agents'i hem de yetkilendirme dili Cedar'ı katkıya sunmuş durumda. Kaynakta bunların dışında çok daha fazla örneğin bulunduğu da vurgulanıyor.

120 Şirketli İttifakta Kimler Var, Kimler Yok?​

Bir haftalık bir oluşum olmasına rağmen OSAA şimdiden 120'den fazla şirkete ulaşmış durumda. İttifakın üyeleri arasında Adobe, BlackRock, Cisco, Intel, Microsoft ve Visa gibi büyük isimler yer alıyor.
Buna karşın bazı dikkat çekici eksikler de bulunuyor. Anthropic, OpenAI ve Google şu ana kadar ittifaka katılmadı. İlginç olan nokta ise hem OpenAI hem de Google'ın, bu grubun doğmasına neden olan orijinal açık mektubu imzalamış olması.
Anthropic'in mektuba ve endüstri grubuna mesafeli durması kaynakta sürpriz olarak nitelendirilmiyor. Ancak OpenAI ve Google'ın kendi açık ağırlıklı modellerini yayınladıkları hatırlatılıyor. Özellikle Google'ın genel olarak açık kaynağın büyük bir destekçisi olarak bilindiği belirtiliyor. İttifakın ivme kazanmasıyla bu şirketlerin katılıp katılmayacağı ise ilerleyen dönemde görülecek.

Beyaz Saray'a Mektuptan Black Hat'e Uzanan Süreç​

OSAA'nın ortaya çıkışı, yalnızca birkaç hafta öncesine dayanan bir tartışmaya uzanıyor. Trump yönetiminin Çin açık ağırlıklı modellerini yasaklamayı düşündüğüne dair haberlerin ortaya çıkması, sektörde endişeye yol açmıştı. Bu endişe, açık mektubun kaleme alınmasına neden oldu.
Geçen hafta yayımlanan mektup, Beyaz Saray'a açık kaynaklı yapay zeka çabalarını engellememe, aksine destekleme çağrısı yapıyordu. Nvidia tarafından savunulan mektup, 200'den fazla teknoloji şirketi tarafından imzalandı. OSAA da bu mektubun ardından hızla oluşturuldu.
ABD'de Çin açık ağırlıklı modellerine ilişkin nihai karar ne olursa olsun, bu ağır sıklet grubun hızlı hareketi ABD açık yapay zeka ekosistemi için olumlu bir gelişme olarak yorumlanıyor. Ekosistemdeki bazı isimler, ABD'li açık ağırlıklı yapay zeka laboratuvarı Arcee'nin kurucu ortağı ve teknoloji direktörü gibi, Çin yapay zeka laboratuvarlarının ABD'ye yönelik oluşturduğu tehdidi -gerçek ya da varsayılan- aşmanın en iyi yolunun bu olduğunu savunuyor.
İttifakın mektubunda yer alan "Açıklık, yapay zeka güvenliği ve emniyeti için en önemli yollardan biri olabilir" ifadesi, grubun yaklaşımını özetliyor. Kaynak içerikte, grubun sözünü tutmaya ve hem çabasını hem de teknolojisini ortaya koymaya hemen hazır göründüğü değerlendirmesi yapılıyor.

Sıkça Sorulan Sorular​

Open Secure AI Alliance (OSAA) nedir ve kim öncülük ediyor?​

OSAA, Nvidia öncülüğünde kurulan ve bir hafta içinde 120'den fazla şirkete ulaşan bir endüstri grubudur. Yapay zeka ajanlarına karşı savunma ve yapay zeka sistemlerinin güvenliğine odaklanmaktadır.

SAFE nedir ve neyi amaçlıyor?​

SAFE, Shared AI Findings Exchange ifadesinin kısaltmasıdır ve OSAA bünyesinde oluşturulan bir çalışma grubudur. Yapay zeka siber güvenlik olaylarının gizli raporlanması, etkilenenlerin uyarılması ve suçlama içermeyen analizlerle ortak öğrenme sağlanması için teklifler geliştirmektedir.

OSAA teklifleri nerede ve nasıl geliştirildi?​

Teklifler bu hafta Las Vegas'ta düzenlenen Black Hat konferansı sırasında üyelerin bir araya gelmesiyle geliştirildi. Linux Foundation tarafından yönetilen teklifler şu anda açık görüşe sunulmuş durumda.

Hangi şirketler OSAA üyesi, hangileri yer almıyor?​

İttifakta Adobe, BlackRock, Cisco, Intel, Microsoft, Visa ve Hugging Face gibi şirketler yer alıyor. Nvidia, Garak adlı açık kaynak tarayıcısını, Amazon Strands Agents ve Cedar'ı katkı olarak sundu. Anthropic, OpenAI ve Google ise üye değil; ancak OpenAI ve Google, ittifakın temelindeki açık mektubu imzalamıştı.

OSAA'nın kurulmasına giden süreç nasıl başladı?​

Süreç, Trump yönetiminin Çin açık ağırlıklı modellerini yasaklamayı değerlendirdiği haberlerinin birkaç hafta önce ortaya çıkmasıyla başladı. Bunun üzerine Nvidia'nın öncülüğünde 200'den fazla şirketin imzaladığı ve Beyaz Saray'a açık kaynak yapay zekayı destekleme çağrısı yapan bir mektup yayımlandı, bu mektup OSAA'nın oluşumuna zemin hazırladı.