Safeworld, Yapay Zeka Destekli Robotların İnsan Güvenliğini Test Etmek İçin 12 Milyon Dolar Topladı

Robotik sektöründe üretici yapay zeka (generative AI) modellerinin kontrolü devraldığı bir dönemde, bu sistemlerin öngörülemeyen davranışları yeni bir güvenlik sorununu beraberinde getiriyor. Carnegie Mellon Üniversitesi'nde Safe AI laboratuvarını yöneten Dr. Ding Zhao, bu sorunu çözmek amacıyla deneyimli girişim yöneticisi Kyle Wong ve makine öğrenmesi mühendisi Simo Rachidi ile birlikte Safeworld adlı şirketi kurdu. Şirket, bugün itibarıyla gizlilik perdesini kaldırarak 12 milyon doların üzerinde bir tohum yatırımı turunu kapattığını açıkladı.
Yatırım turuna Shine Capital ve a16z Speedrun liderlik ederken Box Group, Carnegie Mellon Üniversitesi Vakfı, Innovation Endeavors ve SV Angel da destek veren yatırımcılar arasında yer aldı. a16z Speedrun ortağı Jonathan Lai konuya ilişkin şunları söyledi: "Endüstri güvenlik standartlarını oluşturmanın tam zamanı; robotlar henüz tasarlanıp konuşlandırılıyor. Evlerde çocuklara çarpan ve güvenlik olaylarına yol açan robotlarla karşılaştığınızda çok geç olur."

Simülasyon Tabanlı Güvenlik Değerlendirmesi​

Safeworld'ün temel yaklaşımı, robot kontrol sistemlerini gerçekçi insan modelleriyle doldurulmuş simülasyon ortamlarında test etmek üzerine kurulu. Şirket, değerlendireceği robotu Genesis veya MuJoCo gibi bir modelde dijital olarak yeniden oluşturuyor; ardından robotun gerçek yazılımını bu simülasyona entegre ederek insan modellerinin robotla karşılaştığı binlerce senaryo üretiyor. Bu yaklaşım, Tesla veya Wayve gibi şirketlerin araçlarını çeşitli sürpriz trafik durumlarına karşı test etme biçimiyle belirli benzerlikler taşıyor. Ancak Dr. Zhao'ya göre robotlar, yapılandırılmamış ortamlarda çalışmaları ve her tesisin farklı güvenlik standartlarına sahip olması nedeniyle otomotiv sektöründen çok daha karmaşık bir tablo sunuyor.
Wong, sık karşılaşılan pratik senaryolara örnek verdi: "En yaygın durumlardan biri, belirli bir fabrikadaki kör köşelerdir. Bu köşede robotun bir insanla çarpışmaması için gereken hız ya da durma mesafesi nedir? Bir insan koli taşıyorsa robot onu tespit edebilir mi?" Simülasyonun bir diğer önemli test alanı ise insanların tökezleyip düşmesi gibi öngörülemeyen hareketler. Wong, "Bunu sürekli olarak simülasyonda test ediyoruz; yoksa birinin her seferinde gidip robot için düşmesi gerekir ki bu pek uygulanabilir bir şey değil" diye ekledi.

Üçüncü Taraf Doğrulamasının Önemi​

Safeworld'ün kurucuları, robot üreticilerinin kendi iç test araçlarına sahip olduğunun farkında. Bununla birlikte, robot yapımcılarının güvenlik vakalarına ilişkin bilgileri rakipleriyle paylaşabilmek için bağımsız bir üçüncü tarafı tercih edeceğine inanıyorlar. Dr. Zhao bu noktayı şöyle özetledi: "Pek çok kişi bazı uç vakaların ne kadar zor olacağını hafife alıyor. Bizi endişelendiren, demo ortamındaki robot değil; daha önce hiç robot kullanmamış insanlarla birlikte büyük ölçekte konuşlandırılan robot."
Güvenlik değerlendirmesindeki temel zorluklardan biri de insanların son derece çeşitli görünüm ve duruşlara sahip olması. Safeworld'ün iş ortaklarından Gritt Robotics'in CTO'su Vishal Dugar bu konuyu açıkladı: "İnsan vücudu pek çok farklı konfigürasyonda olabilir; diz çöküyor, ayakta duruyor, tökezliyor, eğiliyor, koşuyor olabilir. Bunların yanı sıra kıyafet, beden, şekil, boy, ten rengi gibi görünüm farklılıklarına da yanıt vermek gerekiyor." Dugar, çoğu sistemde güvenliğin matematiksel denklemlerle kanıtlanamadığını ve bunun zorunlu olarak deneysel yöntemlerle yapılması gerektiğini vurguladı.

Gritt Robotics Ortaklığı ve Saha Uygulamaları​

Gritt Robotics, şu anda endüstriyel ölçekli güneş enerjisi çiftliklerinde fotovoltaik panel kurulumunda işçilere yardımcı olan robotların yapay zeka altyapısını geliştiriyor ve daha karmaşık inşaat görevlerini üstlenmeyi hedefliyor. Şirket, güvenlik simülasyonlarını geliştirme sürecinde Safeworld ile ortaklık kurdu. Dugar, insan işçilerle yan yana çalışan bir robotik kolun onlara çarpmama gerekliliğinin her zaman birinci öncelik olduğunu belirtti.
Safeworld, ürün modelini henüz netleştirme aşamasında; dış kullanıcılara açık bir platform mu yoksa hizmet odaklı bir model mi benimseyeceğine karar vermeye çalışıyor. Dr. Zhao şirketin uzun vadeli konumuna ilişkin şu değerlendirmeyi yaptı: "Bu alanda muhtemelen ilk kârlı şirket biz olacağız. Çünkü kim konuşlandırmak isterse bu sorunu çözmek için bize başvurmak zorunda."

Sıkça Sorulan Sorular​

Safeworld ne iş yapıyor?​

Safeworld, üretici yapay zeka tabanlı robot kontrol sistemlerini dijital simülasyon ortamlarında test eden ve değerlendiren bir şirket. Gerçekçi insan modelleri içeren simülasyonlarda binlerce senaryo çalıştırarak robotların insanlarla etkileşimde ne ölçüde güvenli davrandığını analiz ediyor.

Safeworld'ün kurucuları kimler?​

Şirket, Carnegie Mellon Üniversitesi'nde Safe AI laboratuvarını yöneten Dr. Ding Zhao, deneyimli girişim yöneticisi Kyle Wong ve makine öğrenmesi mühendisi Simo Rachidi tarafından kuruldu.

Safeworld ne kadar yatırım aldı ve yatırımcıları kimler?​

Safeworld, 12 milyon doların üzerinde bir tohum yatırımı turu kapattı. Yatırım turuna Shine Capital ve a16z Speedrun liderlik etti; Box Group, Carnegie Mellon Üniversitesi Vakfı, Innovation Endeavors ve SV Angel da yatırımcılar arasında yer aldı.

Safeworld'ün simülasyon yaklaşımı geleneksel test yöntemlerinden neden farklı?​

Gritt Robotics CTO'su Vishal Dugar'ın da belirttiği üzere, üretici yapay zeka tabanlı sistemlerin güvenliği matematiksel denklemlerle formel olarak kanıtlanamıyor; test zorunlu olarak deneysel biçimde yapılması gerekiyor. Safeworld ise bu ihtiyacı, robotun gerçek yazılımını simülasyona entegre ederek binlerce farklı insan davranışı senaryosu üretmek yoluyla karşılıyor.

Safeworld'ün iş modeli nasıl şekillenecek?​

Şirket, ürün modelini henüz netleştirme aşamasında; dış kullanıcılara açık bir platform mu yoksa hizmet odaklı bir yaklaşım mı benimseyeceğine karar vermeye çalışıyor. Kurucular, robot konuşlandırmak isteyen her aktörün güvenlik doğrulaması için kendilerine başvurması gerektiğini öngörüyor.