Lola Vision Systems, Yapay Zeka Modellerini Çiplerde Çalıştırmayı Kolaylaştırıyor

Washington D.C. merkezli yapay zeka altyapı girişimi Lola Vision Systems, yapay zeka modellerini cihazlardaki çiplerde çalıştırmayı kolaylaştırmayı hedefliyor. 2024 yılında Tayo Adesanya tarafından kurulan şirket, modelleri belirli bir çipin çalıştırabileceği talimatlara çeviren ve kurucusunun “derleyici araç zinciri” olarak tanımladığı yazılım katmanını yeniden inşa ettiğini ve kendi yarı iletken çiplerini geliştirdiğini açıkladı. Girişim, bu yılki TechCrunch Battlefield 200 listesine seçilen 200 girişim arasında yer alıyor.
Hikayenin merkezinde, manuel kurulum sürecindeki darboğazı otomatikleştirmeyi amaçlayan bir yazılım bulunuyor. Şirkete göre, bir yapay zeka modelini yeni bir donanımda manuel olarak kurmak yalnızca testlere başlamak için bile yaklaşık 200 saat sürebiliyor. Lola Vision Systems, bu süreci hızlandırmanın yanı sıra havacılık ve diğer kritik görev üstlenen şirketler için daha doğru modellerin, daha düşük güç tüketimiyle kendi verileri üzerinde çalıştırılmasına olanak sağlamayı amaçlıyor.

12 Yıllık Çip Deneyiminden Doğan Girişim​

Hikaye yaklaşık 12 yıl öncesine uzanıyor. Tayo Adesanya, kariyerine mikroçipler ve yapay zeka işlemcileriyle çalışarak başladı. Bu dönemde ağırlıklı olarak büyük üreticilerin donanımlarında hangi çipleri kullanacaklarına karar vermelerine yardımcı oldu. Adesanya, TechCrunch'a verdiği demeçte, bu yılların kendisine yapay zeka bilişim pazarında talebin nereye gittiğine dair erken bir içgörü kazandırdığını söyledi.
Adesanya, “Lola Vision Systems'ı kurmak, dünyanın nereye gittiğine ve gördüklerime dair bir bahisti” dedi. 2024'te kurduğu Lola Vision Systems'ı, cihazlarda yapay zeka modellerini çalıştırmak için yazılım ve çipler üreten bir yapay zeka altyapı şirketi olarak tanımladı. Şirketin temel ürünü, yapay zeka modellerini belirli bir çipin çalıştırabileceği talimatlara çeviren yazılım olarak öne çıkıyor.

Derleyici Araç Zinciri ve 200 Saatlik Darboğaz​

Adesanya'nın “derleyici araç zinciri” olarak adlandırdığı bu yazılım, şirkete göre büyük bir darboğazı temsil ediyor. Manuel olarak bir yapay zeka modelini yeni bir donanıma kurmak, testlere başlamak için bile yaklaşık 200 saat sürebiliyor. Lola Vision, bu yazılım katmanını yeniden inşa ettiğini ve sürecin daha fazlasını otomatikleştirme hedefiyle kendi yarı iletken çiplerini de geliştirdiğini belirtiyor.
Şirketin aktardığı modele göre bir müşteri, ister özel olarak geliştirilmiş ister açık kaynaklı olsun, kendi kodunu ve kullanmak istediği yapay zeka modelini sağlıyor. Yazılım ise her ikisini de müşterinin çipinin yürütebileceği talimatlara çeviriyor. Adesanya, “Hız bunun sadece bir parçası” dedi ve daha hızlı kurulumun havacılık ve “diğer kritik görev üstlenen şirketlere” kendi verileri üzerinde “daha doğru modelleri, daha düşük güçle” çalıştırma zamanı kazandırdığını anlattı.
Adesanya, “Bu müşteriler için doğruluk ve güvenilirlik sahip olunması güzel şeyler değil. Bir ürünün düzenleyici incelemeyi geçip geçmeyeceğini ve sahada güvenilir şekilde çalışıp çalışmayacağını belirliyorlar” ifadesini kullandı.

Nvidia Teknolojisine Alternatif ve Edge Bilişimde Yaşanan Sorunlar​

Washington D.C. merkezli Lola Vision, cihazlarda yapay zeka çalıştırmak için NVIDIA teknolojisine alternatif sunmaya çalışan birkaç girişimden biri olarak konumlanıyor. Adesanya'nın aktardığına göre şu anda birçok şirket, cihazlarda yapay zeka çalıştırmak için kompakt bilgi işlem modülleri olan Nvidia Jetson ile veya açık kaynaklı yapay zeka modelleriyle başlıyor.
Adesanya, bunların “genellikle kutudan çıktığı gibi bozulduğunu veya kötü çalıştığını, bu nedenle ekiplerin onları çalıştırmak için günler veya haftalar harcadığını, ardından modeller kullanılabilir hale gelene kadar hata ayıklamak için daha da fazla hafta harcadığını” iddia etti. “O zaman bile” diye devam etti, “güç tüketimi genellikle edge bilişim bütçelerini aşıyor veya kart, ürünün başarılı bir şekilde çalışması için gerçekten ihtiyaç duyduğu orta ve büyük modeller için yeterli bilgi işlem sağlayamıyor. Bu da tanıma modellerinin hedeflerin gerisinde kalmasına veya nesneleri yanlış okumasına yol açıyor.”
Kaynakta edge bilişimin, yapay zekayı uzak bir veri merkezi yerine doğrudan kamera veya drone gibi bir cihaz üzerinde çalıştırmak anlamına geldiği, tanıma modellerinin ise nesneleri tanımlayan yapay zeka sistemleri olduğu bilgisi de paylaşıldı.

Müşteri İlgisi, SCALE İş Birliği ve Lisanslama Modeli​

Şirketin açıklamasına göre, bir düzine kurumsal müşteri, çipler hazır olduğunda Lola Vision'ın çiplerini satın almakla ilgilendiklerini belirten niyet mektupları imzaladı ve şirketin halihazırda bir imzalı müşterisi bulunuyor. Şirket ayrıca daha fazla yarı iletken laboratuvarıyla çalışmak için mikroelektronik iş gücü geliştirme programı olan SCALE ile ortaklık kurdu.
Daha erken gelir elde etmek için stratejide değişikliğe giden şirket, kendi çiplerini beklemek yerine mevcut donanım üzerinde yazılımını lisanslayacak. Adesanya, “Daha erken gelir elde etmek için artık yazılımımızı mevcut donanım üzerinde lisanslayacağız” dedi. Başka bir deyişle şirket, müşterilerin mevcut çipler üzerinde yazılımını kullanmak için ödeme yapmasına izin verecek. Adesanya ayrıca şirketin bugüne kadar toplamda 1 milyon doların biraz üzerinde fon topladığını ekledi.

TechCrunch Battlefield 200 ve Disrupt Sahnesi​

Lola Vision, bu yılki TechCrunch Battlefield 200 için seçildi. Battlefield 200, program için seçilen 200 girişimden oluşan bir grup olarak tanımlanıyor. Adesanya, “TechCrunch, Purdue'da öğrenciyken favorimdi” dedi. Yaklaşık bir yıl boyunca ürünü geliştirdikten ve ilk müşterisini imzaladıktan sonra, Battlefield'a başvurmanın ve şirketi daha geniş bir kitleyle buluşturmanın zamanının geldiğini hissettiğini söyledi.
Etkinlikle ilgili en heyecan duyduğu konuya ilişkin ise “anlamlı bağlantılar kurmak ve alanımızda ve çevresinde olup bitenler hakkında mümkün olduğunca çok şey öğrenmek” dedi ve ekledi: “Açık konuşmak gerekirse, yatırımcıların çek yazmasını dört gözle bekliyorum.” TechCrunch Disrupt etkinliğinin 13-15 Ekim tarihlerinde San Francisco'da düzenleneceği ve Lola Vision Systems ile birlikte onlarca girişimin ve yatırımcının etkinlikte yer alacağı bilgisi paylaşıldı.

Sıkça Sorulan Sorular​

Lola Vision Systems ne zaman ve kim tarafından kuruldu?​

Kaynağa göre Lola Vision Systems, 2024 yılında Tayo Adesanya tarafından kuruldu. Adesanya, yaklaşık 12 yıl boyunca mikroçipler ve yapay zeka işlemcileriyle çalışmış ve büyük üreticilere donanımlarında hangi çipleri kullanacakları konusunda yardımcı olmuştu.

Şirketin derleyici araç zinciri ne işe yarıyor?​

Şirketin temel ürünü, yapay zeka modellerini belirli bir çipin çalıştırabileceği talimatlara çeviren ve kurucunun “derleyici araç zinciri” olarak adlandırdığı yazılım. Müşteri kodunu ve ister özel ister açık kaynaklı olsun kullanmak istediği modeli sağlıyor, yazılım ise her ikisini de müşterinin çipinin yürütebileceği talimatlara dönüştürüyor.

200 saat iddiası ne anlama geliyor?​

Kaynakta Adesanya'nın aktardığına göre, bir yapay zeka modelini yeni bir donanıma manuel olarak kurmak yalnızca testlere başlamak için bile yaklaşık 200 saat sürebiliyor. Lola Vision, bu darboğazı yeniden inşa ettiği yazılım katmanı ve geliştirmekte olduğu kendi çipleriyle otomatikleştirmeyi hedefliyor.

Nvidia Jetson ile ilgili hangi sorunlar aktarılıyor?​

Adesanya'nın iddiasına göre birçok şirket Nvidia Jetson veya açık kaynaklı modellerle başlıyor ancak bunlar genellikle kutudan çıktığı gibi bozuluyor veya kötü çalışıyor. Ekipler günler veya haftalar boyunca çalıştırmaya uğraşıyor, ardından kullanılabilir hale gelene kadar haftalarca hata ayıklıyor. Ayrıca güç tüketiminin edge bilişim bütçelerini aştığı veya kartın orta-büyük modeller için yeterli bilgi işlem sağlayamadığı, bunun da tanıma modellerinin gecikmesine veya nesneleri yanlış okumasına yol açtığı belirtiliyor.

Şirketin müşteri ve finansman durumu nedir?​

Şirketin açıklamasına göre bir düzine kurumsal müşteri çipler hazır olduğunda satın alma ilgisini gösteren niyet mektubu imzaladı ve bir imzalı müşterisi bulunuyor. SCALE adlı mikroelektronik iş gücü geliştirme programıyla ortaklık kuruldu. Daha erken gelir için yazılım mevcut donanım üzerinde lisanslanacak ve bugüne kadar toplanan toplam fon 1 milyon doların biraz üzerinde.