Generatif Yapay Zeka Destekli Robotlar İçin Güvenlik Krizi: Safeworld 12 Milyon Dolar Yatırımla Gizlilikten Çıktı

Robotik teknolojisinde kontrolün üretken yapay zeka modellerine devredilmesi büyük bir trend haline gelirken, bu mimarinin geleneksel algoritmalar gibi öngörülebilir olmaması ciddi bir güvenlik sorununu beraberinde getiriyor. Carnegie Mellon Üniversitesi Safe AI Laboratuvarı Direktörü Dr. Ding Zhao, deneyimli girişim yöneticisi Kyle Wong ve makine öğrenimi mühendisi Simo Rachidi tarafından kurulan Safeworld, tam olarak bu riskleri yönetmek amacıyla gizlilikten çıktı. Şirket, Shine Capital ve a16z Speedrun ortaklığında yürütülen tohum yatırım turunda 12 milyon doların üzerinde fon topladı.

Olasılıksal Yapay Zekanın Güvenlik Sınavı

Klasik algoritmaların aksine olasılıksal temelde çalışan üretken yapay zeka sistemlerinin güvenliğini kanıtlamak endüstri için yeni ve karmaşık bir meydan okuma sunuyor. Dr. Ding Zhao, robotları sahaya sürmek için hem gelişmiş olasılıksal değerlendirmelerin yapılması hem de kullanıcı güveninin tesis edilmesi gerektiğini belirtiyor.

Yatırım turuna liderlik eden fonlardan a16z Speedrun’ın ortağı Jonathan Lai, sektörün erken aşamada standart belirlemesi gerektiğine dikkat çekerek, endüstri güvenlik standardı inşa etme zamanının, robotlar tasarlanıp sahaya sürülürken şimdi olduğunu, evlerde çocuklarla çarpışan robotlar güvenlik olaylarına yol açtığında ise çok geç kalınmış olacağını vurguluyor.

Simülasyon Ortamında İnsan-Robot Etkileşimi

Safeworld’ün geliştirdiği uzmanlık alanı, robotik kontrol sistemlerinin gerçekçi insan modelleriyle doldurulmuş simülasyonlarda test edilmesine dayanıyor. Tıpkı otonom sürüş şirketlerinin araçlarını trafikteki beklenmeyen olaylara karşı hazırlaması gibi, Safeworld de robotların fabrikalar, depolar veya inşaat sahaları gibi yapılandırılmamış ortamlarda karşılaşabileceği senaryoları modelliyor.

Sistem, Genesis veya MuJoCo benzeri fizik motorları üzerinde tesislerin dijital kopyalarını oluşturuyor. Ardından, gerçek yazılımıyla çalışan robotun simülasyonunu bu ortama yerleştirerek insan modelleriyle binlerce senaryo çalıştırıyor. Kurucu ortaklardan Kyle Wong, insanların takılıp düşmesi gibi durumların fiziksel olarak sürekli test edilmesinin imkansız olduğunu, simülasyonun bu noktada kritik bir rol oynadığını belirtiyor.

Sektörel İş Birlikleri ve Ampirik Doğrulama

Endüstriyel ölçekli güneş enerjisi çiftliklerinde panelleri kuran işçilere yardımcı olan robotların yapay zeka beynini geliştiren Gritt Robotics’in CTO'su Vishal Dugar, bu tür sistemlerin güvenliğini matematiksel denklemlerle formel olarak kanıtlamanın çok zor olduğunu ifade ediyor. Gritt Robotics, simülasyon geliştirme sürecinde Safeworld ile iş birliği yapıyor.

Dugar, insanların kıyafetleri, boyları, vücut şekilleri, ten renkleri ve çömelme, diz çökme ya da koşma gibi farklı duruşlarıyla sahada çok çeşitli varyasyonlar sergilediğine dikkat çekerek, robotların bu davranışların tamamına yanıt verebilmesinin ampirik testlerle mümkün olduğunu vurguluyor.

İş Modeli ve Gelecek Beklentileri

Safeworld, harici kullanıcılar için bir platform sunma ile hizmet tabanlı bir yaklaşım izleme arasında en iyi iş modelini henüz netleştirmiş değil. Ancak kurucu ekip, ölçekli olarak sahaya sürülecek üretken yapay zeka robotlarının risk yönetimi ihtiyacı göz önüne alındığında şirketin bu alandaki ilk karlı girişimlerden biri olacağına inanıyor.