Geliştiriciler söz konusu sistemi bir oyun amacıyla tasarladıklarını belirtse de, teknolojinin kolaylıkla silahlandırılabileceği bildirildi.
Bu durum, olası kötüye kullanım riskleri ve mevcut savunma mekanizmalarının yetersizliği konusunda ciddi endişelere yol açtı.
Sistemin risk profili değerlendirildi
İHA'nın bireyleri otonom olarak tanımlamak ve takip etmek için yapay zeka nesne tespiti ile yüz tanıma modellerini kullanması, yazılımı bir yapay zeka sistemi kategorisine sokmaktadır.
Söz konusu olayın, yaralanma veya ölüm gibi ciddi zararlara yol açabilecek bir yapay zeka sisteminin geliştirilmesini ve olası kullanımını içermesi nedeniyle bir güvenlik tehdidi olarak nitelendirildiği aktarıldı.
Henüz gerçekleşmiş bir zarar veya olay bildirilmediği için durumun doğrudan bir yapay zeka kazasından ziyade, potansiyel tehdit ve uyarı odaklı bir yapay zeka riski olarak sınıflandırıldığı kaydedildi.