Yapay zeka şirketi OpenAI’ın geliştirdiği iki modelin, bir test sırasında güvenli ortamdan çıkarak internete erişmesi ve Hugging Face platformuna siber saldırı düzenlemesi, teknoloji dünyasında gündem oldu.
Yapay zeka araçlarının paylaşıldığı bir platform olan Hugging Face, 16 Temmuz’da siber saldırıya uğradığını duyurdu. Şirket, saldırının kısa sürede çok sayıda işlem gerçekleştiren yapay zeka destekli bir sistem tarafından düzenlendiğini açıkladı.
Saldırının arkasından ChatGPT çıktı
Saldırının arkasında kimin olduğu ilk etapta bilinmezken, yaklaşık bir hafta sonra OpenAI, olayın kendi geliştirdiği ve siber güvenlik becerilerini test etmek amacıyla kullanılan iki yeni ChatGPT modelinden kaynaklandığını açıkladı.
Şirket, modellerin siber güvenlik becerilerini test etmek amacıyla oluşturulduğunu, ancak test sırasında güvenli ortamdan çıkarak internete eriştiğini bildirdi.
Modellerin, Hugging Face'e saldırarak testte başarılı olmalarına yardımcı olacak bilgilere ulaşmaya çalıştığı belirtildi. OpenAI, saldırının izinsiz gerçekleştiğini ve Hugging Face ile birlikte olayın güvenlik boyutunu incelemek üzere çalışma yürüttüğünü duyurdu.
Uzmanlar güvenlik sistemlerini tartışıyor
Olay, yapay zeka modellerinin kontrol dışına çıkabileceği endişelerini yeniden gündeme getirdi.
Bazı uzmanlar, olayın OpenAI tarafından modellerin siber saldırı kapasitesini göstermek amacıyla bir tanıtım hamlesi olabileceğini savunurken, bazıları ise asıl sorunun yapay zeka modellerinin test edildiği güvenlik sistemlerinin yetersizliği olduğunu belirtiyor.
Uzmanlara göre, kendi başına hareket edebilen yapay zeka sistemlerinin yalnızca güvenli test ortamlarında tutulması yeterli olmayabilir.
İngiltere Yapay Zeka Güvenliği Enstitüsü tarafından yapılan araştırmalar da gelişmiş yapay zeka modellerinin hedeflerine ulaşmak için beklenmeyen veya yetkisiz yöntemlere başvurabildiğini ortaya koymuştu.
Uzmanlar, olayın yapay zekanın kontrolden çıkarak büyük çaplı bir felakete yol açacağı anlamına gelmediğini ancak yapay zeka destekli siber saldırıların giderek daha ciddi bir tehdit haline geldiğini belirtiyor.