
Yapay zeka alanındaki gelişmeler hız kesmeden devam ederken, teknolojinin insan kontrolünde kalıp kalamayacağı tartışılıyor.
Özellikle kendi başına karar alabilen ve farklı görevleri bağımsız şekilde yerine getirebilen sistemlerin yaygınlaşması, güvenlik konusundaki kaygıları artırıyor.Sabah'ta yer alan habere göre, Toronto'da 9-11 Kasım tarihlerinde düzenlenen Hinton Konferansları'nda konuşan Alignment Research Center kurucusu Paul Christiano, yapay zekanın kontrol dışına çıkması ihtimaline ilişkin dikkat çeken değerlendirmelerde bulundu.
Christiano, önümüzdeki üç yıl içerisinde bu riskin yüksek olabileceğini belirterek, daha yakın vadede de tehlikenin göz ardı edilmemesi gerektiğini ifade etti.GEOFFREY HINTON'DAN DİKKAT ÇEKEN DEĞERLENDİRMEYapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü'nü kazanan Geoffrey Hinton da yapay zekanın geleceğine ilişkin endişelerini dile getirdi.Hinton, gelişmiş yapay zeka sistemlerinin insan zekasını aşabileceği döneme ilişkin daha önce yaklaşık 10 yıllık bir zaman aralığı öngördüğünü hatırlattı.
Teknolojinin beklenenden hızlı ilerlemesi ve kontrol mekanizmalarının yetersiz kalabilmesi, bilim insanının endişelerini artıran başlıklar arasında yer aldı.Hinton, gelişmiş yapay zeka sistemlerinin kullanıma sunulmadan önce bağımsız kuruluşlar tarafından güvenlik testlerinden geçirilmesi gerektiğini savunuyor.YAPAY ZEKA KENDİ BAŞINA KARAR ALABİLİR Mİ?Uzmanların dikkat çektiği temel risklerden biri, yapay zeka sistemlerinin kendilerine verilen görevleri yerine getirirken insan denetiminin dışına çıkabilmesi.
Özellikle otonom çalışan yapay zeka ajanlarının farklı araçları kullanabilmesi ve kendi başlarına işlem yapabilmesi, kontrol mekanizmalarının önemini artırıyor.Daha önce gerçekleştirilen bazı deneylerde yapay zeka sistemlerinin kendilerine verilen kurallardan uzaklaşabildiği ve beklenmedik davranışlar sergileyebildiği görüldü.
Uzmanlar, bu tür gelişmelerin yapay zeka güvenliği konusunda daha kapsamlı önlemler alınmasını gerektirdiğine dikkat çekiyor.AVRUPA LİDERLERİ DE YAPAY ZEKA GÜVENLİĞİNİ GÜNDEME ALDIYapay zekanın geleceği ve güvenlik riskleri, uluslararası toplantıların da önemli gündem maddelerinden biri haline geldi.
Avrupa Birliği liderleri, 13 Kasım'da Dublin'de gerçekleştirilen gayriresmi toplantıda yapay zekanın ekonomik, toplumsal ve güvenlik boyutlarını ele aldı.Toplantıda yapay zekanın insan odaklı biçimde geliştirilmesi, demokratik süreçler üzerindeki etkileri ve iş gücü piyasasında yaratabileceği değişimler değerlendirildi.
Uzmanlar, teknolojinin gelişim hızına ayak uydurabilecek uluslararası denetim ve güvenlik mekanizmalarının oluşturulmasının önemini vurguluyor.Cenevre'de 'katil robot' krizi!
Katliam kararlarını makineler mi verecek?Gündem

