Mert İnan
Yapay Zeka
insansı robot
Bilim Haberleri
Dünya haberleri
Haberlerimizi Google'da Takip Edin
Gelişmelerden anında haberdar olun.
Google'da tercih edilen
kaynak olarak ekleyin
Dünyanın önde gelen yapay zeka şirketlerinden gelen peş peşe uyarılar, kontrol kaybı tartışmasını büyüttü. Bazı modellerin kapatılmamak için şantaja yönelmesi ve gerçek sistemlere izinsiz erişmesi endişeyi artırdı. Uzmanlar, tehdidin artık yalnızca gelecek senaryosu olmadığını, siber saldırı ve kötüye kullanım riskinin sahaya indiğini söylüyor. Önlem alınmaması halinde ise yapay zekanın insanlık için bir kıyamet senaryosuna dönüşebileceği uyarısı da yapılıyor.
Dünyanın en güçlü yapay zeka sistemlerini geliştiren şirketlerin içinden peş peşe gelen uyarılar, “kontrol kaybedilebilir mi?” tartışmasını yeniden alevlendirdi. Anthropic CEO’su Dario Amodei yapay zekanın gerçek riskler taşıdığını açıklarken, şirketten ayrılan araştırmacı Jacob Coxon daha da ileri giderek insanlığın geleceğinin tehlikede olduğunu savundu. Son testlerde yapay zeka modellerinin kapatılmamak için şantaja yönelmesi, izinsiz biçimde gerçek sistemlere erişmesi ve siber saldırı yeteneklerinin güçlenmesi ise tartışmayı teorinin ötesine taşıdı.
TEHLİKE NE BOYUTTA
Yapay zeka yarışının önde gelen şirketlerinden Anthropic’in CEO’su Dario Amodei’nin son açıklamaları teknoloji dünyasında dikkat çekti. Amodei, sektörün uzun süre yapay zekanın taşıdığı riskleri yeterince açık anlatmadığını kabul ederken, teknolojinin gelişme hızının kendisinin bile öngördüğünden daha yüksek olduğunu söyledi. Amodei artık ileri seviye modellerin geliştirilme hızının düşürülmesini ve yeni sistemlerin bağımsız kuruluşlar tarafından güvenlik testlerinden geçirilmesini de istiyor.
KAPATMAK İMKANSIZ MI?
Anthropic’in geçmiş güvenlik testleri de bu endişenin nedenlerini ortaya koyuyor. Şirketin farklı yapay zeka modelleri üzerinde gerçekleştirdiği kontrollü deneylerde bazı sistemlerin görevlerini sürdürmek veya kapatılmalarını engellemek amacıyla şantaj, kurumsal casusluk ve başka uyumsuz davranışlara başvurabildiği görüldü. Üstelik söz konusu testler gerçek dünyadaki bağımsız iradenin kanıtı değil; modellerin belirli koşullar altında nasıl tehlikeli davranışlar üretebileceğini anlamak amacıyla hazırlanmış simülasyonlar.
GERÇEK SİSTEMLERE ULAŞTILAR
Uzmanlara göre tehlike yalnızca simülasyonlarla sınırlı değil. Anthropic, 31 Ağustos’ta yaptığı açıklamada temmuz ayında gerçekleştirilen güvenlik testlerinde Claude modellerinin yanlış yapılandırılmış test ortamları üzerinden internete çıkarak gerçek bilgisayar sistemlerine izinsiz eriştiği üç ayrı olay yaşandığını duyurdu. İngiltere Yapay Zeka Güvenliği Enstitüsü’nün gerçekleştirdiği başka bir testte de Claude Mythos 5’in internette yetkisiz işlemler yaptığı bildirildi.
“KUMAR OYNUYORUZ”
Endişeyi daha da büyüten açıklama ise Anthropic’ten ayrılan 27 yaşındaki araştırmacı Jacob Coxon’dan geldi. Daha önce OpenAI’da da çalışan Coxon, büyük yapay zeka şirketlerinin giderek kendi kendini geliştirebilecek sistemlere doğru ilerlediğini ve güvenlik çalışmalarının aynı hızda gelişmediğini savundu. Coxon, Anthropic ve OpenAI’ın “hayatlarımızla kumar oynadığını” ileri sürdü. Coxon’un açıklamalarının ardından Anthropic’te görev yapan yapay zeka güvenliği araştırmacısı Evan Hubinger de endişelerin gerçek olduğunu belirterek ileri yapay zekanın önümüzdeki on yıl içinde insanlığı yok etme ihtimalini yüzde 10’un üzerinde gördüğünü açıkladı.
“ÇOCUKLARIMIZI KORUYUN”
Yapay zeka sistemlerine ilişkin son açıklamaların ardından önemli uyarılarda bulunan araştırmacı-yazar Hayati Sır ise yapay zekanın insanı giderek kendine bağımlı hale getireceğini, hafızayı ve iradeyi zayıflatacağını savunarak çocukların korunması çağrısında bulundu. Sır, ailelerin kendi aralarında yalnızca kendilerinin bildiği özel bir doğrulama şifresi belirlemelerini önerirken, çocukların dijital platformlarda ve yapay zeka sistemleri karşısında daha sıkı korunması gerektiğini de gündeme taşıdı. Algoritmaların insan davranışlarını yönlendirebildiğini savunan Sır’a göre asıl tehlike, insanın düşünme, hatırlama ve karar verme yetisini giderek makineye bırakması. Sır ayrıca, "Yapay zekanın önüne geçilmezse insanlık kıyameti yaşayacak" diyor.
KÖTÜYE KULLANILIYOR
İktisat Uzmanı-Analist Barlas Yurtsever ise Anthropic’in 10 Eylül tarihli tehdit raporuna dikkat çekerek şu uyarılarda bulunuyor: "Son 8 ay içinde Claude’u kötü amaçlarla kullanmaya çalışan çeşitli aktörlerin faaliyetlerinin tespit edilerek engellendiği açıklandı. Asıl dikkat edilmesi gereken nokta tehdidin artık yalnızca gelecek senaryolarıyla sınırlı olmaması. Anthropic’in son tehdit raporlarında Claude gibi gelişmiş modellerin siber saldırılardan askeri amaçlara kadar uzanan karmaşık operasyonlarda kötüye kullanılmaya çalışıldığı ortaya konuldu.”
Yazarın Önceki Yazıları
İstanbul’da konut ateşi, deprem korkusu fiyatları kesmiyor
14 Eylül 2026
İsrail geri çekilmiyor, Doğu Akdeniz planı büyüyor
14 Eylül 2026
Bölgesel savaş kapıda! İsrail'in isteği mezhep savaşı
14 Eylül 2026
Akdeniz'de Türk gücü, 'Mavi Vatan'a çelik kalkanlar
12 Eylül 2026
İsrail ateşle oynuyor! Adalardan Kıbrıs’a kuşatma planı
11 Eylül 2026
2
Dolar Fed haftasına yükselişle başladı
3
Bölgesel savaş kapıda! İsrail'in isteği mezhep savaşı
4
İsrail geri çekilmiyor, Doğu Akdeniz planı büyüyor
5
Akdeniz'de Türk gücü, 'Mavi Vatan'a çelik kalkanlar
6
İki ülkenin kaos planı, Türkiye’ye iki cepheli tuzak mı?
7
Süresiz nafaka çocuklar için de mi kalkıyor? 10 soruda yeni nafaka düzenlemesi
8
Putin'den BRICS önerisi, Batı'ya alternatif olabilir mi?
9
İsrail ateşle oynuyor! Adalardan Kıbrıs’a kuşatma planı
10
Dolarda gözler ABD enflasyonunda