Anthropic CEO’su Dario Amodei, yapay zeka modellerinin yeteneklerinin geliştirilme hızının artık daha dikkatli yönetilmesi gerektiğini söyledi.
Amodei’ye göre teknoloji hızla ilerlerken güvenlik mekanizmaları aynı hızda gelişemiyor ve bu durum, giderek daha yetenekli sistemlerin kontrol edilmesi konusunda ciddi riskler yaratıyor.
Amodei, yazısında yapay zekanın tamamen durdurulmasını savunmadığını özellikle vurguladı.
Aksine, ilerlemenin devam etmesini ancak araştırmacılara güvenlik önlemlerini geliştirebilmeleri için zaman kazandıracak şekilde “ayarlanmasını” istedi.BAĞIMSIZ DENETÇİLERAmodei’nin planının ilk ayağını bağımsız güvenlik değerlendiricileri oluşturuyor.
Buna göre yapay zeka şirketleri, dışarıdan uzmanların şirket içinde çalışmasına ve modellerin güvenlik uygulamalarını doğrudan incelemesine izin vermeli.
Bu değerlendiriciler yalnızca şirketlerin hazırladığı raporları incelemeyecek; şirket çalışanlarının sahip olduğu düzeye yakın erişimle sistemleri, model geliştirme süreçlerini ve ortaya çıkabilecek güvenlik olaylarını denetleyebilecek.
Anthropic, bu uygulamayı kendi bünyesinde hayata geçirme taahhüdünde bulundu.ORTAK STANDARTİkinci aşamada ise yapay zekâ geliştiren şirketlerin ortak güvenlik standartları üzerinde anlaşması öngörülüyor.
Amodei, özellikle demokratik ülkelerde faaliyet gösteren şirketlerin yapay zekâ modellerinin ne kadar hızlı geliştirilebileceğine ilişkin ortak kurallar belirlemesini öneriyor.
Bu yaklaşımın temel amacı, tek bir şirketin güvenlik nedeniyle yavaşlaması durumunda rakiplerinin hızlanarak avantaj elde etmesini önlemek.
Amodei’ye göre şirketlerin birbirleriyle rekabet ederken aynı zamanda ortak güvenlik sınırlarına uyması gerekiyor.KÜRESEL İŞ BİRLİĞİPlanın en zor aşamasını ise uluslararası iş birliği oluşturuyor.
Amodei, yalnızca ABD ve Avrupa’daki şirketlerin yavaşlamasının yeterli olmayacağını, yapay zekânın gelişimini etkileyen diğer ülkelerin de sürece dahil edilmesi gerektiğini savunuyor.
Bu kapsamda demokratik ülkelerin yanı sıra Çin gibi otoriter yönetimlerle de belirli güvenlik kuralları üzerinde anlaşmaya çalışılması öneriliyor.
Amodei, özellikle biyolojik silah geliştirilmesi gibi yüksek risk taşıyan alanlarda uluslararası yasakların oluşturulmasını örnek gösteriyor.AMAÇ DURDURMAK DEĞİLAmodei, yapay zekânın insanlık açısından büyük faydalar sağlayabileceğine ilişkin görüşünü de koruyor.
Hastalıkların tedavisinden ekonomik büyümeye kadar çok sayıda alanda önemli ilerlemeler sağlayabilecek bir teknolojiden söz edildiğini belirten Anthropic CEO’su, asıl meselenin bu potansiyeli kaybetmeden riskleri kontrol altına almak olduğunu savunuyor.