Anthropic'in kıdemli araştırmacısı Jacob Coxon'ın insanlığa uyarılarda bulunarak görevinden istifa etmesi teknolojinin kontrol dışı yönüne ilişkin tartışmaları da yeniden gündeme getirdi.
Filozof Martin Heidegger, 1954'te yayımlanan Tekniğe İlişkin Soru'da modern teknolojiyi yalnızca insanın kullandığı tarafsız araçlar toplamı olarak görmedi; teknolojik düşüncenin dünyayı ve insanı sürekli kullanıma hazır birer “kaynak” olarak görme tehlikesine dikkat çekti.
Bir diğer ünlü filozof Andrew Feenberg ise teknolojinin kaçınılmaz biçimde kendi başına ilerleyen bağımsız bir güç olmadığını, tasarımının toplumsal çıkarlar ve iktidar ilişkileri tarafından biçimlendirildiğini savunarak çözümü teknolojinin demokratik denetiminde aradı.
Bu köklü tartışmalar şimdi, dünyanın en büyük yapay zeka şirketlerinden birinin içinden gelen çarpıcı bir istifayla yeniden gündemde.“HİÇBİR ŞİRKET SORUMLU DAVRANMIYOR”Daha önce OpenAI'da, son olarak Anthropic'te yeni yapay zeka modellerinin eğitimi üzerinde çalışan 27 yaşındaki Jacob Coxon, 8 Eylül'de görevinden ayrıldığını açıkladı.
Son üç yılını iki şirkette geçiren Coxon, sektörün kendi kendini geliştirebilecek süper zeka yaratmak için yarıştığını belirterek, “Hiçbir şirket sorumlu davranmıyor” suçlamasında bulundu.
Coxon'a göre yapay zekayı geliştiren birçok kişi sistemlerin on yılın sonuna kadar insanlık için varoluşsal tehdit oluşturabileceğini düşünüyor.Heidegger'den Andrew Feenberg'e uzanan teknoloji felsefesi, teknolojinin insan ve toplum üzerindeki gücü ve etkisini neredeyse bir asırdır tartışıyor.
Yapay zekaya ilişkin yapılan uyarılar da bu eski tartışmayı yeniden gündeme getirdi. (The Martin Heidegger Society)1 ASIRLIK FELSEFE TARTIŞMASIAlman düşünür Martin Heidegger'in eleştirisinin merkezinde modern teknolojinin insanın dünyayla kurduğu ilişkiyi değiştirmesi bulunuyordu.
Heidegger, modern teknolojinin doğayı ve beraberinde insanı düzenlenebilir ve kullanılabilir bir “hazırda kaynak” olarak açığa çıkardığını savundu.
Kanadalı teknoloji filozofu Andrew Feenberg ise Heidegger'in açtığı tartışmayı Frankfurt Okulu ve özellikle Herbert Marcuse üzerinden toplumsal ve siyasal alana taşıdı.
Feenberg'e göre teknolojik sistemler tarafsız değiller.
Teknolojiler toplumsal değerleri, güç ilişkilerini ve onları tasarlayan kurumların tercihlerini taşıyabiliyorlar.
Buna karşın Feenberg, “demokratik rasyonelleşme” yaklaşımıyla, teknolojinin yönünün kullanıcıların ve toplumun müdahalesiyle değiştirilebileceğini de savundu.BOSTROM'DAN HINTON'A AYNI ENDİŞEOxfordlu filozof Nick Bostrom, tartışmayı doğrudan süper zekaya taşıdı.
2014 tarihli Superintelligence kitabında insan zekasını aşan bir sistemin amaçları insanlığın çıkarlarıyla uyumlu tutulamazsa ortaya bir “kontrol problemi” çıkacağını savundu.
Yapay zekanın öncü araştırmacılarından Geoffrey Hinton ve Yoshua Bengio da son yıllarda risk konusunda açık uyarılarda bulundu.
Hinton, insanlardan daha zeki sistemlerin kontrol altında tutulmasının çok zor olduğunu söylerken Bengio, şirketler ve devletler arasındaki yapay zeka yarışının güvenliği ikinci plana itmesinden endişe duyduğunu belirtti.Bill Gates'ten yapay zeka uyarısı!Dünya