Yapay zeka devinden istifa edip açıkladı: 'Canavarı büyütüyoruz'
Yapay zeka şirketlerinin eski çalışanları New York'taki tarihi oturumda sessizliği bozdu, dünyayı alarma geçiren o acı gerçeği ilk kez açıkladı. Kendi kendini geliştiren sistemin insanlığın sonunu getirme ihtimaline dikkat çeken eski Anthropic ve OpenAI araştırmacısı Jacob Coxon'un, tüyler ürperten sözleri gündeme bomba gibi düştü.
Teknoloji dünyasının merkezinden gelen tüyler ürperten bir açıklama, New York Şehir Konseyi'ndeki tarihi oturuma damga vurdu. Sektörün önde gelen dev yapay zeka şirketlerinden ayrılan uzmanlar, kontrolden çıkma ihtimali bulunan süper zeki sistemlerin insan uygarlığını ele geçirme riskine dikkat çekerek küresel çapta bir alarm verdi.
Kısa bir süre önce önde gelen yapay zeka şirketlerinden Anthropic'ten istifa ettiğini açıklayan Jacob Coxon, özellikle ABD ile Çin arasında tırmanan kontrolsüz yarış konusunda ürkütücü uyarılarda bulundu.
"YETİŞTİRDİĞİMİZ CANAVARI KONTROL EDEMİYORUZ"
Mevcut sistemlerin çalışma prensiplerine dair çarpıcı detaylar paylaşan Jacob Coxon, ''Sanırım beni korkutan iki unsur gördüm. Bunlardan ilki, henüz hiçbir yapay zeka sistemini nasıl kontrol edeceğimizi bilmediğimiz gerçeğidir. Yani inşa ettiğimiz canavarı, ya da belki daha doğru bir ifadeyle büyütüp yetiştirdiğimiz hiçbir yapay zeka sistemini tam anlamıyla kontrol edemiyoruz” dedi.
YETENEKLERİ ÇOK HIZLI GELİŞİYOR
Onu nelerin yönlendirdiğini ya da yaptığı şeyleri neden yaptığını tam olarak anlayamıyoruz diyen Coxon, “İkinci mesele ise model kabiliyetlerindeki gelişim hızının giderek ivme kazanması ve gelecek yılki modellerin yeteneklerinin son derece yüksek olacak olmasıdır. Bilhassa yapay zeka sistemlerinin kendi kendilerini geliştirebileceği, yani daha önce insanların yürüttüğü araştırmaları bizzat yapabileceği noktaya hızla yaklaşıyoruz” diye konuştu.
Coxon, “Bana göre tüm bu meselenin özü, önümüzdeki birkaç yıl içinde, özellikle de ABD ile Çin arasında, 'özyinelemeli kendini geliştirme' yönünde küresel bir yarışın gerçekleşeceği beklentisidir. Bence sorunun kalbinde yatan şey budur.'' ifadeleriyle tehlikenin tırmandığı noktayı vurguladı.
Eski Google DeepMind uzmanı Alex Turner ve eski OpenAI araştırmacısı Daniel Kokotajlo'nun da katıldığı oturumda, süper zeka modellerinin taşıdığı varoluşsal tehditler masaya yatırıldı.
ÇİN'DEN BİLE DAHA TEHLİKELİ BİR DÜŞMAN
Süper zeki bir yapay zeka sisteminin insan kontrolünden çıkma ihtimalini değerlendiren Alex Turner, bu teknolojilerin insan uygarlığını ele geçirme olasılığının üçte bir seviyesinde olduğunu belirtti. Turner konuşmasında, "Bu botlar Çin'den bile daha tehlikeli bir düşmana dönüşebilir." uyarısını yaparak yaklaşan tehlikenin ciddiyetini ortaya koydu.
Tarihi tanıklıkların ardından New York yönetimi, teknoloji devlerine "acil kapatma düğmesi" zorunluluğu getiren ve olası güvenlik açıklarını yetkililere bildiren ihbarcılara ödül verilmesini sağlayan kapsamlı bir yasa tasarısını oylamak üzere harekete geçti.