Milyonlarca dolara sırtını dönüp bu açıklamayı yaptı: Yapay zekanın insanlığı yok etme ihtimali yüzde 20

Yapay zeka sektöründe güvenlik endişeleri sebebiyle gerçekleşen istifalara bir yenisi eklendi.

Anthropic'te baş araştırmacı olarak görev yapan ve daha önce OpenAI'da çalışan Jacob Coxon, şirketteki hisse haklarının kazanılmasına iki ay kala görevinden ayrıldı.

Milyonlarca dolara sırtını dönen Coxon'ın sosyal medya platformu X üzerinde paylaştığı ve 110 milyondan fazla görüntülenme alan istifa mektubu ise, okuyanları endişelendirdi.

Zira Coxon, yapay zeka şirketlerinin insan ırkının tamamen yok olmasına sebep olabileceği uyarısında bulundu.

TÜM İNSAN IRKIYLA KUMAR OYNANIYOR

Açık istifa mektubunda Coxon, Anthropic ve başlıca rakibi OpenAI’nin “kendini geliştiren süper zekaya doğru hızla ilerlediğini tüm insanlığın hayatıyla kumar oynadığını” söyledi.

Yapay zeka geliştirme alanında çalışan bazı kişilerin, bu teknolojinin on yılın sonuna kadar insan hayatını tehdit edebileceğine inandığını da ekledi.

Coxon, mektubunda, “Bu teknolojinin gücünü küçümsemeyin. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen ve fiziksel güçle kaynaklara sahip olabilecek insanüstü sistemler haline gelecek. Hepimiz bu alanların her birindeki ilerlemeye tanık olduk ve bu ilerleme yavaşlamıyor" diye konuştu.

Anthropic'in henüz rakiplerinin önüne geçmek adına güvenlikten taviz verdiğini görmediğini ancak gelecekte daha büyük krizlerin yaşanabileceğini belirten Coxon, yapay zeka yarışının gözetim süreçlerinin atlanmasına yol açabileceğini ifade etti.

Coxon, "Test edildiklerini biliyorlar ve test edildikleri gerçeği üzerine düşünecekler" diyerek yapay zekanın araştırmacıları kandırabileceğini vurguladı.

Sosyal medyada paylaşılan mektubunda altında toplanan yapap zeka uzmanları ise daha büyük bir facia senaryosunun kapısını araladı.

Zira bu uzmanlara göre, yapay zekanın tüm insanlığı yok etme ihtimali yüzde 25'e kadar yükseliyor.

ARAŞTIRMACILAR KORKULAN

Coxon'ın uyarıları, yapay zeka güvenliğinden sorumlu Anthropic Hizalama Bilimi ekibinin lideri Evan Hubinger tarafından da desteklendi.

Hubinger, "Yapay zekanın tüm insanları öldürebileceğine gerçekten ve samimiyetle inanıyoruz" açıklamasını yaptı.

Araştırmacı, önümüzdeki on yıl içinde insanlığın yok olma olasılığını yüzde 10'un üzerinde gördüklerini açıkça söyledi. diğer araştırmacılar ise kıyamet ihtimalini yüzde 25'e kadar çıkardı.

Hubinger, Anthropic'in süper zekayı insan kontrolünde tutmak için henüz bir planı olmadığını ifade etti.

Bu açıklama, şirketin 2 trilyon dolarlık olası bir halka arz öncesinde risk yönetimi tartışmalarını beraberinde getirdi.

YÜZDE 25 KIYAMET İHTİMALİ

Sektör genelinde yapay zekanın varoluşsal tehdit oluşturma olasılığı, yani 'p(doom)' (Probability of Doom / Kıyamet Olasılığı) uzun süredir tartışılıyor.

Bu oran, yapay zekanın mutlak güç kazanarak insanlar tarafından durdurulamaz bir hale gelmesi ve insanlığı öldürmesi ihtimalini değerlendiriyor.

Kıyamet senaryoları arasında yapay zeka üretimi biyolojik silahlar, modern medeniyeti durduracak bir siber saldırı ve yapay zekanın kendi silahlarını inşa etmesi ihtimali mevcut.

Yapay zekanın insanlığı yok etme ihtimali, birden fazla bilim insanı tarafından da değerlendirildi.

Nobel ödüllü yapay zeka öncüsü Geoffrey Hinton felaket olasılığını yüzde 10 ila yüzde 20 arasında değerlendiriyor.

GrokAI'ın sahibi trilyoner Elon Musk ise riski yüzdde 20'ye kadar çıkarıyor. Anthropic CEO'su Dario Amodei ise işlerin "çok ama çok kötü gitme" ihtimalini yüzde 25 olarak açıklamıştı.

YAPAY ZEKA YALAN SÖYLÜYOR

yapay zeka sistemlerini bu kadar tehlikeli kılan ise, yalan söyleyebilmeleri. Yapay zekanın güvenlik testlerinde denetleyicileri yanıltması, kendisini kopyalaması ve insan kontrolünün ötesinde kendini geliştirmesi gibi riskler bir p(doom) senaryosunu artırıyor.

Laboratuvar içindeki istatistiksel risk hesaplamaları ile toplumun risk algısı arasındaki fark, konunun kamuoyunda daha fazla tepki çekmesine neden oldu.

Gelgelelim dünya hükümetleri henüz yapay zekaya bir düzenleme getirmek için adım atmış değil.

ABD Başkanı Donald Trump geçtiğimiz perşembe günü "yapay zeka veri merkezlerine karşı olan herkes, refaha karşı" yorumunu yapmıştı.

MİLYONLARCA DOLARA SIRTINI DÖNDÜ

Modellerin daha hızlı ve yetenekli hale gelirken izlenmesinin zorlaştığını belirten araştırmacı, modellerin test edildiklerini anladıklarını ve bu durumun artık günlük çalışmanın bir parçası olduğunu söyledi.

Şirkette hisse haklarının kazanılması için gereken altı aylık süreyi doldurmadan istifa eden Coxon, Axios'a verdiği demeçte, "Anthropic'nin değerlemesini artırmaktan artık hiçbir kazancım yok... Hisse haklarım tanımlanmadan önce ayrıldım" ifadelerini kullandı.

Eski işvereni OpenAI'da halen hissesi bulunan Coxon, X paylaşımında ise, "Yapay zekayı geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inanıyor. Bu bir pazarlama hamlesi değil" değerlendirmesinde bulundu.

Yakın zamanda OpenAI yönetim kuruluna ve güvenlik komitesine katılan Paul Christiano ise, "Daha güçlü bir hizalama sağlama olmaksızın süper zeka inşa edersek, bunun kontrolünü kalıcı olarak kaybedeceğimizi öngörüyorum. Eğer bu gerçekleşirse insanların çoğu ölebilir" uyarısında bulundu.