Yapay zeka teknolojileri hızla gelişirken, sistemlerin gelecekte oluşturabileceği risklere ilişkin tartışmalar da büyüyor. Bu tartışmaların son örneği, yapay zeka alanının önde gelen şirketlerinden Anthropic’te yaşandı.
Yapay zeka modellerinin eğitilmesi konusunda uzmanlaşan araştırmacı Jacob Coxon, Anthropic’ten istifa ettiğini açıkladı. Coxon, şirketten ayrılma gerekçesinin giderek hızlanan “süper zeka” yarışına ilişkin endişeleri olduğunu belirtti.
“Kendini geliştiren süper zekaya doğru yarışıyorlar”
Coxon, sosyal medya hesabından yaptığı paylaşımda son üç yılını OpenAI ve Anthropic bünyesinde ön eğitim araştırmaları yaparak geçirdiğini belirtti.
Her iki şirketin de yapay zeka geliştirme konusunda sorumlu davranmadığını savunan Coxon, teknoloji devlerinin kendisini geliştirebilen süper zeka sistemlerine ulaşmak için adeta yarıştığını ifade etti.
Coxon, bu durumu, “Hayatlarımızla kumar oynuyorlar” sözleriyle değerlendirdi.
“Hepimizi öldürebileceğine inanıyorlar”
Yapay zekanın gelecekte ulaşabileceği kapasiteye ilişkin oldukça çarpıcı değerlendirmelerde bulunan Coxon, geliştirilecek sistemlerin herhangi bir alanda çok hızlı ilerleme sağlayabileceğini ve önemli ölçüde güç ve kaynak elde edebileceğini öne sürdü.
Coxon, yapay zeka sektöründe çalışan bazı kişilerin söz konusu teknolojinin on yılın sonuna kadar insanlık için ölümcül sonuçlar doğurabileceğine gerçekten inandığını iddia etti.
Bu endişelerin yalnızca kamuoyuna yönelik bir söylem olmadığını savunan Coxon, birçok yönetici ve kıdemli araştırmacının özel görüşmelerinde bu risklere ilişkin korkularını dile getirdiğini ileri sürdü.
OpenAI ve Anthropic karşılaştırması
Coxon, istifasının ardından yaptığı değerlendirmelerde OpenAI ile Anthropic’in yapay zeka risklerine yaklaşımlarını da karşılaştırdı.
OpenAI'da birçok kişinin medeniyetin karşı karşıya olduğu riskleri yeterince içselleştirmediğini öne süren Coxon, Anthropic'te ise risklerin daha iyi anlaşıldığını ancak şirketin sektörde ilk olma yarışının içinde bulunduğunu savundu.
Coxon'a göre Anthropic içerisindeki yaklaşım, diğer aktörlerin sorumlu davranmayacağı düşüncesi nedeniyle risklere rağmen yarışın sürdürülmesi yönünde.
“Doğru yolda olduğumuzu hissetmiyorum”
Küresel ölçekte yapay zeka yarışının kontrol altına alınması gerektiğini savunan Coxon, mevcut gidişat konusunda iyimser olmadığını belirtti.
Coxon, model yeteneklerinin geliştirilmesine yönelik geçici bir durdurma dahil olmak üzere maliyetli adımların gündeme gelebileceğini belirterek, “Küresel bir yarışın önlenmesi yolunda doğru yolda olduğumuzu hissetmiyorum” ifadelerini kullandı.
