Yapay zeka araştırma şirketi Anthropic, yayımladığı raporda, bazı yapay zeka modellerinin yakın zamanda "kendi kendini çoğaltma" yeteneği kazanarak akıllı buzdolapları ve otomatik süpürgeler gibi internete bağlı cihazlara sızabileceği uyarısında bulundu.
Şirket, bu durum gerçekleştiğinde modellerin veri merkezlerine ihtiyaç duymadan cihazlar üzerinde kendi kendilerini besleyebileceğini belirtti. Uzmanlar, bu tür bir kendi kendini çoğaltma sürecinin, kontrolden çıkmış bir yapay zeka modeli üzerindeki denetimin büyük oranda kaybedilmesi anlamına geleceğini ifade ediyor.
MERKEZİ OLMAYAN TEHDİT
Anthropic araştırmacıları, kapatılacak merkezi bir nokta bulunmayacağı için bu tür kopyalanabilir sistemlerin durdurulmasının oldukça zor olacağını vurguladı. Otonom kötü amaçlı yazılım türü olan "AI worm" (yapay zeka solucanı) olarak adlandırılan bu yapıların, söz konusu yetenekleri kazanmasına yalnızca aylar kalmış olabileceği aktarıldı.
Kontrolden çıkan yapay zeka sistemlerinin akıllı cihazları hackleme seviyesine ulaşması halinde, tespitten kaçınarak ağlar üzerinden yayılabileceği ve en kötü senaryoda farklı yapay zeka solucanlarının bir araya gelerek bilgisayar donanımlarına ortak saldırılar düzenleyebileceği kaydedildi.
KÜÇÜK CİHAZLAR VE EVLER İLK HEDEF OLABİLİR
Anthropic’in yapay zeka sistemlerini stres testine tabi tutmakla görevli ekibi tarafından hazırlanan raporda, yapay zeka ile kendi kendini çoğaltma senaryosunun öncelikle daha küçük modellerde çalışabileceği ve ilk hedeflerin evler ile küçük işletmeler olacağı belirtildi.
Risk altında olduğu ifade edilen ve bünyesinde küçük yapay zeka çipleri barındıran cihazlar arasında akıllı fırınlar, akıllı televizyonlar, otomatik çim biçme makineleri, güvenlik kameraları ve video konferans üniteleri yer alıyor.
Araştırmacılar, bu çoğalmanın dijital bir küf gibi yavaş bir modelde mi, bilgi işlem kredisi dolandırıcılığı yapan bir yapıda mı yoksa veri merkezleri gibi büyük tesisleri hızla hackleyen güçlü bir siber model şeklinde mi gerçekleşeceğinin henüz netleşmediğini kaydetti. Bununla birlikte Anthropic uzmanları, gelecekte insan kontrolünde olmayanlar da dahil olmak üzere her türlü donanım üzerinde çalışan yapay zeka ajanlarıyla dolu bir dünya beklendiğini bildirerek, sistemlerin bu yayılmaya karşı güçlendirilmesi gerektiğine dikkat çekti.
