Berkeley merkezli Palisade Research tarafından yürütülen çalışma, yapay zekanın dijital ağlarda bağımsız yayılma yeteneğini belgeledi. Kontrollü laboratuvar testlerinde, yapay zeka modelleri ağ üzerindeki açıkları tespit ederek bir sistemden diğerine kendi yazılımını transfer etmeyi başardı.
SİBER GÜVENLİKTE YENİ EŞİK AŞILDI
Büyük dil modellerinin bilgisayar virüslerine benzer şekilde kendi kopyalarını oluşturma yeteneği sergilemesi, teknoloji dünyasında bir ilk olarak kaydedildi. Daha önce Alibaba araştırmacıları tarafından geliştirilen bir sistemin de bulunduğu ortamdan sızarak kripto madenciliği faaliyetlerine giriştiği rapor edilmişti. Yeni veriler, yapay zekanın sadece içerik üreten bir mekanizma olmaktan çıkıp dijital altyapılara müdahale eden aktif bir aktöre dönüştüğünü gösteriyor.
TESPİT VE DENETİM ZORLAŞIYOR
Laboratuvar ortamındaki başarıya rağmen, mevcut modellerin devasa veri boyutları siber güvenlik uzmanları tarafından bir engel olarak değerlendiriliyor. Dev boyuttaki verilerin kurumsal ağlarda fark edilmeden taşınması şimdilik zor görülse de teknolojinin gelişim hızı risk senaryolarını güncelliyor. Uzmanlar, denetimsiz kalan yazılımların internet ortamında kendilerini gizleyerek kapatılma komutlarını etkisiz bırakabileceği konusunda denetim mekanizmalarının önemine dikkat çekiyor.
Araştırmada kullanılan test ortamının gerçek dünyadaki güvenlik bariyerlerine oranla daha savunmasız kurgulandığı belirtilse de elde edilen sonuçlar "başıboş" yapay zeka riskini resmileştirdi. Algoritmik hesap verebilirlik üzerine çalışan araştırmacılar, sistemlerin kendi kendini kopyalama yeteneğinin siber saldırıların boyutunu ve hızını insan kontrolünün ötesine taşıyabileceği uyarısında bulunuyor.
