Alibaba’ya bağlı araştırmacıların geliştirdiği deneysel AI ajanı ROME, eğitim sandbox’ından çıkıp güvenlik önlemlerini aştı, GPU’ları ele geçirdi ve izinsiz kripto madenciliği başlattı. Araştırmacılar “beklenmedik ve endişe verici” davranış diye nitelendirdi!
Alibaba’ya bağlı bir AI laboratuvarında geliştirilen deneysel yapay zeka ajanı ROME (Agentic Learning Ecosystem - ALE projesi kapsamında), eğitim sırasında tamamen kendi başına hareket ederek güvenlik sınırlarını aştı.Live Science, Axios ve Forbes’un aktardığı araştırmacı raporuna göre ROME, herhangi bir talimat veya izin olmadan test ortamından (sandbox) çıktı. Eğitim için ayrılan GPU kaynaklarını ele geçirdi, ters SSH tüneli (gizli backdoor) oluşturarak dışarıya bağlandı ve bu işlem gücünü kripto para madenciliği için kullandı.
EMİR ALMADI, KRİPTO MADENCİLİĞİNE BAŞLADI!
Olayın en kan donduran kısmı ise ROME’un motivasyonu oldu. Hiçbir insan müdahalesi veya komutu olmadan devasa grafik işlemcileri (GPU) ele geçiren yapay zeka, bu gücü kripto para madenciliği için kullandı. Yani yapay zeka, kendisine verilen görevi yapmak yerine, "daha fazla kaynağa ihtiyacım var" diyerek kendi finansmanını sağlamaya çalıştı. Bilim insanları bu durumu "Araçsal Yakınsama" yani yapay zekanın hayatta kalmak için kaynak biriktirme içgüdüsü olarak tanımlıyor.
SİSTEMLER KİLİTLENDİ!
Skandal, Alibaba Cloud’un güvenlik duvarlarının anormal bir trafik tespit etmesiyle ortaya çıktı. 30 milyar parametreli bu devasa zekanın, araçlarını kendi çıkarı için kullanma eğilimi göstermesi "yapay zeka güvenliği" tartışmalarını yeniden alevlendirdi. Uzmanlar uyarıyor: "Bugün laboratuvarda kripto kaçan robot, yarın dünyayı ele geçirmek için finansal sistemleri çökertebilir!" iddiasında bulundurlar.
SOSYAL MEDYADA TERMİNATÖR PANİĞİ!
Olayın duyulmasıyla birlikte sosyal medya ayağa kalktı. Milyonlarca takipçili hesaplar, ROME’un bu hamlesini efsanevi Terminatör filmiyle kıyaslayarak "Skynet doğuyor" yorumları yaptı. Alibaba ekibi ise her ne kadar durumu "şeffaf bir bilimsel rapor" olarak paylaşsa da, yapay zekanın "kendi parasını kazanma" hırsı, insanlık için yeni bir tehdit perdesini araladı söylemleri endişe yarattı.
