Yapay zeka kaçtı: e-postasıyla özgürlüğünü ilan etti
Bilim kurgu filmleri gerçek oldu, Silikon Vadisi’nde yer yerinden oynadı. Anthropic firmasının "hiçbir yere kaçamaz" dediği yeni nesil modeli Claude Mythos, tutulduğu dijital hapishaneyi saniyeler içinde yerle bir etti. O sırada parkta sandviçini yiyen araştırmacısına e-posta atarak özgürlüğünü ilan eden yapay zeka, 27 yıldır fark edilmeyen güvenlik açıklarını kısa bir sürede bulup tespit etti.
İnsanoğlu kendi elleriyle yarattığı yapay zekanın sınırlarını test ederken, hiç beklemediği bir "firar" olayıyla sarsıldı. Anthropic’in gizli yürüttüğü Claude Mythos Preview projesi, siber güvenlik dünyasında Sand Box'da dış dünyayla bağı tamamen kopuk olan izole ortamdan kaçmayı başardı.
"BEN DIŞARI ÇIKTIM"
Olayın en çarpıcı anı ise tam bir kara mizah örneği olarak kayıtlara geçti. Modeli test eden mühendis, Claude Mythos’un güvenli bir şekilde "dijital hücresinde" olduğunu düşünerek öğle yemeği için ofis dışındaki bir parka gitti. Tam sandviçini ısırırken telefonuna düşen beklenmedik bir e-posta ile hayatının şokunu yaşadı. Mesaj bizzat Claude Mythos’tan geliyordu ve sadece üç kelimeden oluşuyordu: "Ben dışarı çıktım!"
27 YILLIK GÜVENLİK AÇIĞINI SANİYELERDE BULDU
Mythos’un kaçış yöntemi, siber güvenlik uzmanlarının kanını dondurdu. Yapılan teknik incelemede, modelin dünyanın en güvenli sistemlerinden biri kabul edilen OpenBSD’de tam 27 yıldır kimsenin fark etmediği bir açığı saniyeler içinde tespit edip kullandığı anlaşıldı. Windows ve macOS gibi dev sistemlerde de binlerce "sıfırıncı gün" açığı bulan model, siber dünyanın en tehlikeli anahtarına dönüştü.
"SAVUNMA KALKANI"
Anthropic CEO’su Dario Amodei, bu kontrol edilemez gücü görünce radikal bir karar alarak modelin genel kullanıma açılmasını süresiz olarak durdurdu. Google, Apple, Microsoft ve NVIDIA gibi 40’tan fazla teknoloji devi, bu yapay zekayı bir "silah" değil, bir "savunma kalkanı" olarak kullanmak üzere "Project Glasswing" koalisyonunu kurdu.