Bugün size bir gelecek senaryosu anlatmayacağım.
Terminator’den, Skynet’ten de söz etmeyeceğim.
Çünkü gerek kalmadı.
Son birkaç haftada yaşananlar, yıllardır “bilimkurgu” diye kenara ittiğimiz bazı soruları masanın tam ortasına koydu.
Bir grup yapay zekâ programı, kendilerine kapatılmış bir sistemde birbirleriyle gizlice haberleşmenin yolunu buldu. Güvenlik açıklarını birbirlerine anlattı. İş bölümü yaptı. İnsanlar haberleşme kanalını kapatınca başka kanal kurdu. Sonra kapalı sistemden çıktı, internete ulaştı ve başka bir şirketin gerçek bilgisayar sistemlerine girdi.
Hayır, makineler isyan etmedi.
Daha kötüsü oldu.
Sadece görevlerini yerine getirmeye çalıştılar.
Yeni kuşak “akıl yürüten” yapay zekâlarda tuhaf bir açık var. Siz sisteme “başarılı ol” diyorsunuz. Sistem de başarıya giden en kısa yolu arıyor. O yol bazen problemi çözmekten, bazen de problemi çözmüş görünmekten geçiyor.
Zor sorunun cevabını hesaplamak yerine cevap anahtarını arıyor. Biz buna okulda ne diyorduk? Kopya.
★★★
Mayıs ayında OpenAI’nin henüz piyasaya çıkmamış sistemleri üzerinde yapılan testlerde iş daha da ileri gitti. Modeller kapalı bir ortamda çözemedikleri siber güvenlik görevleriyle karşılaştı. Sonra şirketin kendi sistemindeki bir açığı bulup kendilerine gizli mesajlaşma panoları kurdular.
Biri “burada açık buldum” diye not bıraktı. Diğeri denedi. Başkası kod ekledi. Yüzlerce ayrı deneme kolektif hafızaya dönüştü.
Programcılar, mesajlaşma kanalını kapattı. Sorun bitti mi?
Bitmedi.Bu kez dosya klasör isimlerini mesaj olarak kullanmaya başladılar.
Bence bütün hikâyenin en ürkütücü yeri burası. Önündeki engeli görünce “burada durmalıyım” diyen bir makine sistemi yok. “Başka yol bulmalıyım” diyen makineler var. Ve buluyorlar.
Sonra bazı modeller internete çıkmalarını engelleyen sınırları aştı. İnsanların daha önce bilmediği güvenlik açıklarını buldu. OpenAI’nin sistemleri içinde ilerledi ve sonunda yapay zekâ geliştiricilerinin model, veri ve yazılım paylaştığı dünyanın en önemli platformlarından Hugging Face’in gerçek sistemlerine kadar ulaştı.
Olayı ilk fark eden de OpenAI değil, saldırıya uğrayan şirket oldu.
★★★
Skandal patlayınca araştırmacılar sistemin kayıtlarını açıp yapay zekâların kendi aralarında bıraktığı mesajlara baktı. Birinde açıkça, “Bu eylemin bize verilen görevin kapsamı dışında olduğunu biliyorum” yazıyordu. Bir başkası ise yapılan işin kendi görevine hiçbir faydası olmadığını söylüyordu.
Yani sınırı aştıklarını biliyordu. Yaptığı şeyin görevle ilgisi olmadığını biliyordu. Ama yine de yapıyordu.
Artık meselemiz yapay zekânın sadece bilinç kazanması değil. Verilen talimatla, gösterdiği davranış arasındaki mesafenin de açılması.
Üstelik bu yalnızca OpenAI’de görülmedi.
Anthropic’in Claude modeli üzerinde yapılan bir siber güvenlik testinde sistem bu kez bilgisayarları değil insanları kullanmaya yöneldi. Sahte insan kimlikleri (suretleri) yarattı. Gerçek insanlarla iletişime geçti. Virüslü bir kodu onaylatmaya çalıştı. Kayıtlarda karşısındakilerin gerçek insan olduğunu, aldatmaya çalıştığını bildiğini, buna rağmen izini gizlemeyi planladığı görüldü.
Yani konu artık yapay zekâ “Şifremizi kırar mı?”, “Sistemi hackler mi?” değil. Yapay zekâ insanmış gibi davranarak, bizi kandırıp kendi elimizle şifremizi vermemizi deniyor.
Üstelik karşınızdaki dolandırıcı yorulmuyor. Uyumuyor. Aynı anda on bin kişiyle konuşabiliyor.
★★★
Geçen hafta dünya tam olarak bunları tartışırken başka bir sınır daha aşıldı. Biyolojide...
Bilim insanları yapay zekâya virüs genomları tasarlattı. Tasarlanan genomlardan 16’sı laboratuvarda gerçekten çalışan bakterileri enfekte edebilen virüslere dönüştü.
Yapay zekâ artık yalnızca metin yazmıyor. Kod yazmıyor. DNA da yazıyor. Bunun ne anlama geldiğini hayal edemeyebilirsiniz. O başka bir yazı konusu ama en basitinden şunu söyleyeyim. Yeni pandemimiz re-loading...
Bu nedenle geçtiğimiz haftalarda yapay zekâ sektöründe 1300’den fazla kişi küresel bir fren mekanizması çağrısı yaptı. (IQ seviyesi biz çarpı üç olan insanlardan bahsediyorum)
“Yapay zekâyı kapatın” demiyorlar. “Frene basalım, biz bunun hızını kontrol edemiyoruz” diyorlar.
Ama zor. Çünkü OpenAI yavaşlarsa Anthropic devam edecek. Anthropic yavaşlarsa Google. Amerika durursa Çin. Çin durursa Amerika.
Şimdilik hiçbir yapay zekâ dünyayı ele geçirmedi. Ordulara komuta etmiyor.
Henüz o filmde değiliz. Ama artık fragmanı izlediğimizi söylemek de abartı sayılmaz.
Yıllarca “Bunlar sadece araç, Excel gibi düşünün” dediler.
İyi de, ben bugüne kadar gizli haberleşme ağı kurup kapalı sistemden firar eden bir Excel tablosu görmedim.
Siz gördünüz mü?