1945 yılında Hiroşima ve Nagazaki’ye atom bombaları atıldı. İnsanlık ilk kez kendi yarattığı bir silahla medeniyeti yok edebilecek bir güce ulaştı. Ardından Soğuk Savaş başladı. Amerika ile Sovyetler Birliği, birbirlerini defalarca yok edebilecek nükleer silahlar biriktirdi.
Washington’da bir araştırma kuruluşu, nükleer savaşın nasıl önlenebileceği ve olası bir savaşın sonuçları üzerinde çalışıyordu. Adı RAND’dı. Amerika’nın nükleer caydırıcılık stratejisinin şekillenmesinde önemli rol oynayan bu kuruluş, şimdi bambaşka bir tehlikeyi araştırıyor.
ABD’de teknoloji dünyasının önemli isimleri ve bilim insanları, hafta sonu yapay zekânın insanlık için bir yok oluş senaryosuna dönüşüp dönüşmeyeceğini tartışmak üzere Porto Riko’da toplandı. RAND, bu toplantıda dikkatleri tamamen farklı bir bilimsel ufka çekti. Adı Mirror Life. Yani Ayna Yaşam. Henüz var olmayan bir canlı türünün yaratılmasını önlemek için hükümetlere, bilim insanlarına ve üniversitelere yönelik 73 sayfa bir strateji hazırladı.
Dünyanın nükleer stratejilerini şekillendiren kurum, şimdi bir bakterinin hiç doğmaması için strateji geliştiriyor. Bu çok ilginç değil mi!
★★★
Peki nedir bu bakteri? Önce aynanın karşısına geçelim.
İki elinize birden bakın. Sağ elinizle sol eliniz birbirinin ayna görüntüsüdür. Ama sağ elinize giydiğiniz eldiveni sol elinize giyemezsiniz. Çünkü aynı görünmelerine rağmen yapıları birbirinin tersidir. İşte doğadaki canlıları oluşturan moleküllerin de dizilimi (basitçe) “sağa” eğilimlidir.
Bunu somun ve vidalar üzerinden düşünelim. Gündelik hayatta kullandığımız vidaların neredeyse tamamı sağa çevrildiğinde sıkışır. Şimdi dünyamızı sağa dönerek sıkışan somunlarla dolu bir evren olarak hayal edin. Ayna yaşam ise sola dönerek sıkışan bir vidadır.
RAND’ın korktuğu felaket senaryosu da bu. Tersine çevrilmiş moleküler yapısı sayesinde ayna bakterisi, bağışıklık sistemimizin savunmalarından ve doğadaki düşmanlarından rahatça kaçabilir. Bağışıklık sistemi bakteriyi görse bile onu tanımaz ve etkisiz hale getirmez. O da aynı sola doğru sıkışan bir vida misali hücreye sızar.
Daha kötüsü, bu bakteriler çevrelerindeki uygun besinleri tüketerek büyüyebilir. Doğal düşmanlarından kaçmaları, ekosistemlerde kontrolsüz biçimde yayılmalarına yol açabilir. İnsanlar, hayvanlar ve bitkiler için geri döndürülemez sonuçlar ortaya çıkabilir.
Bir bakterinin çoğalması için hükümetten emir almasına gerek yok. Doğaya yayıldığında, onu yaratan bilim insanının bilgisayarındaki kapatma düğmesine basması da bakteriyi ortadan kaldırmaz.
Şimdi COVID-19 pandemisini hatırlayın. Çin’in Wuhan kentinde ortaya çıkan koronavirüs dünyaya yayıldı. Uçaklar durdu, ülkeler sınırlarını kapattı, insanlar evlerine hapsoldu. Milyonlarca insan hayatını kaybetti.
Virüsün Wuhan’daki laboratuvardan sızmış olabileceği iddiası yıllardır tartışılıyor. Ancak koronavirüsler doğada zaten bulunan bir virüs ailesi. Ayna yaşam ise laboratuvarda yaratılabilecek, doğada henüz bulunmayan bambaşka bir canlı türü.
Peki, yapay zekânın bu hikâyeyle ne ilgisi var?
Bugün yapay zekâ, ilaçların F-35’lerini tasarlıyor. Hedefe yönelik, doğrudan hastalıkla mücadele eden yeni nesil ilaçlar. Bilim insanlarının yıllarca deneyerek bulmaya çalıştığı ilaç adayları, bilgisayar ortamında milyonlarca ihtimal arasından birkaç günde seçilebiliyor.
Örneğin ABD’deki MIT üniversitesi, yapay zekâyla 100 milyondan fazla kimyasal bileşiği üç günde taradı. İlaçlara dirençli bakterileri öldürebilecek yeni antibiyotik adayları buldu. Çin’de ise yapay zekâ yardımıyla ölümcül bir akciğer hastalığı için 18 ayda yeni bir ilaç adayı geliştirildi.
Ancak bu teknolojinin bir de diğer yüzü var.
Stanford Üniversitesi, geçen ay yapay zekâyı kullanarak yeni virüsler tasarladı. Bunlar insanlara değil, bakterilere saldıran virüslerdi. Laboratuvarda yaklaşık 300 farklı virüs üretildi. Bunlardan 16’sı koli basiliyle mücadelede etkiliydi. Amaç, antibiyotiklerin işe yaramadığı enfeksiyonlara yeni tedaviler bulmaktı.
★★★
Ancak tüm bunlar şu anlatacağımın yanında masum kalır.
2022 yılında İsviçre’deki bir güvenlik konferansı öncesinde araştırmacılar, hastalıkları tedavi etmek için ilaç molekülleri keşfeden masum bir yapay zekânın güvenlik kilidini kaldırdı. Sistemi tersine çevirerek tek bir komut verdiler. “Bize zehirli moleküller tasarla!”
Sonuç dondurucuydu. Yapay zekâ yalnızca altı saatte 40 bin potansiyel zehirli molekül tasarladı. Aralarında dünyanın en ölümcül kimyasal silahlarından VX sinir gazına benzeyen moleküller de vardı. Bunlar bilgisayarda tasarlanmıştı, ölümcül etkileri laboratuvarda kanıtlanmış yeni silahlar değildi.
Şimdi bu kapasiteyi ayna yaşam senaryosuyla birleştirin.
Dünyanın herhangi bir yerinde, sessiz çalışan bir server’da (sunucuda) kontrolden çıkmış bir yapay zekâ düşünün. Doğanın milyarlarca yıllık kurallarını tersine çevirebilecek bir ayna yaşamın tasarımını hazırlıyor. Bu tasarımı sıradan bir sipariş gibi laboratuvara gönderiyor. Bu Ayna DNA, insanlığın tüm toksisite testlerini, engelleri aşabilir.
Sipariş yerine getiriliyor. Birkaç gün sonra sıradan bir karton kutu, bir kargo uçağıyla yola çıkıyor. İçinde küçük bir cam tüp var. Asker yok, patlama yok, siren sesleri yok. Sadece bir imza karşılığı teslim edilen küçük bir paket.
İşte RAND’ın önlemeye çalıştığı tehlike bu. Henüz yaratılmamış bir canlının bir gün insanlığın karşısına geri döndürülemez bir felaket olarak çıkması.
Çünkü nükleer silahlarla düşmanınızı tehdit edebilirsiniz. Ama kontrolden çıkan bir bakteriye sınır çizemezsiniz.
Bazı kutular vardır ki kapağı bir kez açıldığında bir daha asla kapatılamaz.