ABD ve İran arasındaki gerilimin tırmandığı dönemde Orta Doğu'da bulunan Çin menşeili bir kargo gemisinin yük manifestosunu inceleyen bir askeri analist, yapay zeka aracına başvurdu.
Yapay zekanın gemide nükleer silah bileşenleri taşındığı yönündeki hatalı çıkarımı, onaylanarak resmi bir istihbarat raporuna dönüştürüldü ve ABD ordusunda alarma yol açtı.
SAVAŞ UÇAKLARI HAVALANDI
Hazırlanan hatalı istihbarat üzerine ABD Özel Operasyonlar Komutanlığı Pasifik (SOCOM Pacific) birimince baskın planlandı; silahlı askeri personel hazırlık yaparken savaş uçakları havalandırıldı.
Operasyondan hemen önce raporu detaylandıran yetkililerin, analizin bir yapay zeka sohbet botu çıktısı olduğunu ve bilginin tamamen asılsız olduğunu tespit etmesiyle olası bir askeri çatışma son anda engellendi.
ABD ORDUSU YAPAY ZEKA VİDEOLARI AYIRT EDEMİYOR
Gelişme, ABD ordusunda hızla yaygınlaşan yapay zeka kullanımındaki güvenlik ve doğrulama açıklarını bir kez daha gündeme taşıdı. Güvenlik uzmanları, resmi kurumlarda veri denetimi için ortak bir sistem bulunmamasının ve analistler üzerindeki hızlı rapor hazırlama baskısının benzer yapay zeka kaynaklı hataları ve sivil kayıp risklerini artırdığına dikkat çekiyor.
