Google, kullanıcıların uydu görüntülerini yapay zekâ ile manipüle etmesine olanak tanıyan yeni özelliğini dezenformasyon riskleri nedeniyle durdurma kararı aldı.
Şirket perşembe günü, "Nano Banana" adlı yapay zeka görsel üretme modelini Google Earth’e entegre ettiğini ve kullanıcıların istedikleri komutları yazarak dünyanın herhangi bir yerini sanal olarak yeniden kurgulayabildiklerini açıklamıştı.
Ancak sistemin kullanıma sunulmasının ardından X platformunda Gazze’de sahte bir bomba çukuru, İran’daki nükleer santraller ve Amsterdam’daki bir trafik kazası gibi yapay zeka ile oluşturulmuş gerçek dışı görseller paylaşılmaya başlandı.
UZMANLAR KÜPLERE BİNDİ
Savaş bölgeleri de dâhil olmak üzere erişimi zor alanlardaki bilgileri teyit etmek için Google Earth’ü kullanan açık kaynak istihbaratı (OSINT) uzmanları, söz konusu aracın platformun güvenilirliğini zedeleyebileceği uyarısında bulundu.
Alan Turing Enstitüsü Kıdemli Araştırmacısı Sam Stockwell, Google Earth’ün onlarca yıldır gazeteciler ve araştırmacılar için şüpheli görselleri kontrol etme noktası olarak hizmet verdiğini belirterek, aynı doğrulama sisteminin içine üretken bir araç eklemenin sahtelikleri ortaya çıkarmak için kullanılan ölçütü bozduğunu ifade etti.
OSINT uzmanı ve "Digital Digging" bülteninin yazarı Henk van Ess ise sahte içeriklerin artık insanların görsellerin gerçekliğini kontrol etmek için kullandığı aracın içinde üretildiğine dikkat çekti.
American Enterprise Institute Araştırma Analisti Brady Africk de bu aracın, sahte içerikleri gerçek uydu görüntülerine sabitleyerek arazi ve ölçek uyumsuzluğu gibi yapay zekâ izlerini ortadan kaldırdığını vurguladı.
Africk, insanların akış esnasında görsellerin yapay zekâ üretimi olup olmadığını az sayıda kontrol ettiğini belirterek filigranların yanıltmayı engellemek için yeterli olmayacağı konusunda uyardı.
GOOGLE GERİ ADIM ATTI
Tepkilerin ardından cuma günü bir açıklama yapan Google, daha güçlü güvenlik önlemleri üzerinde çalışırken Google Earth’teki bu özelliği geri çekeceklerini duyurdu.
Şirket ayrıca, politikalarını ihlal eder görünen yapay zeka üretimi ekran görüntülerinin paylaşıldığını tespit ettiklerini, ancak üretilen görsellerin diğer kullanıcıların görebileceği ana Google Earth deneyiminde yer almadığını ve yapay zeka ile üretildiğine dair filigran taşındığını belirtti.
Bu gelişme, sosyal medyada yapay zekâ destekli görsellerin yayılmasına ve sahte kanıtların kolayca üretilmesine yönelik endişelerin arttığı bir dönemde yaşandı.
