Büyük tehlike! Çoğu insan farkı anlayamıyor
Yapay zeka teknolojileri hayatımıza daha fazla entegre oldukça, sentetik seslerle gerçek insan sesleri arasındaki çizgi bulanıklaşıyor. Yeni yayımlanan bir araştırma, çoğu insanın bu iki ses türünü birbirinden ayırt etmekte zorlandığını ortaya koydu.
PLoS One dergisinde yayımlanan çalışmada, katılımcılara toplamda 80 farklı ses örneği dinletildi. Bu örneklerin yarısı gerçek insanlara aitken, diğer yarısı yapay zeka tarafından oluşturulmuştu. Yapay sesler iki kategoriye ayrıldı: Sıfırdan yaratılan jenerik sesler ve gerçek insan seslerinden klonlanan sentetik sesler.
Katılımcıların çoğu jenerik yapay zeka seslerini sahte olarak tanımlayabildi. Ancak klonlanmış sesler için durum farklıydı. Bu seslerin yüzde 58’i gerçek zannedildi. Gerçek insan seslerinin ise sadece yüzde 62’si doğru biçimde tanındı. Aradaki farkın bu kadar küçük olması, ses teknolojilerinin ulaştığı seviyeyi gözler önüne seriyor.
İLERİ TEKNOLİJE GEREK YOK
Araştırmanın başyazarı ve Queen Mary Üniversitesi’nden Dr. Nadine Lavan, yapay zeka tarafından oluşturulan seslerin, özellikle klonların, gerçek insan kayıtları kadar doğal duyulmasının en çarpıcı bulgulardan biri olduğunu belirtti.
Dahası, bu sesleri yaratmak için özel yazılımlara veya ileri teknoloji bilgisine sahip olmak gerekmiyor. Lavan’a göre herkesin erişebileceği ticari araçlarla bu sesler üretilebiliyor.
TEHLİKE BÜYÜK
Ancak bu teknolojinin kötüye kullanım riski de büyük. Yapay zeka ses klonlama sistemleri, bir kişinin ses özelliklerini analiz ederek onları neredeyse birebir taklit edebiliyor.
Bazı dolandırıcılar, sosyal medya üzerinden topladıkları sesleri kullanarak sevdiklerinin seslerini taklit edip telefon dolandırıcılığı yapabiliyor. Portsmouth Üniversitesi’nin verilerine göre, 75 yaş üzerindeki bireylerin üçte ikisi bu tür dolandırıcılık girişimlerine maruz kalıyor ve bunların büyük kısmı sesli aramalarla gerçekleşiyor.
DOLANDIRICILIKLA SINIRLI DEĞİL
Yapay zeka destekli seslerin kötüye kullanım potansiyeli sadece dolandırıcılıkla sınırlı değil. Ünlülerin seslerinin izinsiz şekilde kullanılması, kamuoyunu manipüle eden sahte politikacı veya gazeteci sesleri de giderek yaygınlaşıyor. Scarlett Johansson’ın geçen yıl bir yapay zeka sesinin kendi sesine “ürkütücü şekilde” benzediğini açıklaması bu tartışmaları alevlendirmişti.
Dr. Lavan, bu gelişmeler karşısında yapay zeka geliştiricilerinin etik sorumluluk taşıdığını vurguluyor. Şirketlerin, etik uzmanları ve yasa yapıcılarla iş birliği içinde çalışarak özellikle seslerin mülkiyeti ve rıza gibi hassas konulara dikkat etmesi gerektiğini ifade ediyor.
UZMANLAR OLUMLU YÖNLERE DE DİKKAT ÇEKİYOR
Öte yandan, yapay zeka ses teknolojisinin olumlu yönleri de dikkat çekici. Konuşma yetisini kaybetmiş bireyler için kişiselleştirilmiş ses çözümleri sunulabiliyor. Stephen Hawking örneği bu alandaki geçmiş kullanımları hatırlatsa da, günümüzde seslerin kişiselleştirme kapasitesi çok daha gelişmiş durumda.
Yapay ses teknolojileri, eğitim ve yayıncılık gibi alanlarda da fırsatlar sunuyor. DEHB gibi nöroçeşitliliğe sahip öğrenciler için sesli öğrenmenin motivasyonu artırdığı gösterildi. Ayrıca bir sesi farklı dillere kopyalama yeteneği sayesinde bireyler kendi ses kimliklerini koruyarak çok dilli iletişim kurabiliyor.