Facebook’tan deepfake dolandırıcılığını önleyecek teknoloji

Sosyal medya devi, öncelikle eğlence amaçlı ve sinema sektöründe kullanılan deepfake teknolojisinin son zamanlarda kötü amaçlı kullanılmasını önlemek için yeni bir teknoloji geliştirdi. Facebook, geliştirdiği sistemle sadece deepfake kullanıldığını belirlemiyor aynı zamanda kaynağını da ortaya çıkarıyor.

Facebook’tan deepfake dolandırıcılığını önleyecek teknoloji

Facebook, sistemi geliştirmek için Michigan Eyaletinden bir ekiple çalıştı. Facebook ve Michigan Eyalet Üniversitesi, yalnızca deepfake kullanıldığını tespit etmekle kalmayıp, tersine mühendislikle görüntünün kaynağının da bulunmasını sağlıyor.

Ekip, yayınladıkları bir blog yazısında, “FB-MSU tersine mühendislik tekniği, tam olarak son teknoloji bir metodoloji olmasa da, tek bir deepfake görüntüsü oluşturmak için kullanılan AI modelinin arkasındaki benzersiz kalıpları ortaya çıkarmaya dayanıyor. Görüntü ilişkilendirmesiyle başlıyoruz ve ardından görüntüyü oluşturmak için kullanılan modelin özelliklerini keşfetmeye çalışıyoruz” dedi.

Ayrıca sistemin bir dizi deepfake görüntüsü arasındaki benzerlikleri karşılaştırabileceği ve izleyebileceği, bu sayede de araştırmacıların tahrif edilmiş görüntü gruplarını tek bir üretken kaynağa kadar izleyebileceği belirtildi.

DEEPFAKE NEDİR?

Bir görüntüde yer alan kişinin yapay sinir ağları kullanılarak başka bir kişinin görüntüsü ile değiştirilmesini sağlayan teknoloji özellikle sinema ve eğlence dünyasında kullanılsa da dolandırıcılık gibi kötü amaçlı kullanımlarıyla insanların güvenliğini tehdit ediyor. Son olarak Tom Cruise’un deepfake videolarının TikTok’ta yayınlanmasıyla teknoloji pek çok kullanıcı için endişe yaratmıştı.

Deepfake uygulamasıyla akılalmaz şantaj İlginizi Çekebilir Deepfake uygulamasıyla akılalmaz şantaj Dünyaca ünlü tablolar 'deepfake' ile canlandı İlginizi Çekebilir Dünyaca ünlü tablolar 'deepfake' ile canlandı