Ekrandaki görüntü, sakalları ağarmış, güven verici bakışlara sahip yaşlıca beyaz bir adama aitti. Skype üzerinden ( bugün itibarıyla kapatılacak ) yaptığı görüntülü görüşmede, arabada olduğu görülen yaşlı bir kadına sesleniyor. En azından şimdi, bana gönderdiğin fotoğraftaki halinden çok daha güzel ve yakışıklı olduğunu görüyorum, diyor gülümseyerek. Gururlanarak gülüyor. Sanırım seni güvende tutmak için güvenlik görevlileri göndermeliyim, böylece kimse yaklaşamaz, diye ekliyor. Kadın daha da yüksek sesle gülerek ona iyi olacağına dair güvence verir. İki kişinin internet üzerinden birbirlerini tanımaya çalışması sonucu gerçekleşen, ilk bakışta zararsız bir diyalog gibi görünen bu sahne, aslında rahatsız edici bir gerçeği gizliyor.
Hikayedeki adam gerçekte yoktur, o bir dolandırıcı tarafından gerçek zamanlı olarak oluşturulmuş bir deepfake'tir, büyük ihtimalle dizüstü bilgisayar ve web kamerasının önünde oturan genç bir siyahi adamdır. Yazılım, adamın görünümünü anında yaşlı adamın görünümüne dönüştürüyor ve değiştirilmiş görüntüyü doğrudan Skype görüşmesine canlı olarak yansıtıyor. Amaç? Muhtemelen kurbanı bir aşk dolandırıcılığına çekmek, duygusal bir bağ kurmak ve ardından para istemek.
Bu, münferit bir vaka değil, dijital dolandırıcılığın yeni, endişe verici sınırıdır. Aylardır Telegram dolandırıcılık kanallarında bu teknolojinin yayılmasını takip eden uzmanların bildirdiğine göre, dolandırıcılar artık bir kimlikteki, bir flört profilindeki veya hatta bir ünlüdeki fotoğrafı eşleştirmek için görünüşünüzü gerçek zamanlı olarak dijital olarak değiştirebiliyor. Basit bir dizüstü bilgisayar, akıllı telefon ve nispeten uygun fiyatlı bir yazılımla gerçek kimliklerini gizleyebilen dijital bukalemunlara dönüşüyorlar ve korkutucu derecede gerçekçi sonuçlar elde ediyorlar.
Deepfake teknolojisi yeni bir şey değil. Taylor Swift, Joe Rogan, Arnold Schwarzenegger veya Sylvester Stallone gibi ünlülerin deepfake versiyonlarını kullanan ve Medicare planlarından erektil disfonksiyon takviyelerine kadar şüpheli ürünleri tanıtan aldatıcı sosyal medya reklamlarına artık birçok kişi aşina. Ancak bu videolar önceden oluşturulmuştu statik dosyalar kaydediliyor, zaman içinde iyileştiriliyor ve daha sonra çevrimiçi olarak yükleniyorlardı.
Dolandırıcılar için asıl çığır açan gelişme, deepfake'lerin gerçek zamanlı olarak kullanılabilmesi. Bu, önceden tanımlanmış senaryolara güvenmek yerine, video görüşmeleri veya canlı yayınlar sırasında doğaçlama yaparak doğrudan kurbanla etkileşime girmelerine olanak tanır. Taklit ettikleri kişi kadar insan gibi görünebilirler ve yalnızca savunmasız bireyleri değil, aynı zamanda örneğin finansal kuruluşlarda hesap açmak için gerekli olan otomatik kimlik doğrulama sistemlerini de kandırabilirler.
Bu teknolojinin evrimi hızlı oldu. Birkaç ay öncesine kadar dolandırıcıların kanallarında gözlemlenen sonuçlar çoğunlukla beceriksiz ve doğal değildi, kripto para platformlarının kontrollerini aşmak için fotoğrafları canlandırma girişimleri veya ikna edici olmayan videolar gibi. Ancak son zamanlarda kalite katlanarak arttı. Dolandırıcılar, kaynak tarafından izlenen çok sayıda videodan da anlaşılacağı üzere, deepfake kimliklerini koruyarak uzun süreler boyunca görüntülü görüşmeleri sürdürebileceklerini kanıtladılar. Belgelenen başka bir örnekte, beyzbol şapkalı çekici bir adam, WhatsApp görüntülü görüşmesi sırasında konuşan yaşlı bir kadınla flört ediyor ve ardından kamerayı hareket ettirerek kurulumunu ortaya çıkarıyor, bir dizüstü bilgisayar, çeşitli yazılımların açık olduğu dev bir ekran ve daha da önemlisi, deepfake'in ayrıntılarını ve gerçekçiliğini artırmak için önemli olduğuna inanılan bir aksesuar olan halka ışık.
Kullanılan teknikler değişiklik gösterir, ancak sıklıkla belirli donanım ve yazılımların bir kombinasyonunu içerir. YouTube ve Instagram'da eğitim videoları yayınlayan bunların şaka ve eğitim amaçlı olduğunu iddia ederken, Telegram'da yedi yıldan fazla bir süredir Format Boy, akıllı telefon, dizüstü bilgisayar, ekran yansıtma yazılımı, sanal kamera oluşturmak için OBS canlı yayın aracı, video akışını yönlendirmek için NDI araçları ve deepfake için temel olarak herhangi bir fotoğrafı yüklemenize izin veren Amigo AI veya Magicam gibi yüz değiştirme uygulamalarını içeren yöntemleri açıklıyor. Diğer daha gelişmiş teknikler DeepFaceLive ve DeepLiveCam gibi araçları kullanır, ancak bunlar güçlü grafik kartlarına (GPU'lar) sahip dizüstü bilgisayarlar gerektirir. Dolandırıcılar, daha düşük maliyetlerle yüksek kaliteli sonuçlar sunan uygulamalara hızla yöneliyor gibi görünüyor. İllüzyonu tamamlamak için sıklıkla ses değiştiriciler (yazılım veya donanım) eklenir.
Format Boy, mevcut teknolojinin romantik dolandırıcılıklara karşı etkili olduğuna ikna olduğunu ancak KYC kontrollerini sürekli olarak aşmak için henüz yeterince iyi olmadığını söylerken, yapay zeka ve siber güvenlik alanlarındaki birkaç araştırmacı alarm veriyor. Siber güvenlik firmaları dolandırıcılık birimleri şunları aktardı.
Dolandırıcıların yapay zeka ile yeni bir yüz oluşturduklarını, bunun üzerine çalıntı veya sahte ehliyet yerleştirdiklerini ve bu sentetik kimlik altında banka hesabı açmaya çalıştıklarını anlattı.
Bu tür girişimlerin sıklığının son bir yılda arttığını sözlerine ekleyerek, CashApp'te bir deepfake'in kimlik doğrulama sürecini başarıyla geçtiği bir videoyu paylaştı.
İşletmeler için deepfake tespit çözümleri geliştiren Reality Defender şirketi de, ürünlerinin Zoom ve Teams gibi video konferans platformlarıyla entegre edilmesi ve KYC doğrulaması için gelen taleplerde "önemli bir artış" olduğunu doğruladı. Afrika, Singapur ve Kuzey Kore'deki müşterilerin bildirdiği gerçek zamanlı deepfake olaylarını doğruladılar.
Kullanılan uygulamalardan bazılarının arkasındaki şirketler, örneğin Magicam, dolandırıcılık amaçlı kullanımdan haberdar olmadıklarını ve kullanıcıların gizliliğine saygı göstererek kötüye kullanımı önlemek için çözümler aradıklarını söylüyor. Amigo AI yorum taleplerine yanıt vermedi.
Telegram kanalında “Ben milyoner yaratmak için buradayım” diyen Format Boy gibi isimlerin kolaylaştırdığı bu tekniklerin yaygınlaşması önemli bir meydan okumayı temsil ediyor. Gerçek zamanlı olarak ikna edici deepfake'ler yaratma yeteneği, karmaşık dolandırıcılıklara yönelik giriş engelini daha da düşürüyor ve yalnızca bireyleri romantik dolandırıcılıklarda riske atmakla kalmıyor, aynı zamanda finansal ve kimlik doğrulama sistemlerinin bütünlüğünü de tehlikeye atıyor. Dolandırıcılığın yeni cephesi burada, hem de her zamankinden daha güvenilir ve etkileşimli.
