Birinin yüzünü görüntülü aramada görmek, eskiden gerçekten o kişiyle konuştuğunuzun yeterli kanıtı gibi gelirdi. Anneniz, patronunuz veya bir arkadaşınız sizi görüntülü aradığında, muhtemelen ikinci kez düşünmezdiniz. Ancak yapay zeka destekli görüntülü arama dolandırıcılıklarının artmasıyla, bu varsayım artık geçerli değil.
Dolandırıcılar artık gerçek zamanlı yapay zeka yazılımlarını kullanarak, canlı arama sırasında kendi yüzlerinin üzerine başka birinin yüzünü bindirebiliyor. 2024 yılında, Hong Kong’da bir finans çalışanı, şirketinin CFO’sunun deepfake görüntüsüyle yapılan bir video aramanın ardından 25 milyon dolar havale etti, Hong Kong polisinin açıklamasına göre. Bu araçlara erişim kolaylaştıkça, bir görüntülü aramanın gerçek olup olmadığını anlayabilmek temel bir güvenlik becerisi haline geldi.
Güçlü donanım kullanılsa bile, bu yapay zeka araçları canlı video işleme sırasında hâlâ zorlanıyor. İşte canlı bir aramada olası bir deepfake’i fark etmek için kullanabileceğiniz 5 basit test.
Canlı Görüntülü Arama Deepfake’i Nasıl Çalışır?
Canlı deepfake aramalar, genellikle veri toplama, gerçek zamanlı işleme ve donanım aldatmacasının birleştiği birkaç adım üzerinden işler.
1. Veri Toplama ve Hedef Eğitim
Dolandırıcı, hedef aldığı kişinin (örneğin bir akraba veya şirket yöneticisi) sosyal medyada herkese açık olan fotoğraf ve videolarını indirir. Bu dosyaları, yapay zekanın hedef kişinin yüzünü farklı açılardan tanıyabilmesi için eğitmekte kullanır. Ayrıca, arama sırasında kişinin sesini klonlayabilmek için kısa ses kayıtları da toplar.
2. Gerçek Zamanlı Yüz ve Mimik Takibi
Arama sırasında dolandırıcı kendi web kamerasının karşısına oturur. Canlı çalışan yapay zeka yazılımı, dolandırıcının yüzünü gerçek zamanlı olarak takip eder; göz, burun ve ağız gibi kilit noktaları haritalayarak her göz kırpışını ve dudak hareketini yakalar. Aynı anda, yapay zeka ses tonunu ve konuşma hızını gerçek zamanlı olarak hedef kişinin konuşma stiline uyacak şekilde ayarlar.
3. Anlık Yapay Zeka Yüz Değişimi (Render İşlemi)
Dolandırıcı konuşurken, GPU videoyu gerçek zamanlı olarak işler. Yapay zeka algoritması, dolandırıcının mimiklerini ve ağız hareketlerini anlık olarak alır ve bunların üzerine hedef kişinin yüzünü bindirir. Bu “dikme” süreci, saniyede genellikle 30 kare olacak şekilde kare kare gerçekleşir ve kesintisiz bir canlı video maskesi oluşturur.
4. Sanal Kamera Üzerinden Yönlendirme
Bu sahte videonun uygulamalara aktarılabilmesi için dolandırıcı, bir “Virtual Camera” sürücüsü kullanır. Bu yazılım, telefonunuzu veya bilgisayarınızı gerçek bir web kameranın çalıştığına ikna eder; oysa ekrana yansıyan, aslında yapay zeka ile üretilmiş sahte yüzdür.
Görüntülü Aramada Deepfake Tespiti İçin 5 Gerçek Zamanlı Test
1. Karşı Taraftan 90 Derecelik Profil Dönüşü İsteyin
Çoğu yüz değiştirme yazılımı, hedef kişinin yüzüne ait net verilere dayanır; bu veriler genellikle herkese açık fotoğraflar ve önden çekilmiş videolardan toplanır. Algoritma, göz, burun ve ağız gibi noktaları haritalandırır.
Başın geniş açıyla hareket etmesi, kişinin kameraya tam karşıdan baktığı anlarda fark edilmesi zor olan görsel bozulmaları ortaya çıkarabilir. Arayan kişiden başını tamamen sola veya sağa çevirmesini isteyin. Yüz kenarında bozulma, yanaklarda esneme ya da hareket sırasında kısa süreli görüntü kaymaları olup olmadığına dikkat edin.
2. El ile Yüzü Kapama Testi
Modern yapay zeka modelleri, yüzün kısmen kapanması durumlarını eskisine kıyasla daha iyi yönetebiliyor olsa da, ani el hareketleri bazı gerçek zamanlı yüz değiştirme sistemlerinde hâlâ tutarsızlıklara yol açabilir. Arayan kişiden elini yüzünün önünden hızlıca sallamasını ya da tek gözünü kapatmasını isteyin. Hızlı hareket sırasında parmak uçlarının etrafında “hayalet” görüntü, kısa süreli bulanıklık veya doğal görünmeyen kenarlar olup olmadığına bakın.
3. Işık Değişimi Testi
Arayan kişi akıllı telefon kullanıyorsa, telefonun flaşını açıp yüzüne doğru tutmasını veya bir pencerenin yanına gitmesini isteyin. Gerçek bir görüntülü aramada, burun ve çene hattındaki gölgeler ışığa bağlı olarak anında değişir. Yüzdeki ışıklandırma, odanın geri kalanıyla uyumsuz görünüyorsa, bu durum üzerinde durmaya değer.
4. Göz Kırpma ve Fiziksel Ayrıntılara Dikkat Edin
Kişinin ne sıklıkla göz kırptığına ve nereye baktığına yakından dikkat edin. Gözlerin baş hareketleriyle doğal bir şekilde uyumlu hareket edip etmediğini gözlemleyin; çene hattı, kulaklar, saç çizgisi ve boyun bölgesinde karışma veya hizalama hataları olup olmadığına bakın.
5. Ses ile Dudak Hareketinin Eşleşmesini Kontrol Edin
Canlı görüntülü aramalar yüksek bant genişliği gerektirir ve buna bir de yapay zeka ile yüz değiştirme aracı eklendiğinde, ek bir veri işleme katmanı oluşur. Bu ekstra işlem, gecikmeye neden olur.
Arayan kişiye, “evet” veya “hayır”dan daha karmaşık bir cevap gerektiren bir soru sorun. Dudaklarına dikkatle bakın. Konuşma ile dudak hareketleri sürekli olarak geriden geliyorsa ya da ağız şekli söylenen kelimelerle tutarlı değilse, bu aramayı daha dikkatli incelemeniz gerekir.
Tek bir test, bir deepfake’i kesin olarak kanıtlamaya yetmez; ancak birden fazla sorun aynı anda ortaya çıkıyorsa, bu durum güçlü bir şüphe nedeni olmalıdır.
Canlı Deepfake’ler Neden Gerçek Zamanlı Olarak Hata Verir?
Görüntülü aramada deepfake tespitini anlamak için, bu sistemlerin bilgisayarlara ne kadar yük bindirdiğini bilmeniz gerekir. Canlı yayın sırasında yazılım, dolandırıcının yüzünü yakalayıp, onu kurbanın tanıdığı kişinin yüzüne dönüştürmeli ve bunu saniyede 30 kare hızla tekrar video akışına yerleştirmelidir.
Bu süreçte sonradan düzenleme yapma imkânı yoktur. Önceden kaydedilmiş bir deepfake videoda, içerik üreticileri kare kare hataları düzeltmek için günler harcayabilir. Ancak canlı bir aramada yazılım, her kararı anında vermek zorundadır. Zayıf internet bağlantıları, ağ gecikmeleri ve paket kayıpları, yapay zekanın kusursuz bir maske sürdürmesini daha da zorlaştırır. Bu nedenle, başı yana çevirtmek veya el sallatmak gibi küçük fiziksel testler bile illüzyonu bozabilir.
“10 Saniyelik Kopma” Hilesi
Dolandırıcılar, canlı deepfake ne kadar uzun sürerse, hata riskinin o kadar arttığını biliyor. Ortaya çıkma olasılığını azaltmak için, görüntülü aramaları çoğu zaman hemen ardından gelen yazılı mesajlarla birleştiriyorlar.
Mesajlaşma uygulamanızda bir görüntülü arama alırsınız. Açarsınız ve ekranda arkadaşınızın yüzünü görürsünüz. Paniklemiş görünür ve klonlanmış bir sesle “Başım dertte, az önce bir kaza—” der.
Sonra arama aniden kesilir. Size, sıradan bir bağlantı kopması gibi görünür.
Bir saniye sonra, aynı hesaptan bir metin mesajı gelir: “Burada çekim çok kötü. Şarjım da bitmek üzere. Hastane için acil nakit depozito lazım. Lütfen bu hesaba hemen para gönder.”
Sahte bir hat kesintisi izlenimi oluşturarak, yapay zekanın canlı video sırasında vereceği hataları saklarlar. Eğer bir görüntülü arama aniden kesilir ve hemen ardından para talebi içeren bir mesaj gelirse, durumu şüpheli değerlendirin. Görüşmeyi sonlandırın ve kişiyi doğrulamak için standart bir cep telefonu hattı üzerinden tekrar arayın.
Kullandığınız Görüntülü Arama Uygulaması Güvenliği Nasıl Etkiler?
Kullandığınız uygulama da bu tür dolandırıcılıkları fark etme ihtimalinizi etkiler. Bazı mesajlaşma uygulamaları, sunucu maliyetlerini azaltmak için video verisini ağır şekilde sıkıştırır. Yüksek sıkıştırma, görüntünün bulanık ve pikselli olmasına yol açar. İronik olarak, bu bulanıklık dolandırıcıların işine yarar; çünkü düşük çözünürlük, yapay zeka araçlarının yarattığı küçük piksel yırtılmalarını, uyumsuz cilt tonlarını ve dijital artefaktları gizler.
Bu nedenle görüntü netliği kritik önemdedir. Örneğin imo, sunduğu yüksek çözünürlüklü (HD) görüntülü arama özelliği sayesinde kesintisiz ve net bir video akışı sağlar. Görüntü kalitesi yüksek olduğunda, deepfake maske etkisini ele veren boş bakışları, yapay dudak hareketlerini veya kenar bozulmalarını çok daha kolay fark edebilirsiniz.
Sıkça Sorulan Sorular
Bu deepfake görüntülü arama dolandırıcılıkları genelde ne amaçla kullanılıyor?
Neredeyse her zaman para çalmak için kullanılıyor; özellikle de romantik dolandırıcılık (ya da “pig butchering”) türü senaryolarda. Dolandırıcılar önce çevrimiçi ortamda güven kazanıyor, ardından gerçek bir kişi olduklarını “kanıtlamak” için kısa bir deepfake görüntülü arama kullanıyor ve sonrasında nakit veya kripto para talep ediyor. Aynı yöntemi, patronunuz veya acil para isteyen bir akrabanız gibi davranmak için de kullanabiliyorlar.
Deepfake’ler doğrudan cep telefonunda üretilebilir mi?
Basit yüz değiştirme uygulamaları telefonda çalışabilir, ancak kalite oldukça düşüktür. Daha sofistike dolandırıcılık senaryolarında, yapay zeka maskesini akıcı şekilde üretebilmek için genellikle güçlü bir masaüstü bilgisayar gerekir; bu görüntü daha sonra sanal kamera kurulumuyla mobil uygulamalara aktarılır.
Arama sırasında deepfake’leri otomatik tespit eden araçlar var mı?
Güvenlik şirketleri otomatik tespit araçları üzerinde çalışıyor, ancak bu çözümler henüz son kullanıcı uygulamalarında yaygın olarak bulunmuyor. Şimdilik, profil dönüşü gibi davranış temelli testlere güvenmek hâlâ en güçlü seçeneğiniz.
Kaynaklar:
https://vsquare.org/when-your-clone-calls-how-ai-voice-fraud-became-a-billion-dollar-industry/
https://www.ncoa.org/article/understanding-deepfakes-what-older-adults-need-to-know/