Wideo jaňda ekranda adamyň ýüzüni görmek ozal şol adam bilen hakykatdan hem gepleşýändigiňize ýeterlik subutnama ýaly görünýärdi. Eger eneňiz, ýolbaşçaňyz ýa-da dostuňyz wideo arkaly jaň etse, köplenç ikilenç etmeýärdiňiz. Emma häzirki wagtda AI video jaň galplyklarynyň (AI video call scam) artmagy bilen, bu köne düşünje indi öz güýjüni ýitirdi.
Galplykçylar diri wideo jaň dowamynda ýüzlerine başga bir adamyň ýüzüni “geýdirmek” üçin real wagtlaýyn AI programmalary ulanýarlar. 2024-nji ýylda Gonkongda bir maliýe işgäriniň kompaniýasynyň maliýe direktorynyň (CFO) deepfake görnüşi bilen wideo jaňdan soň 25 million dollar geçirendigi, Gonkong polisiýasynyň berýän maglumatlaryna görä, resmi taýdan ýazga alyndy. Bu gurallaryň barha elýeterli bolmagy bilen, wideo jaňyň hakykylygını anyklamak indi gutulgysyz howpsuzlyk endigine öwrüldi.
In wezipeli apparat üpjünçiligine (güýçli enjamlara) garamazdan, bu AI ulgamlary göni ýaýlymda wideo işlemekde entek-de kynçylyk çekýärler. Aşakda diri jaň wagtynda deepfake bolup biljek ýagdaýy tanamak üçin ulanup boljak 5 ýönekeý synag bilen paýlaşýarys.
Diri Wideo Jaňdaki Deepfake Nädip İşleýär?
Diri deepfake jaň adatça maglumat toplamak, real wagtlaýyn işlemek we enjam mümkinçiliklerini aldamak ýaly birnäçe tapgyry birleşdirip işleýär.
1. Maglumat Toplamak we Maksat Obýektini Öwretmek
Galplykçy sosial ulgamlar ýaly umumy elýeterli ýerlerden maksada öwrülen adamyň (mysal üçin, garyndaş ýa-da kompaniýa ýolbaşçysy) suratly we wideo materiallaryny ýükläp alýar. Bu faýllary AI ulgamyna dürli burçlardan ýüz şekilini tanatmak üçin ulanylýar. Şeýle hem olaryň ses ýazgylary ýygnalýar, soňra jaň wagtynda şol adamyň sesini çalşyryp bilýän klon ses döredmek üçin peýdalanylýar.
2. Real Wagtlaýyn Ýüz we Mimikany Yzarlaýyş
Jaň wagtynda galplykçy öz webkammerasynyň öňüne geçýär. Diri AI programma onuň ýüzüni real wagtda yzarlaýar, göz, burun, dodak ýaly esasy nokatlary belläp, her bir garpyndyny we dodak hereketini ýazga alýar. Şol bir wagtyň özünde, AI sesiň tony we gürlemek tizligini hem maksada öwrülen adamyň gürleýiş usulyna laýyklaşdyrýar.
3. Instant AI Face Swapping (Render Etmek)
Galplykçy gürleýän mahaly, GPU wideo maglumatlary real wagtda işläp berýär. AI algoritmi onuň mimikasyny we dodak hereketlerini okam-okan alyp, onuň ýüzüne maksat adamynyň ýüz keşbini “geýdirýär”. Bu “tikme” prosesi her kadrda aýratyn bolýar, adatça sekuntda 30 kadr töweregi, we şeýlelikde dowamly diri “wideo maska” döredilýär.
4. Wirtual Kamera arkaly Ýollamak
Bu ýasama wideony programmalar kabul etsin diýse, galplykçy “Virtual Camera” driver ulanýar. Bu programma telefon ýa-da kompýutere hakyky webkamera işleýär diýip pikir etdirýär, emma aslynda AI arkaly döredilen ýasama ýüz keşbini sizin diri jaň ekranyna akdyrýar.
Diri Wideo Jaňdaky Deepfake-i Anyklamak üçin 5 Real Wagtlaýyn Synag
1. Ýüzüni 90 dereje gapdala öwürmegini haýyş ediň
AI esasynda ýüz çalyşýan köp programma maksat adamynyň ýüzüni doly görkezýän maglumatlara bil baglaýar, olar hem köplenç öňden düşürilen suratlar we wideo ýazgylardyr. Algoritm göz, burun, dodak ýaly esasy nokatlary kartoçka düşürýär.
Başyň uly göwrümli hereketleri kamera göni seredilende aňsat görünmeýän käbir görnetin “artefaktlary” ýüze çykaryp biler. Jaň edýän adamdan başyny doly çep tarapa ýa-da sag tarapa öwürmegini haýyş ediň. Şol pursatda ýüzüň gyralaryndaky ýyrtyk ýaly ýygrylmalara, ýüziň gapdalyndaky derileriň üznüksiz däl ýaly gerilmegine ýa-da gysgajyk “bökmelere” üns beriň.
2. Eli Bilen Ýüzüni Örtmek Synagy
Häzirki zaman AI modelleri ýüze düşýän böwetleri öňküler bilen deňeşdirilende has gowy dolandyrsa-da, el bilen edilen çalt hereketler käbir diri ýüz çalyşma ulgamlarynda henizem-de käbir nädogrylyklar döredip bilýär. Jaň edýän adamdan elini ýüzüniň öňünde çalt bulamaklygyny ýa-da bir gözüni el bilen ýapmagyny talap ediň. Şol pursatda barmaklaryň töweregindäki “duşak ýaly köpelme” (ghosting), gysgaça bulaşma ýa-da naturadan daşlaşan gyralary gözden geçiriň.
3. Yşyk Üýtgeşmesi Synagy
Eger jaň edýän adam smartfon ulanýan bolsa, ondan telefonynyň fonaruny (flashlight) ýakmagyny we ýüzüne tarap tutmagyny ýa-da penjirä tarap geçmegini haýyş ediň. Hakyky jaňda burun we çene töweregindäki kölegeler yşyk bilen bile sähelçe-de bolsa üýtgeýär. Eger ýüzdäki yşyklandyrma otagyň beýleki böleklerindäki yşyk bilen sazlaşmaýar we üznüksiz däl ýaly görünse, şoňa üns bermegiňize laýyk sebäp bar diýmekdir.
4. Garpyndylara we Fiziologik Ownuk Kemçiliklere Syn Ediň
Adamyň näçe ýygy-ýygydan garpyndy edýändigine we gözüniň nirä seredýändigine ýakyndan serediň. Gözleriň baş hereketleri bilen bile tebigy yzarlaýşyna üns beriň, şeýle hem ýüziň aşaky çyzygy (jawline), gulak, saçyň başlaýyş ýeri we boýn töwereginde garyşyk ýerleriň barlygyny barlaň – şol ýerlerde üýtgeşik “galkymalar” peýda bolup biler.
5. Ses bilen Dodak Hereketleriniň Utgaşygyny Barlaň
Diri wideo jaňlar eýýäm ýokary internet giň zolaklygyny talap edýär, ýüz çalyşýan AI gurallaryny goşmak bolsa, maglumat işlemäge goşmaça ýük berýär. Şol goşmaça işlemek belli bir gijikmä sebäp bolýar.
Sada “hawa” ýa-da “ýok” jogaba däl-de, has çylşyrymly jogap talap edýän sowal beriň. Jogap berýän mahaly dodaklara ýakyndan serediň. Eger dodaklaryň hereketi sesden hemişe gijä galyp gelýän ýa-da sözler bilen utgaşmaýan ýaly duýulsa, şol jaňy has içgin derňemäge sebäp bar.
Hiç bir synag özbaşyna deepfake bar dedi diýmäge ýeterlik däl, emma birnäçe alamatyň bile çykmagy şübhe döredäýmeli.
Näme Üçin Diri Deepfake-lar Real Wagtda Sazlaşman Galýar?
Wideo jaňdaky deepfake-i anyklamak boýunça düşünje edinmek üçin, bu ulgamlaryň kompýutere edýän basyşyny hem düşünmek möhümdir. Diri ýaýlym wagtynda programma galplykçynyň ýüzüni ýazga almaly, ony siziň tanyş adamyňyza meňzetmeli we şoňy hem sekuntda 30 kadr töweregi tizlikde wideo akymyna gaýtadan ýerleşdirmeli bolýar.
Bu prosesde soňundan montaj ýa-da täzeden düzediş girizmek üçin hiç hili mümkinçilik ýok. Öňünden ýazylan deepfake wideo görnüşlerinde döredijiler kadrlary birme-bir üýtgedip, käwagt günlerläp kemçilikleri düzedýärler. Diri jaňda bolsa programma ähli kararyny birbada, hereketsiz ýagdaýda kabul etmeli bolýar. Pes hilindäki internet, setdäki dörän böleklenmeler we paket ýitgileri AI üçin kemsiz maskany saklamagy has-da kynlaşdyrýar. Şonuň üçin-de başy öwürmek, el bilen ýakynlykda tolgunmak ýaly fiziki kiçi synaglar hem bu aldaw maskasyny döwüp biler.
“10 Sekuntlyk Aragatnaşyk Üzülmesi” Hilesi
Galplykçylar diri deepfake näçe uzak dowam etse, şonça-da glitch ýüze çykmagyna mümkinçiligiň artýandygyny bilýärler. Şonuň üçin ýüzleriniň tutulmak töwekgelçiligini azaltmak üçin, olar köplenç wideo jaňy soňky tekst habarlary bilen garyşdyryp ulanýarlar.
Mesaj programmasynda siziňkä meňzeýän hasapdan wideo jaň gelýär. Siz jaňy alýarsyňyz we ekranda dostuňyzyň ýüzüni görýärsiňiz. Ol gorkuly görnüşde, klon ses bilen: “Men kyn ýagdaýa düşdüm, ýaňy bir awto…” diýen ýaly sözler bilen başlaýar.
Şol pursat jaň birden kesilýär. Siziň üçin bu, adaty internet aragatnaşygynyň bozulmagy ýaly görünýär.
Birnäçe sekuntdan soň, şol bir hasapdan tekst habary gelýär: “Sinyal örän pes, batareýam hem gutarýar. Meniň gyssagly ýagdaýda keselhana puly gerek. Ine şu hasaba tiz wagtda pul geçirip bilersiňmi?”.
Olar jaňyň “tötänleýin” kesilendigini gorkuzmak arkaly, AI wideodaky gowşak ýerlerini real wagtda görkezmezden gaça durýarlar. Eger wideo jaň kesilip, dessine pul islegi bilen habaryň gelmegi ýaly ýagdaý ýüze çyksa, muny ýokary derejede şübheli hasaplaň. Jaňy taşlap, şol adama adaty mobil jaň arkaly gaýtadan jaň edip, ýagdaýy barlaň.
Wideo Jaň Programmaňyz Howpsuzlyga Nädip Täsir Edýär?
Ulanýan programmaňyz hem bu hili galplyklaryň nähili aňsat ýa-da kyn tanalýandygyna täsir edýär. Käbir mesaj programmalary serwer çykdajylaryny azaltmak üçin wideony güýçli daraltma arkaly (compression) iberýär. Güýçli daraldylan wideo bulaşyk, pikselli görnüşe eýe bolýar. Paradoksal ýagdaýda, bu bulaşyklyk galplykçylaryň peýdasyna işleýär, sebäbi pes durulykdaky şekiller AI guraly tarapyndan döredilen ownuk piksel ýyrtyklaryny, deri reňkleriniň utgaşmazlygyny we sanly artefaktlary gizleýär.
Şonuň üçin wideo durulygy örän möhümdir. Mysal üçin, imo özüniň ýokary durulykdaky (HD hilli) wideojaň aýratynlygy bilen üznüksiz we dury şekili üpjün edýär. Wideo hili şeýlebir dury bolanda, boş seredýän ýaly garaýyşlary, süýji däl dodak hereketlerini ýa-da ýüz gyralaryndaky üýtgeşik garyşyk ýerleri – ýagny deepfake maskasyny paş edýän alamatlary – has aňsat görüp bolýar.
Köp Sorag Berilýän Soraglar
Deepfake wideo jaň galplyklary adatça näme maksady bilen ulanylýar?
Olar esasan siziň puluňyzy ele geçirmek üçin ulanylýar, aýratyn-da söýgi gatnaşygy esasynda alnyp barylýan onlaýn galplyklarda (romance scams ýa-da “pig butchering”). Galplykçylar ilki internetde ynam döredýärler, soňra bolsa özlerini “hakyky” adam ýaly görkezmek üçin gysga deepfake wideo jaň ulanýarlar we yz ýany bilen nagt pul ýa-da kripto pul soraýarlar. Şeýle hem olar özlerini siziň ýolbaşçaňyz ýa-da garyndaşyňyz ýaly tanadyp, gyssagly bank geçirilmesini talap etmekde hem bu hileden peýdalanýarlar.
Deepfake wideolar dogrydan-dogry mobil telefonda döredilip bilnermi?
Ýüz çalyşýan käbir ýönekeý programmalary telefonda işletmek mümkindir, ýöne olaryň hili örän pes bolýar. Has ýokary derejeli, ýiti görünýän galplyklar adatça güýçli stol kompýuterini talap edýär, şonda AI maska has tekiz render edilýär. Soňra bolsa şol wideony wirtual kamera arkaly mobil programmala “iberilýär”.
Diri jaň wagtynda deepfake-i automatiki anyklaýan gurallar barmy?
Howpsuzlyk ulgamynda işleýän kompaniýalar automatiki anyklaýyş gurallary üstünde iş alyp barýarlar, ýöne olar heniz giň ýaýran ulanyjy programmalaryna girizilenok. Häzirlikçe profil burçuny üýtgetdirip görmek ýaly hereket endiklerine bil baglamak iň gowy mümkinçilikleriň biri bolup durýar.
Çeşmeler:
https://vsquare.org/when-your-clone-calls-how-ai-voice-fraud-became-a-billion-dollar-industry/
https://www.ncoa.org/article/understanding-deepfakes-what-older-adults-need-to-know/