Traži

I ti i ja i svi možemo postati žrtve "deepfake" videa o kojima se ne prestaje pričati

"Digitalno silovanje" - zastrašujuća metoda video montaže dostupna svima

I ti i ja i svi možemo postati žrtve "deepfake" videa o kojima se ne prestaje pričati

Text: Latica Martinis Filković

U pitanju je opasan trend postavljanja lica slavnih ili nepoznatih osoba na tijela osoba u postojećim pornografskim videozapisima, i to uz pomoć svima dostupnih aplikacija, koje danas svatko može u tu svrhu iskoristiti...

Posljednjih nekoliko tjedana internetom kruže tzv. video uradci za odrasle u kojima su akteri postali razni svjetski celebrityji. I dok su se neki oko toga jako uzbudili, istina je ipak malo drugačija od onakve kakva se čini. Ne, pojedine glumice i glumci nisu počeli snimati amaterska porno videa i dijeliti ih javno s drugima, to je za njih počela raditi umjetna inteligencija (AI). Panika koja je zavladala među poznatim facama, ali i običnim smrtnicima ovaj put je opravdana. Jer čak i ako dosad niste snimali kakve kućne "švedske akcijske" filmiće, to vas neće svrstati u kategoriju osiguranih od tog brzoširućeg trenda koji vam može ozbiljno naštetiti i uništiti život u samo nekoliko sekundi. Jer ono što ova tehnologija čini je da lica protagonista već postojećih videozapisa mogu biti vrlo jednostavno zamijenjena vašim lice ili neke druge osobe i to na prilično uvjerljiv način. Upravo takav slučaj prelomio se i preko glumice Gal Gadot čije je lice namontirano tako da ispada da je imala spolni odnos sa svojim polubratom. A nešto slično nije zaobišlo ni pjevačicu Taylor Swift. 

Ova pornografija sa zamijenjenim licima, tzv. "deepfake", počela je upravo na Redditu kada je jedan korisnik nadimka Deepfakes prije nekoliko tjedana namontirao i objavio niz takvih videa. To je bio sam početak, jer se cijela zajednica rapidno povećala kada je pak drugi korisnik kreirao računalnu, jednostavnu aplikaciju FakeApp koja je sama radila istu stvar.

I ti i ja i svi možemo postati žrtve "deepfake" videa o kojima se ne prestaje pričati (фото 1)

Kako bismo vam to malo konkretnije i stručnije pojasnili, riječ je o pojednostavljenoj tehnologiji kojom se zapravo koriste filmski studiji i game developeri za izradu CGI likova u filmovima i igrama. Obogaćena je AI-em koji posjeduje machine-learning algoritam za kreiranje računalno generiranih lica i njihovo smještanje u video filmove.

Besplatna aplikacija FakeApp koju je do sada na Redditu preuzelo više od 100.000 ljudi nakon čega je obustavljena, kao i nekoliko srodnih i navodno boljih koje se još uvijek mogu pronaći na internetu ako malo dublje proguglate, omogućuju tako svakome kreiranje takvih "deepfake" video montaža koje su prilično dobre kvalitete. Zanimljivo je i kako se u mnogim slučajevima takvih montaža ne biste mogli zakunuti radi li se o stvarnom ili lažnom videu

Naime, sve što vam treba za takvu montažu je u biti napuniti veliku bazu aplikacije s fotografijama lica, a potom "trenirati" AI algoritam da napravi ono što želite. Te fotografije naravno nije teško nabaviti zahvaljujući društvenim mrežama poput Facebooka i Instagrama, na kojima se objavljuju stotine i tisuće njih, te raznim alatima koji omogućuju jednostavno skidanje svih javno dostupnih fotografija s tih mreža na računala. Nakon toga potrebno je pronaći glumca/glumicu/osobu čije su tijelo i lice slični onome čije se lice želi namontirati na tijelo. I za takve stvari, naravno, postoje aplikacije. Sve to skupa je potrebno uploadati u "deepfake" aplikaciju, pokrenuti je i nekad čekati i preko deset sati da se dođe do konačnog i zastrašujućeg video rezultata. 

Po ovom pitanju Reddit je odmah reagirao priopćenjem: "Reddit se trudi biti platforma koja je dostupna svima i otvorena za sve. Na našem se servisu kultivira atmosfera iskrenog dijaloga, a to postižemo tako što imamo povjerenja u naše korisnike. Tim povodom napravili smo dvije izmjene u politici prema nenamjernoj pornografiji i seksualnom sadržaju s maloljetnicima. Te su politike prije bile objedinjene u jednom pravilu, no sada će biti podijeljene u dva različita. Zajednice koje budu objavljivale takav sadržaj bit će zabranjene." Novim pravilom, Reddit je tako zabranio pornografski sadržaj koji je lažiran, kao i objavljivanje videa s ciljem lažiranja eksplicitnog sadržaja i poticanja stvaranja pornografije.

Reddit se tako ovim potezom pridružio Twitteru, Pornhubu i Gfycatu koji su već zabranili distribuciju ovakvog tipa pornografije, a iz Twittera su pak rekli da će suspendirati svakog korisnika za koje se ispostavi da je autor originalne objave koja sadržava "deepfake" pornografiju. Naravno, brisanje videa na internetu je pucanj u prazno jer u bespućima online svijeta velika je količina "no name" sličnih (skrivenih) portala, foruma, online zajednica gdje se upravo takav sadržaj i dalje može pronaći i koji će uvijek tu negdje ostati jer - internet sve jako dugo pamti. 

No, u cijeloj toj pomalo zastrašujućoj priči "deepfakea" nije izostao ni zabavni, duhoviti moment. Jedan od takvih primjera "deepfake" montaže je kompilacija filmića u kojima su originalna lica glumaca i glumica zamijenjeni licem Nicholasa Cagea kao što možete vidjeti u videu u sklopu članka, a koji je inače vrlo često glavni kada su u pitanju i memeovi. I dok vas upravo taj segment cijele ove priče može itekako zabaviti (sve dok naravno, ne naletite na svoje lice u nekoj vješto režiranoj video kombinaciji), kao što je recimo lice Angele Merkel zamijenjeno licem Donalda Trumpa i slično, ostaje činjenica da se ova aplikacija i njoj slične sve više iskorištavaju za pornografiju.

Ono što je sigurno i na što ne možemo utjecati jest daljnji napredak tehnologije te da će ovakvi videozapisi biti sve realniji i sveprisutniji, odnosno da će uvijek biti osoba koji će ovo zlorabiti. Gorući problem jest i stvaranje lažnih vijesti, a vrlo skoro će nastupiti moment kada više jednostavno nećemo moći odgonetnuti, odnosno sve teže prepoznati što je stvarno, a što nije. 

Povezani tekstovi

Buro 24/7 izbor

  • Fotografija:
    screenshot
Učitaj još