India har fått sin egen deepfake-politiker
Manoj Tiwari forfalsket sin egen video for å nå flere velgere.
Deepfakes er i vinden – på godt og vondt.
Deepfake-teknologien går kort oppsummert ut på å bruke maskinlæring til å bytte ansikt på mennesker i videoer på mer eller mindre overbevisende vis.
De forfalskede videoene gjør det enkelt å både drive med hevnporno mot ekser og å putte ord i munnen på politikere, samtidig som det også finnes mer uskyldige og gøyale bruksområder.
En gjentagende bekymring har vært potensialet for å bruke deepfakes til å spre falske nyheter og desinformasjon, spesielt i tilknytning til valg.
Nå har en politiker i India kommet opp med en ny vri:
Han lager deepfaken selv.
Byttet språk
Ifølge Vice har Manoj Tiwari, leder for partiet Bharatiya Janatas lokallag i Delhi, nå frivillig utsatt fjeset sitt for teknologien i valgkampøyemed.
I stedet for å lage angrepsvideoer hvor motstanderne sier latterlige ting, fikk Tiwari endret språket i en video han spilte for å nå velgere på henholdsvis engelsk og harianvi.
Tiwari fikk hjelp av kommunikasjonsselskapet The Ideaz Factory.
De hyrte inn skuespillere til å lese opp oversatte versjoner av det Tiwari sa i videoen.
Ved hjelp av deepfake-teknologi ble Tiwaris leppebevegelser så synkronisert med ordene, slik at videoene ikke så ut til å være dubbet.
Resultatet gikk viralt – og da spesielt harianvi-utgaven.
Harianvi er et språk som snakkes av millioner av tilreisende arbeidere i Delhi, og videoen ble distribuert til over 15 millioner mennesker - hovedsaklig via WhatsApp.
– Deepfake-teknologien har tillatt oss å oppskalere valkampen som aldri før, sier Neelkant Bakshi i The Ideaz Factory til Vice.
– Harianvi-videoen lot oss tilnærme oss målgruppa selv om kandidaten ikke snakket velgernes språk.
Døråpner
Selskapet bak videoene mener selv at dette er en positiv bruk av teknologien, men kritikerne er ikke like overbevist.
- Det å si at politiske partier bare får lov til å bruke noen former for deepfakes, åpner for mye subjektivitet når det kommer til hvem som får definere formene, sier Tarunima Prabhakar i Tattle til Vice.
Hvorvidt harianvi-videoen er en legitim bruk av deepfakes, eller om den er en døråpner for senere ondsinnet bruk av teknologien i politisk øyemed, er et stort og komplekst spørsmål.
For et dypdykk er det verdt å lese Vice-artikkelen i sin helhet.
Enn så lenge er det nok lettere å svelge de uskyldige morovariantene av deepfakes, som når YouTube-kanalen Ctrl Shift Face nytolker Hollywood-filmer, med skuespillerbytter og endrede sammenhenger.
Den siste videoen fra kanalen mikser filmene «The Matrix» og «Office Space» for å vise hvordan det ville sett ut om Neo hadde tatt den blå pillen i stedet for den røde.
Kanalen har også lagt ut en gjennomgang av hvordan videoen ble til, hvor man kan se hvrodan mer tradisjonelle dataeffekter forsterker illusjonen.
