Derfor har Google laget 3000 videoer med falske fjes

Google publiserte nettopp en liten skattkiste av videoer med datagenererte fjes ut på nettet.

Hvorfor?

Først og fremst for å fremme forskning. Med et ørlite håp om å stagge flodbølgen av falsk informasjon.

Fenomenet deepfakes – forfalskede videoer – har tiltatt i styrke de seneste årene. Ved hjelp av maskinlæring kan en kunstig intelligens trenes opp til å erstatte for eksempel ansikter i en video på en så sømløs måte at det er vanskelig for en vanlig seer å fange opp. 

På samme måte er håpet at man skal kunne benytte maskinlæring til å avsløre falske videoer. Problemet er at maskinlæring er avhengig av tilgang på store mengder relevant data - i dette tilfellet manipulerte fjes - for å trene seg opp.

Å produsere og kode pålitelige datasett kan være både kostbart og tidkrevende, noe som er årsaken til at Googles bidrag kan vise seg å være verdifullt.

Sammen med selskapet JigSaw og skaperne av FaceForensics Benchmark har Google produsert hundrevis videoklipp med 28 skuespillere, filmet forfra, som så er kjørt gjennom de fire av de vanligste falskner-appene der ute:

Deepfakes, Face2Face, FaceSwap og NeuralTextures.

På denne måten har de produsert over 3000 manipulerte videoer under kontrollerte forhold. Ved å analysere disse datene kan forskerne så avdekke fellestrekk og kjennetegn som vil gjøre automatiserte avsløringer mulige. 

Dette kan gjøre det mulig å produsere bedre verktøy for å oppdage falske videoer og stanse dem før de sprer seg. Og det er viktigere enn noen gang tidligere.

Teknologisk manipulasjon av virkeligheten er ikke noe nytt fenomen - det er først og fremst grensene for troverdighet som stadig flytter på seg. 

Fotografer har retusjert bilder siden midten av 1800-tallet, og en gang i tida var klipp og lim med kopimaskin nok til å forfalske dokumenter på en troverdig måte – før Photoshop gjorde alt ennå noen hakk enklere.

Falske videoer nærmer seg nå den samme brukervennligheten.

Å skulle gi seg i kast med maskinlæring og kunstig intelligens kan høres avskrekkende ut, men realiteten er at det allerede finnes gratis verktøy fritt tilgjengelig på nett som forenkler prosessen betraktelig.

Resultatet av denne demokratiseringen kan være utrolig gøy, som det å endelig få se Sylvester Stallone erstatte Arnie i «Terminator 2». 

Eller det å erstatte ALLE «Full House»-skuespillerne med Nick Offermans bebartede fjes:

 Problemet oppstår når manipuleringen ikke lenger er åpenbar, og formålet er noe annet enn å underholde.

 Hevnporno, nettmobbing og trusselvideoer er bare noen av måtene individer kan bli ofre for denne nye teknologien. 

Pornofilmer med Hollywood-skuespillere og klonede stemmer – her er noen av de skremmende deepfake-mulighetene

Det farligste på samfunnsnivå er likevel måten falske videoer snart kan komme til å kunne prege den offentlige samtalen og svekke tilliten mellom ulike grupper, på samme måte som falske nyheter allerede har gjort.

Faktasjekkere kjenner denne utfordringen på kroppen hver dag. I et intervju med Filter Film og TV i  2017 uttalte Faktisk.no-redaktør Kristoffer Egeberg:

– Det er en evig kamp mot klokka, mellom kvalitet og hurtighet. Faktasjekk eller digital granskning er ofte ganske tidkrevende, og krever kompetanse som mange redaksjoner kanskje enten ikke har eller vet å nyttiggjøre seg av.

En korreksjon vil sjelden ha samme slagkraft som forfalskningen den korrigerer - den er bare ikke oppsiktsvekkende på samme måte. For å i det hele tatt ha en sjans til å stanse eller merke falske videoer, kan det hende de må filtreres allerede ved opplasting.

 Blir du manipulert? Besøk Nettvett.no for en sjekkliste mot falske nyheter.

Dette er et digitalt våpenkappløp, og det er inn i denne runddansen at Google nå har kastet sitt bidrag.

Kanskje vil datasettet bidra til nettopp et slikt verktøy som tar falskneriene tidlig. Du kan se mer om programmet FaceForensics, som forskerne bruker, i videoen over.