Deepfakes genopliver præsidenter og erstatter nyhedsværter. Så hvordan navigerer man i den nye teknologi?
Deepfakes genopliver præsidenter og erstatter nyhedsværter.
Så hvordan navigerer
man i den nye
teknologi?
Ved brug af deepfakes flyder grænsen mellem sandt og falsk sammen. Spørgsmålet er nu, om teknologien overhovedet kan bruges til andet end at sprede fake news.
TEKST: Matilde krogsgaard
FOTO: Nicoline odgaard sørensen
Med Stars and Stripes hængende i baggrunden, gør han sig klar til at begynde talen. Hænderne knuger om de hvide A4-ark. Armene hviler på det mørke teaktræsbord. Med ét løfter han blikket, og ordene forlader kontrolleret læberne, da han indleder talen med sætningen:
“Fate has ordained that the men who went to the moon to explore in peace, will stay on the moon to rest in peace.”
Ordene ser ud til at blive leveret af Richard Milhous Nixon, USA’s 37. præsident. Men øjnene bedrager sindet. I virkeligheden er talen aldrig blevet holdt, og den sceniske sætning har aldrig forladt Nixons læber.
I hvert fald ikke før nu, hvor man kan se præsidenten holde talen i dokumentaren ‘In Event of Moon Disaster’.
Skaberne bag dokumentaren har benyttet kunstig intelligens – en såkaldt deepfake-teknologi – til at genskabe USA´s præsident anno 1969 og fået ham til at holde en tale. En tale, som var skrevet til Nixon i det tilfælde, at månelandingen gik galt. Og vidste man ikke bedre, skulle man tro, at det var en ægte video, og at astronauterne aldrig var kommet hjem fra månen.
Deepfake-teknologien er allerede så god, at det utrænede øje har svært ved at se forskel på en deepfaket udgave af en person og den ægte vare. Så hvordan forholder vi os til denne teknologi, der kan snyde os groft og grundigt? Skal vi være bekymrede eller skal vi byde den og dens muligheder velkommen? Og kan den bruges i journalistik?
To danske journalister har brugt den samme teknologi, men på vidt forskellige måder. Med den følger etiske overvejelser om, hvordan journalistisk integritet og deepfake kan forenes.
En tale der aldrig blev holdt
En af skaberne bag den deepfakede præsident er den danske freelancejournalist og konsulent ved TV2 Magnus Bjerg. Idéen til projektet udsprang, mens Magnus Bjerg fra 2018 til 2019 var Knight Science Journalism Fellow på Massachusetts Institute of Technology – et af de bedste tekniske universiteter i verden. En dag sad Magnus Bjerg og tre andre journalister i et mødelokale på universitetet. Over en plastbakke med chokoladecookies og et par røde Coca Colaer snakkede de om, at 2019 var 50-året for månelandingen. En af de andre journalister nævnte, at Nixon tilbage i 1969 havde fået skrevet en helt fantastisk tale om månelandingen. En fantastisk tale, som aldrig var blevet holdt.
”På det tidspunkt, havde jeg i månederne op til dykket meget ned i den her deepfake-teknologi. Det slog mig, at vi jo godt kunne benytte den teknologi til at få Nixon til at holde sin tale,” siger Magnus Bjerg.
Så simpel var idéen. Nu skulle den bare udføres, og Nixon skulle genoplives.
Se dokumentaren ‘In Event of Moon Disaster’ her:
En falsk præsident bliver til
I dokumentaren er det kun Nixons mund og nederste del af ansigtet, som er blevet udskiftet ved hjælp af deepfake-teknologi. Resten af præsidenten – hans øjne, hans hænder, hans papirer – og bevægelserne i baggrunden stammer fra en gammel video. En ægte video optaget af Nixon, fra den tale han holdt, da han måtte gå af efter den famøse Watergate-skandale.
”Vi skulle finde en video, hvor stemningen passede. Derfor valgte vi den, hvor han træder tilbage efter Watergate-skandalen, fordi der kan man tydeligt se, at han er berørt,” siger Magnus Bjerg.
Det journalisterne efterfølgende gjorde er ret teknisk. Ved hjælp af maskinlæring, en stemmeskuespiller og en masse videoer af Nixon, har Magnus Bjerg og resten af holdet fodret et sultent system. Først med flere forskellige klip af Nixons stemme.
Herefter med en stemmeskuespillers stemme, for også at træne systemet til at kende hans vokal. Efter flere timers arbejde og gentagelser formåede systemet til sidst at oversætte stemmeskuespillerens oplæsning af talen til Nixons oplæsning af talen. Den rene magi.
Ligeledes formåede journalisterne at deepfake den tidligere præsidents mundbevægelser.
Teknologien kan bruges til andet, end blot at rekonstruere gamle taler. Den kan eksempelvis bruges til at gøre din næste Netflix-oplevelse mere spændende, fortæller Magnus Bjerg.
”Der er mange positive ting ved denne teknologi. For eksempel kan den være med til at give dig en bedre oplevelse, når du eksempelvis ser ‘Squid Game’ på Netflix. I stedet for undertekster, kan du få lov at se serien med engelsk tale, uden forstyrrende og forkerte mundbevægelser, som vi er vant til,” siger Magnus Bjerg.
Fra præsidenten i USA til Bridget på Bornholm
Et andet sted, hvor kunstig intelligens med glæde benyttes til journalistisk formidling, er på bornholmernes lokalavis Bornholm.nu. Her i form af den computerskabte nyhedsvært Bridget, som er ’ansat’ til at læse dagens nyheder op på hjemmesiden.
”Vi er ovenud lykkelige for hende. Hun gør det fantastisk godt,” siger Bjarne Hansen, der er chefredaktør på Bornholm.nu.
Det er det engelske Tech-firma Synthesia, som står bag avataren Bridget, og bornholmernes nye nyhedsvært er billig i drift. Ifølge chefredaktøren koster 10 videoer 30 dollars, og studieværten kræver hverken pension, ferie eller tillæg. Og så er hun også brugervenlig.
”Hun er meget nem og meget hurtig at bruge. Man skriver bare en speak til hende, i nogle forskellige bokse, og så siger hun det,” siger Bjarne Hansen.
Det var dog ikke uden bekymringer, at Bridget blev ansat og introduceret for øboerne.
”I starten frygtede vi da lidt, at nogen ville bruge 30 dollars på at få Bridget til at sige et eller andet reklamelort, eller noget ufordelagtigt om avisen,” siger Bjarne Hansen.
Den frygt går chefredaktøren dog ikke med længere. Han ser det heller ikke som et problem, at Bridget fra tid til anden bijobber hos andre. Som da hun inden kommunalvalget pludselig dukkede op på Facebook foran en rød valgplakat af socialdemokraten Jan Fischer fra Syddjurs.
I videoen beder den solbrune Bridget med det lange mørke hår og den lettere mekaniske accent folk om at stemme på Jan Fischer. Men det ser Bjarne Hansen intet problem i.
”Hvis hun optræder hos os, så står vi inde for det hun siger, og hvis hun optræder andre steder, så er det ikke vores problem. Det svarer jo lidt til, at du hyrer en skuespiller til en reklame,” siger Bjarne Hansen.
Selvom han er glad for Bridget, mener Bjarne Hansen, at der er grænser for, hvor meget og hvordan journalister bør benytte teknologien. Grænser, som Magnus Bjerg, ifølge Bjarne Hansen, har overtrådt.
”Jeg synes, det er at gå over grænsen, fordi det jo ikke er en avatar. Det er den ægte vare, og der kan du blive snydt,” siger Bjarne Hansen.
Aldrig formålet at snyde
”Det vigtigste med den her dokumentar er at fortælle folk, at teknologien findes, så vi som forbrugere kan blive mere kritiske overfor deepfakes og lære at spotte dem,” siger Magnus Bjerg.
Han mener ikke, at det, han og de amerikanske journalister har gjort, er at gå for langt. Men han har svært ved selv at beskrive, hvor grænsen går.
”Jeg tror, at så længe man er åben omkring, hvordan man har gjort det, så er der rigtig meget der vil være i orden. Men selvfølgelig er det over grænsen, hvis man for eksempel ’genopliver’ nyligt afdøde uden at spørge om lov, eller ikke fortæller, at den video, man har skabt, ikke er ægte,” siger Magnus Bjerg.
I mediebranchen har der de seneste år været en stor skepsis overfor hele deepfake-teknologien. Det skyldes måske, at udtrykket første gang blev brugt, til at beskrive videoklip på nettet, hvor kendte skuespilleres ansigter blev indsat i pornofilm.
Sidenhen er teknologien også blevet beskyldt for at kunne sprede fake news. En beskyldning som Magnus Bjerg og resten af holdet bag den prisvindende dokumentar flere gange havde med i overvejelserne under tilblivelsen af ’In Event of Moon Disaster’.
Udover dokumentaren har skaberne bag nemlig også kreeret et helt site, hvor man kan blive klogere på tilblivelsen af den deepfakede Nixon.
”Vi har ikke villet skabe flere konspirationsteorier. Derfor har vi lavet hele den her fortælling rundt omkring, så man ikke efter at have set videoen går rundt og tror, at astronauterne faktisk døde på månen,” siger Magnus Bjerg.
De levende billeders svar på photoshop
De to journalister er ikke enige om, hvor stregen i sandet skal trækkes, når det handler om brugen af deepfakes. Men de er enige om, at kunstige video og deepfakes er en teknologi, som journalister skal begynde at vænne sig til at bruge i deres arbejde.
”Det er jo det samme som med fotomanipulation. Hvis motivet er legalt, så tænker jeg ikke, at der er noget i vejen for at bruge det,” siger Bjarne Hansen.
Også Magnus Bjerg påpeger, at denne teknologi måske er nemmere at forstå, hvis den sammenlignes med Photoshop.
”Photoshop gjorde det i sin tid nemt at manipulere med billeder, på samme måde som den her teknologi gør det nemt at manipulere med levende billeder,” siger Magnus Bjerg og understreger, at det ligeledes er en af de journalistiske fordele ved teknologien.
”Deepfakes og kunstig intelligens i det hele taget kan gøre det lettere og billigere at redde videomateriale,” siger Magnus Bjerg.
Der er altså også positive sider af deepfakes. Også set fra et journalistisk standpunkt. Det er måske ikke så skræmmende et værktøj som først antaget. Og med lidt træning kan vi måske lære at tæmme den nye teknologi.
