Nog even en 'deepfakes' zijn echt

Regisseur en comedian Jordan Peele maakte als waarschuwing een Obama deepfake-video
Het begon met Hollywoodsterren die in pornofilms opdoken, maar zogeheten deepfake-video’s duiken nu ook op in de politiek. ‘Dit maakt mensen bang en onzeker.’
Door Vincent Bongers ‘President Trump is a total and complete dipshit!’ Aldus Barack Obama in een filmpje dat in april opdook. De beelden lijken uit een officiële toespraak te komen. Obama’s stem klopt niet helemaal, maar de bewegingen van hoofd, schouders en mond geven wel de indruk dat je naar de oud-staatsman zit te kijken. De makers van het filmpje maken echter zelf snel een einde aan de illusie. Het is namelijk comedian en regisseur Jordan Peele die met behulp van software Obama laat bewegen en zijn stem imiteert. Het is een zogeheten deepfake-video, in dit geval bedoeld als waarschuwing.
‘Als ik deepfakes laat zien in een zaaltje, dan moeten het publiek eerst lachen’, zegt de Zwitserse Jeanine Reutemann. De onderzoeker van het Centre of Innovation in Den Haag geeft op 8 november een lezing op het Brave New World-congres. ‘Maar na kreten als “wow, wat cool” valt het stil en zie je de mensen denken: “Oh shit: wat en wie kan ik straks nog vertrouwen?” De technologie om deze video’s te maken bestond al een tijdje, maar het grote verschil is dat de software nu overal beschikbaar is en makkelijk te gebruiken.’ Wie een programma als FakeApp downloadt en online een tutorial volgt, kan aan de slag.
De zucht naar seks was een grote aanjager van de nepfilmpjes. ‘Eerst zag je deepfakes vooral in de porno-industrie. Dan had je video’s waarin bijvoorbeeld een filmster als Emma Watson ineens hardcore seksscènes speelt.’
Het is mogelijk om de bewegingen van een persoon na te bootsen en vrij nauwkeurig woorden in diens mond te leggen. Dat kan door de stem van een persoon te samplen, te bewerken en zo zelf teksten te genereren. ‘Hoe publieker een figuur is, des te makkelijker is het om de stem en bewegingen op te slaan en te gebruiken.’
Je kunt het nu nog wel zien of een video nep is, aldus Reutemann. ‘Als je bijvoorbeeld goed kijkt naar de bewegingen van mond en handen. Maar de makers en de technologie worden steeds beter. Er komt dus een moment dat je niet meer kunt zien of het echt is. Het lastige is dat we niet weten wanneer precies. De deepfakes zijn slechts een symptoom van iets veel groters. Mensen zijn bang en onzeker omdat zij al geconfronteerd worden met fake news, hoaxes en misbruik van social media-gegevens.’
Volgens Reutemann is het van groot belang dat betrouwbare media, zoals de BBC, maar ook organisaties als Amnesty International een grote rol krijgen in het verifiëren van beeldmateriaal. ‘Amnesty heeft bijvoorbeeld een lab dat beelden en video’s van mogelijke mensenrechtenschendingen onderzoekt en probeert te achterhalen of het materiaal legitiem is. Maar het is heel lastig om in die enorme stroom informatie echt van nep te onderscheiden.’
Tech van de toekomst
De Brave New World Conference is een congres op donderdag 8 en vrijdag 9 november in de Leidse Stadsgehoorzaal over technologische ontwikkelingen en de impact die deze hebben op mens en maatschappij. Het congres vindt plaats in de Stadsgehoorzaal. Tickets kosten tussen de € 185 en € 250 per dag, en tussen de € 300 en € 400 voor twee dagen. Voor studenten zijn de kaartjes een stuk goedkoper. € 45 voor een dag, € 75 voor twee dagen. Zie www.bravenewworld.nl
Voorpagina

Elke Leidenaar is hier geweest
Al honderd jaar verhuurt Hoppezak feestkleding aan studenten en promovendi, van …
Achtergrond

Nog even en 'deepfakes' zijn echt
Het begon met Hollywoodsterren die in pornofilms opdoken, maar zogeheten deepfake …

Opinie: Werk verstandig over, eet een appel
De universiteit is een ongezonde arbeidsplek geworden door hoge werk- en prestatiedruk en …
Wetenschap

Wetenschapsstrip: Gif op het rif
Naturalis-onderzoeker Martina Prazeres ontdekte dat foraminiferen kunnen verbleken als …

Het alternatief voor sterven
Ze willen eeuwig leven, desnoods als robot of dataset. De Ierse schrijver Mark …
Studentenleven

Kamervragen: ?Ik ben liever blind dan doof?

Column: Keeeeeta!

Een schildpad met een rietje
Roos Kolkman, studente aan het University College, wil jongerenvertegenwoordiger …
Nieuws
Literair talent opgelet
'Dit baart ons zorgen'
Bijna vijf procent meer studenten
Miljoenen voor Leidse alumni
Denktank over medezeggenschap
Reserve is geen spaarvarkentje

Bsa-maximum van de baan
Minister van Onderwijs Ingrid van Engelshoven wilde begin september nog een bindend …
Vertraging? Daar is wel geld voor

'Pak wachttijden DUO nu aan'
De Nationale Ombudsman uit – opnieuw – zorgen over de telefonische …

Oplossing voor nakijkergernis
Het komt voor dat er minder dan vijf dagen zit tussen het verschijnen van de …
Young Academy
Helft van Nederlandse artikelen open access
Nieuwe master
Escape room
Wolkersprijs
English page

Opinion: Xenophobia at the academy
Hundreds of homeless international students are slipping under the …