H o e d e e p f a k e s p o r n o , p o l i t i e k e n s o c i a l v e r a n d e r e n

Deepfakes: ze zijn er in steeds grotere getalen. Wat moeten we ertegen doen en welke invloed hebben zet op social media? We zetten de feiten op een rij.

Geplaatst door Bram Wilterdink

Op 17 januari 2020

Toen collega Emile onlangs een deepfake-video van Stanley Kubricks The Shining deelde, moest ik twee keer kijken. In de iconische scène, waar schrijver Jack Torrence zijn vrouw uitmaakt voor rotte vis, was Jack Nicholsons hoofd vervangen door dat van Jim Carrey. Een griezelig schouwspel; vanwege de scène, maar vooral omdat het zo echt leek. Even dacht ik dat de grappenmaker het stuk gewoon naspeelde, maar nee: het ging om een deepfake. En die zijn tegenwoordig booming. Tik het in op Google en je krijgt miljoenen hits voor je kiezen. Opmerkelijk, want de technologie won in extreem korte tijd enorm aan kracht. Hoe is dat eigenlijk zo gekomen en wat betekent dat voor social media? We doen een korte deepfake-dive!

Waar komen deepfakes vandaan?

In 2017 doken de eerste deepfakes op in – verrassing – porno. Een Reddit-gebruiker ontwikkelde neurale netwerken om de gezichten van zijn favoriete actrices op het lichaam van pornoactrices te projecteren. Het leek zo realistisch, dat de gelijknamige subreddit r/deepfakes in no time ongekend populair werd. In december 2017 publiceerde Motherboard er een artikel over, waarna het balletje ging rollen. Verscheidene media zetten terecht vraagtekens bij deze verwerpelijke praktijken en deze backlash ging Reddit niet in de koude kleren zitten. Het platform verwijderde de subreddit, but deepfakes were here to stay. Niet allerminst op social media.

Volgens Deeptrace waren er vorig jaar oktober zo’n 15.000 deepfake-video’s op social media te vinden: een aantal dat sindsdien ongetwijfeld is toegenomen. Verschillende beroemdheden, waaronder Trump, Elon Musk en Al Pacino zijn inmiddels ‘slachtoffer’ geworden van de manipulatie-techniek. Hoewel het merendeel bestaat uit hilarische gimmicks, oefenen de fakes zeker maatschappelijk druk op ons uit. Verschillende media waarschuwden al dat de technologie een serieuze impact kan hebben op de Amerikaanse presidentsverkiezingen dit jaar.

Deepfake news

Die verkiezingen zijn dan ook een van de redenen dat Facebook deze week aankondigde deepfakes te gaan weren. De verspreiding van fake news wordt door het gebruik van deepfakes namelijk steeds makkelijker. Wat als iemand voor politiek gewin een deepfake uploadt waarin een tegenstander iets verkeerds zegt? Het kan leiden tot onherstelbare reputatieschade, en dat kun je je als politicus in verkiezingstijd niet veroorloven. Daarnaast kunnen politici, celebrity’s, zakenlui en andere invloedrijke personen ongelukkige video’s van zichzelf, waarin ze bijvoorbeeld iets onhandigs zeggen, afschrijven als deepfakes. En dit is nog maar het topje van de ijsberg. Deepfakes zijn natuurlijk uitermate geschikt als chantagemateriaal. Iemand kan bijvoorbeeld dreigen een porno-deepfake met jouw gezicht te delen als je niet linea recta geld overmaakt.

En er is nóg een neveneffect: liar’s dividend. Deepfakes (of fake news an sich) kan een averechts effect hebben. Feiten labelen als fake komt steeds vaker voor. Zien we steeds meer deepfakes, dan zijn we ook sneller sceptisch over wat we voor onze kiezen krijgen. Het gevolg? Geloofwaardigheid daalt, waardoor de massa ook objectieve nieuwsorganisaties niet meer serieus neemt. In Gabon gebeurde het met een video van president Ali Bongo. Al langere tijd gingen er geruchten rond dat Bongo dood was. Toen hij (net uit het ziekenhuis) een nieuwjaarswens uploadde, bestempelden zijn tegenstanders de video binnen no-time als fake. Toch bleek dat niet het geval.

Wat moeten we verwijderen en wat niet?

Wat we eraan kunnen doen, hangt af van het soort deepfake. Ze zijn lang niet allemaal kwaadaardig. Neem Nicolas Cage. Deepfake-creatives gebruiken het gezicht van de cultheld vaak voor geinige video’s. Ook kunnen deepfakes zorgen voor meer awareness rondom de tech. De onderstaande video die regisseur Jordan Peele met Buzzfeed maakte van Barack Obama is overduidelijk fake. Grappend noemt hij Trump een ‘total dipshit’. Tegelijkertijd is het een waarschuwing: geloof niet alles wat je ziet. Ook zijn er onschuldige apps, zoals Doublicat. Hiermee projecteer je jouw markante bakkes op een gifje. Leuk is het zeker, maar of deze app onze democratie ondermijnt? Mwah.

Bepalen wat er wél en niet verwijderd moet worden is dus lastig. In het geval van deepfake-porno is dit duidelijk: weg ermee. Maar hoe classificeren we de rest? Facebook geeft aan dat het ‘gemanipuleerde, misleidende media’ verwijdert die ‘ge-edit of gemaakt’ is door middel van AI of machine-learning. Dat beleid zit alleen vol gaten, stelt Will Oremus van OneZero. Zo verwijdert Facebook alleen video’s met spraak erin. Stel dat er een deepfake opduikt van Jesse Klaver die, gewapend met een kantenmaaier, de perkjes op het Binnenhof te grazen neemt of de hand schudt van Mohammed B., dan is dat niet in strijd met Facebooks reglementen. Zo’n video wordt dus niet verwijderd. Facebook bevestigde dit aan Oremus.

Ook is het de vraag wat precies onder ‘parodie en satire’ valt en wat niet. Oremus schreef eerder een artikel over hoe ‘satire’ tags in Facebook-posts soms onleesbaar klein zijn. Vluchtige Facebookers missen zo’n tag en reageren gefrustreerd op informatie die helemaal niet waar is. Dat heeft weer invloed op onze collectieve beeldvorming. Hetzelfde kan gebeuren met deepfake video’s. Als duizenden mensen een kwaadwillige deepfake met een piepklein satire-watermerk kijken, verwijdert Facebook de video dan? Of voldoet zo’n deepfake door het watermerk nog steeds aan de regels?

Wie liegt en wie niet?

Uiteindelijk komt het – zoals bij alle discussies over online informatie – natuurlijk neer op de volgende vraag: wie liegt er en wie bepaalt wie er liegt? Met de verspreiding van informatie gaan veel verschillende meningen gepaard, dus het antwoord op die vraag verschilt per persoon. Dat social media de afgelopen tien jaar ons informatie-landschap onherroepelijk veranderden, staat buiten kijf. Deepfakes zijn de volgende stap in deze informatie-oorlog. We hoeven nog niet te bepalen wat wel en wat niet online kan, maar het is in ieder geval goed om hierover na te denken.

Meer weten?

Bram Wilterdink
Creative

020 - 68 11 534
bram@socialinc.nl