Door de opkomst van deepfakes zal de vraag ‘Wat is echt?’ steeds vaker op de politieke en maatschappelijke agenda komen te staan. Deepfakes kunnen worden gebruikt om nepnieuws te verspreiden, verkiezingen te beïnvloeden, realistisch fakebewijs aan rechters voor te leggen en fake pornofilms van vrouwen te maken. Ieder van deze toepassingen heeft potentieel een zeer grote impact op de samenleving, sociale structuren en de democratische rechtsorde. Dat blijkt uit vandaag verschenen onderzoek van het Tilburg Institute for Law, Technology, and Society (TILT), Tilburg University, in opdracht van het WODC.
Een deepfake is beeld, geluid of ander digitaal materiaal dat nep is, maar zeer realistisch lijkt. Met machine learning en artificial intelligence wordt nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Ook kunnen geheel nieuwe (virtuele) personen of beelden worden gefabriceerd. Kwalitatief goede deepfakes zijn niet of nauwelijks van echt te onderscheiden. Bovendien kan iedereen gratis en gemakkelijk toegang krijgen tot deze technologie. De verwachting van experts is dan ook dat over 5 jaar meer dan 90 procent van alle online content geheel of gedeeltelijk gemanipuleerd zal zijn. Deepfake-detectietechnologieën zijn beperkt in capaciteit en kunnen slechts een deel van het fakemateriaal automatisch wegfilteren.
Handhaving regels blijft achter
De onderzoekers stellen vast dat het huidige recht, onder meer in het Wetboek van Strafrecht, de Algemene Verordening Gegevensbescherming en het recht op vrijheid van meningsuiting, al veel regels stelt aan deepfakes, maar dat de handhaving van deze regels achter blijft. Om onder andere de handhavingsdruk te verlichten, beschrijven de onderzoekers een groot aantal reguleringsopties.
Een daarvan is om het produceren, aanbieden, gebruiken en in bezit hebben van deepfake-technologie te verbieden voor de consumentenmarkt. Het huidige recht legt immers niet de ontwikkeling van deepfake en het aanbieden aan banden, maar het gebruik daarvan voor specifieke doeleinden. Het kwaad is dan al geschied. Daarnaast kan worden overwogen om meer bescherming aan de rechten van overledenen te gegeven, bijvoorbeeld als zij tegen hun zin weer ‘tot leven worden gewekt’ door een ex-partner of een commerciële organisatie met winstbejag.
Rapport
Het rapport ‘Deepfakes. De juridische uitdagingen van een synthetische samenleving’ is hier beschikbaar en bij het WODC. Auteurs: Bart van der Sloot, Yvette Wagensveld en Bert-Jaap Koops, Tilburg Institute for Law, Technology, and Society.
Door: Nationale Onderwijsgids
