Overgrote meerderheid van online deepfake video’s is porno

In december 2018 registreerde Deeptrace nog 7.964 deepfake video’s tijdens een eerste telling. Aangezien het nieuwe cijfer is gebaseerd op een telling in juni en juli, ligt het eigenlijke aantal vandaag hoogstwaarschijnlijk alweer flink hoger.

De stijging is te wijten aan het feit dat de tools en diensten om deepfakes te maken steeds makkelijker beschikbaar worden, waardoor ook mensen die geen experts zijn in digitale video dergelijke filmpjes kunnen beginnen maken, stelt Deeptrace. 

Ook spelen deepfake communities en forums een belangrijke rol. Het bedrijf wist er 20 te identificeren, die samen zo’n 95.000 gebruikers tellen. Ze zijn een bron aan informatie voor wie geïnteresseerd is in deepfakes en in contact wil komen met meer ervaren producenten van de video’s.

Het rapport van Deeptrace toont aan dat porno momenteel het grootste probleem is. 96 procent van alle online deepfake video’s is pornografisch, zo blijkt uit hun onderzoek. In 100 procent van de gevallen gaat het om vrouwen - nagenoeg allemaal bekende actrices en zangeressen - wiens beeltenis wordt gebruikt zonder hun toestemming.

Het bedrijf stelde ook vast dat de vier meest prominente deepfake pornowebsites samen al meer dan 134 miljoen views vergaarden. “Dat toont aan dat er een markt is voor de creatie en het hosten van deepfake-pornowebsites, een trend die zich zal blijven verderzetten tenzij er daadkrachtig tegen wordt opgetreden”, stelt Giorgio Patrini, CEO van Deeptrace, in het rapport.

De meerderheid van de bekendheden die afgebeeld worden in deepfakes zijn afkomstig uit westerse landen, maar steeds meer video’s blijken geproduceerd te zijn in China en Zuid-Korea. Maar liefst een kwart van de getroffen personen zijn Zuid-Koreaanse K-pop-artiestes.

Het rapport waarschuwt ook voor het gebruik van deepfake-technologie om politieke doeleinden, verwijzend naar verschillende zaken waarin deepfakes werden ingezet. “Deze voorbeelden zijn mogelijk de meest krachtige indicaties van de manier waarop deepfakes al politieke processen destabiliseren. Zonder defensieve tegenmaatregelen is de integriteit van democratieën over de hele wereld in gevaar”, stelt Patrini.

“Deepfakes gaan niet meer weg en hun impact wordt al gevoeld op globaal niveau”, concludeert het rapport, waarin gepleit wordt voor tegenmaatregelen om zowel individuen als organisaties te beschermen tegen de schadelijke toepassing van deepfakes.