Met de nieuwe AI-tools voor computers zijn nepvideo’s en nepnieuws al mogelijk en wat we vandaag zien is slechts een eerste voorproefje van wat in de toekomst mogelijk zal zijn. Hier hebben we de eerste concrete use case, omdat iemand daarvoor een algoritme heeft gebruikt het gezicht van "Wonder Woman"-ster Gal Gadot invoegen in een pornovideo – en de resultaten zijn schokkend overtuigend.
Reddit-gebruiker Deepfakes traint neurale netwerken op de gezichten van beroemdheden, hij voegt vervolgens de bewegende gezichtsanimaties in echte porno in met behulp van gezichtsdetectie - zolang ik de video's correct interpreteer, link ik ze hier niet, dat kun je zelf ontdekken. Het resultaat is authentieke porno met je favoriete actrice in de hoofdrol. Nepporno via Photoshop is ongeveer zo oud als internet en realistisch gezien waarschijnlijk net zo oud als Photoshop zelf, alleen hier is het proces geautomatiseerd en zal het in de toekomst op aanvraag werken. Hoewel AI-coders beveiligingsmechanismen zouden moeten installeren die moeten voorkomen dat een AI "identiteitsdiefstal" zou moeten voorkomen, zullen daar ook hacks en cracks voor zijn. Het concept zal niet verdwijnen, en het zal waarschijnlijk ook niet bij actrices blijven. Welkom in de toekomst.
Tot nu toe heeft deepfakes hardcore pornovideo's met de gezichten van Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza en Gal Gadot op Reddit geplaatst. Ik heb contact opgenomen met de managementbedrijven en/of publicisten die elk van deze acteurs vertegenwoordigen en hen op de hoogte gebracht van de nepvideo's, en zal een update geven als ik iets hoor. […]
Volgens deepfakes – die weigerden zijn identiteit aan mij te geven om publieke controle te vermijden – is de software gebaseerd op meerdere open-sourcebibliotheken, zoals Keras met TensorFlow-backend. Om de gezichten van de beroemdheden samen te stellen, zei deepfakes dat hij Google Image Search, stockfoto's en YouTube-video's gebruikte. Deep learning bestaat uit netwerken van onderling verbonden knooppunten die autonoom berekeningen uitvoeren op invoergegevens. In dit geval trainde hij het algoritme op pornovideo's en het gezicht van Gal Gadot. Na voldoende van deze ‘training’ regelen de knooppunten zichzelf om een bepaalde taak te voltooien, zoals het op overtuigende wijze manipuleren van video. Onderzoeker op het gebied van kunstmatige intelligentie, Alex Champandard, vertelde me in een e-mail dat een fatsoenlijke grafische kaart van consumentenkwaliteit dit effect binnen enkele uren zou kunnen verwerken, maar dat een CPU net zo goed zou werken, alleen langzamer, over een paar dagen. […]
"Ik heb zojuist een slimme manier gevonden om face-swap uit te voeren", zei hij, verwijzend naar zijn algoritme. “Met honderden gezichtsafbeeldingen kan ik gemakkelijk miljoenen vervormde afbeeldingen genereren om het netwerk te trainen”, zei hij. "Als ik daarna het netwerk het gezicht van iemand anders geef, zal het netwerk denken dat het gewoon een vertekend beeld is en proberen het op het trainingsgezicht te laten lijken."
In een commentaarthread op Reddit vermeldden deepfakes dat hij een algoritme gebruikt dat lijkt op het algoritme dat is ontwikkeld door Nvidia-onderzoekers en dat deep learning gebruikt om bijvoorbeeld een video van een zomertafereel onmiddellijk in een wintertafereel te veranderen. De Nvidia-onderzoekers die het algoritme ontwikkelden, weigerden commentaar te geven op deze mogelijke toepassing.