Wat zijn de mogelijke schades?
Deepfakes kunnen mensen op verschillende manieren beïnvloeden en kunnen kinderen en jongeren blootstellen aan online schade.
Kinderen en jongeren kunnen moeite hebben met het herkennen van nepvideo’s en -audio, vooral omdat de technologie steeds geavanceerder wordt. Bovendien zou de grotere toegankelijkheid van AI-tools kunnen betekenen dat meer mensen deepfakes kunnen maken. Dit kan daarom het bereik van potentiële schade vergroten.
Valse informatie en propaganda
Onlinegebruikers kunnen deepfakes gebruiken om:
- valse informatie verspreiden;
- het vertrouwen in publieke figuren ruïneren; of
- manipuleren van gesprekken over politiek en andere belangrijke kwesties.
Kinderen ontwikkelen nog steeds vaardigheden op het gebied van kritisch denken, waardoor ze bijzonder kwetsbaar zijn om dit soort informatie te geloven.
Reputatieschade
Sommige rapporten koppelen deepfakes aan wraakp*rno. In deze gevallen betrekt de dader het slachtoffer bij compromitterende inhoud, zoals p*rnografische video's of afbeeldingen.
De dader zou deze deepfakes vervolgens kunnen gebruiken om slachtoffers te dwingen. Dit kan het eisen van betaling of echte afbeeldingen omvatten om te voorkomen dat ze de deepfakes op grotere schaal delen. Lees meer over deze praktijk in onze gids over sextortion.
Cyberpesten, intimidatie en misbruik
Daders kunnen deepfakes ook gebruiken om anderen te pesten door video's te maken die bedoeld zijn om hen te bespotten, te intimideren of in verlegenheid te brengen.
De aard van deepfakes kan het pesten ernstiger maken voor het slachtoffer. Het zou zelfs kunnen grensen aan misbruik. Ontdek hoe kind-op-kindmishandeling eruit zou kunnen zien.
A Internet Watch Foundation (IWF)-rapport uit 2023 waarschuwde voor de toename van door AI gegenereerd materiaal over seksueel misbruik van kinderen (CSAM). Ze identificeerden meer dan 20,000 van deze afbeeldingen die op één foto waren geplaatst donker web CSAM-forum gedurende een periode van één maand. Ze beoordeelden meer dan de helft hiervan als ‘zeer waarschijnlijk crimineel’.
Hoewel dit aantal geen deepfakes omvat, zegt de IWF dat “realistische full-motion video-inhoud gemeengoed zal worden.” Ze merken ook op dat er al korte, door AI gegenereerde CSAM-video's bestaan. “Deze zullen alleen maar realistischer en wijdverspreider worden.”
Financiële verliezen en oplichting
Sommige audio-deepfakes of oplichting met stemklonen zorgen ervoor dat slachtoffers geld verliezen. Hun beeltenis wordt ook gebruikt om zwendelinvesteringen te promoten.
Een voorbeeld is YouTuber Mr Beast, die zijn volgers nieuwe iPhones leek aan te bieden. Maar eigenlijk was hij het niet. YouTube is populair onder kinderen en tieners. Deepfakes die hun favoriete makers nabootsen, kunnen hen dus blootstellen aan deze oplichting.
Voorbeelden van deepfake-zwendelvideo's
Videotranscript weergeven
Laten we bij de technologie blijven, want kunstmatige intelligentie zorgt voor een hausse aan cybercriminaliteit. De kosten zullen dit jaar naar verwachting 8 biljoen dollar bedragen, meer dan de economie van Japan volgens een schatting van cyberveiligheidsexperts. De grootste YouTuber ter wereld behoort tot degenen van wie het videobeeld door AI is gemanipuleerd om oplichting te promoten, en zelfs BBC-presentatoren zijn niet immuun.
Kijk hier eens naar: Britse inwoners hoeven niet langer te werken, dat is de aankondiging van onze gast vandaag, Elon Musk. Wie zal een nieuw investeringsproject onthullen terwijl de verbinding loopt. Ik zal u meer vertellen over dit project dat nieuwe mogelijkheden opent voor Britten om rendement op hun investering te ontvangen. Er werd meer dan drie miljard dollar geïnvesteerd in het nieuwe project, en het is momenteel al operationeel.
Vreemd, nietwaar? Lijkt op mij, klinkt op mij, zou je kunnen zeggen. Het is nogal moeilijk, nietwaar, om hierachter te komen? En dus sprak ik met Stephanie Hair, zij is een onafhankelijke technologie-expert, zou ik moeten zeggen.
Stephanie Hair, een onafhankelijke technologie-expert, wordt geïnterviewd over de moeilijkheid van het opsporen van deepfakes.
``Veel mensen vinden het zo moeilijk om deze dingen op te merken'', zegt Hair. ‘En je bent helaas niet de eerste en ik denk ook niet dat je de laatste zult zijn, want er is niets wat dit echt kan tegenhouden. Er is geen enkele regelgeving die iemand ter verantwoording kan roepen. Ik weet niet zeker van wie je vreugde zou krijgen als je bijvoorbeeld een rechtszaak zou willen aanspannen. Nu kwamen we op Facebook en zeiden dat je dit moest verwijderen, het is nep en het is gebeurd... dat hebben ze gedaan, Meta heeft dat sindsdien gedaan. Er zijn echter nog veel meer diepgaande nepvideo's die kijkers op oplichting wijzen en de zorg is dat mensen daadwerkelijk afstand doen van hun eigen geld omdat ze denken dat het echt is. En dit is de zorg: hoe weten mensen wat echt is? en wat niet?``
``Eerlijk gezegd ben ik er niet zeker van dat ik dit aan de hand van de technische beperkingen probeer te achterhalen, omdat we zelfs met jouw video konden zien dat er bepaalde dingen niet helemaal klopten. Ik heb heel duidelijk gemaakt dat het niet legitiem was. Wat je echt wilt doen, is jezelf afvragen of het te mooi klinkt om waar te zijn, maar dat is het waarschijnlijk ook. Als het een beetje raar lijkt, is het dat waarschijnlijk ook. Er bestaat niet zoiets als een gratis lunch.``
``Dat is zeker niet het geval, en ik heb hierover een artikel getweet of gedeeld, geschreven door de BBC, waarin je toptips krijgt over hoe je deepfake-video's kunt herkennen.``
