Ifølge en rapport fra cybersikkerhedsfirmaet Recorded Future deler, udvikler og formidler cyberkriminelle deepfake-teknologi for at komme forbi biometrisk sikkerhedsbeskyttelse og bruge den AI-baserede teknologi i kriminalitet som afpresning, identitetstyveri osv.

Indenfor de nærmeste år vil både kriminelle og statslige aktører, som er involveret i desinformation og påvirkningskampagner, bevæge sig mod såkaldt deepfake, da medieforbruget på nettet mere og mere går mod, at man tror, hvad man ser, og da en del af online-samfundet fortsat er modtageligt for falsk eller vildledende information, fortæller rapporten.

Diskussionerne mellem truende aktører om deepfake-produkter finder hovedsagelig sted på kriminelle fora på engelsk og russisk, men er også blevet observeret på tyrkiske, spanske og kinesisk-fora.

Hvad er deepfake?
Deepfake er ifølge Medierådet for børn og unge manipulation af lyd og video ved hjælp af kunstig intelligens. Ved at manipulere allerede eksisterende video og lyd, kan man skabe scenarier, som aldrig har fundet sted. Man har set eksempler på, hvordan skuespillere, politikere eller privatpersoner kan figurere i videoer, hvor de gør eller siger noget, som de aldrig har sagt eller gjort. Deepfake-teknologi bruger typisk ansigtsgenkendelse og genskaber folks stemme og ansigt ved at indsamle allerede eksisterende fotos og lydoptagelser.