– AI-genererede medier er ikke kun en fremtidig risiko, det er en reel trussel mod virksomheder, og det sker nu. Vi ser chefer blive imiteret og ansættelsesprocesser blive manipuleret med alarmerende lethed. I en verden, hvor vi ikke længere kan stole på det, vi ser foran os, må tillid til det digitale genopbygges fra grunden, og denne rapport er en vækkelse for virksomheder til at begynde at arbejde proaktivt med disse risici, siger Martin Fribrock fra Trend Micro, som står bag rapporten.

Cyberkriminelle behøver ikke længere nogen tidligere ekspertise for at lancere et overbevisende cyberangreb. Alle kan bruge tilgængelige platforme til video-, lyd- og billedgenerering, som normalt markedsføres til indholdsskabere, til at skabe realistiske deepfakes, der narrer både enkeltpersoner og virksomheder. Værktøjerne koster meget lidt, er lette at bruge og bliver konstant bedre til at passere verificeringssystemer og sikkerhedskontroller, ifølge rapporten.

Sådan bruges platforme til at gennemføre overbevisende bedragerier:

CEO-bedragerier er blevet stadig sværere at opdage, da de kriminelle bruger deepfake-video og -lyd til at imitere chefer live i digitale møder.

Rekrutteringsprocesser rammes af falske kandidater, som ved hjælp af AI klarer sig gennem interviews og får uautoriseret adgang til interne systemer.

Virksomheder inden for bank og finans ser en stigning i forsøg på at bruge deepfakes til at omgå kundekendskabs-kontroller med henblik på anonym hvidvaskning ved hjælp af forfalskede identitetshandlinger.

I takt med at deepfake-bedragerier bliver mere almindelige og komplekse, har virksomheder brug for at arbejde proaktivt for at minimere deres risikoudsættelse og beskytte medarbejdere og processer. Dette indebærer at uddanne personalet om risikoen ved social manipulation, gennemgå rutinerne for autentificering og undersøge tekniske løsninger til at opdage såkaldt syntetiske medier, påpeger Trend Micro.