Deepfakes er en ny og sofistikeret trussel inden for social engineering, som organisationer over hele verden står over for. Svindlere bevæger sig videre fra phishing-mails og falske fakturaer og begynder at tage deepfakes i realtid og høj opløsning i brug. Den nye trussel rejser ifølge Thales et grundlæggende spørgsmål for ledere inden for cybersikkerhed: Hvordan kan mine systemer verificere, hvad der er virkeligt?

Deepfakes’ oprindelse

Oprindelsen til ansigtsudskiftning begyndte med en teknik kaldet GAN (Generative Adversarial Networks), som kan generere syntetiske data i høj kvalitet ved at lære mønstre fra eksisterende træningsdatasæt. GAN åbnede døren for generering af deepfakes i realtid.

Som så mange andre samfundsforandrende teknologier opstod AI-baseret ansigtsudskiftning først som underholdning. Hollywood var hurtige til at tage teknologien til sig – især for at reducere alderstegn. Et opsigtsvækkende gennembrud kom i 2019 med The Irishman, hvor den 76-årige Robert De Niros yngre ansigt blev genskabt digitalt til flashback-scener.

Omtrent samtidig begyndte brugere på sociale medier også at eksperimentere med en version af teknologien. Snapchat introducerede filtre, der lod folk forvandle sig til katte eller feer. Innovationen blev enormt populær.

Men svindlerne fulgte med. De så potentialet i ansigtsudskiftning til at tage social engineering til nye højder. De blev hjulpet af den hurtige teknologiske udvikling: Tre sekunders lyd kan skabe et stemmematch på 85 procent mellem originalen og en klon. Og takket være sociale medier findes der billeder og videoer overalt, som leverer det nødvendige kildemateriale.

Som en konsekvens forventes tab relateret til deepfakes ifølge Thales at stige fra 12,3 milliarder dollars i 2023 til 40 milliarder dollars i 2027.

Kaprustningen omkring AI-deepfakes

Fremkomsten af AI-deepfakes har ændret spillereglerne for ”kend-din-kunde”-processer i store virksomheder. Efter i årevis at have anvendt svage identifikationsmetoder (upload af personlige dokumenter, e-mailverificering osv.) virkede ansigtsscanning i realtid som en stor forbedring. Ansigtsudskiftning underminerede dog hurtigt denne metode.

Jason Keenaghan, Director of Product Management hos Thales Identity and Access Management, beskriver, hvordan amerikanske banker lærte dette på den hårde måde:

– For omkring et år siden begyndte bankerne at se en stigning i svindel ved oprettelse af nye konti. Man var usikker på, hvad der foregik. Teknologien til svindelopdagelse kunne ikke identificere angrebene. Kun manuelle kontroller viste, at der var tale om deepfakes – det var tydeligt for det menneskelige øje, at ansigterne ikke var ægte, siger han og fortsætter:

– Men i dag, cirka et år senere, har alt ændret sig. Nu kan det menneskelige øje eller øre ikke længere opdage en deepfake. Videoerne er for gode. Min vurdering er, at vi har brug for AI-værktøjer til at opdage unaturlige øjenblink, forkert belysning, uoverensstemmelser i hudstruktur og såkaldte “kantartefakter” omkring ansigter. Vi må acceptere, at dette er en kat-og-mus-leg. Kaprustningen har vendt – vi har nu brug for AI til at opdage AI.

De tre forsvarslag

Hvordan kan organisationer så forsvare sig mod disse angreb? Et godt udgangspunkt er at identificere de processer, som svindlere går efter: onboarding, kontogendannelsesprocesser, helpdesk osv. Dette bør gælde både kundekontakter og interaktioner med forretningspartnere og medarbejdere. Virksomheder bør også nøje gennemgå leverandører, da deepfake-angreb i forsyningskæden er stigende, mener Thales.

Multifaktorautentifikation (MFA) er et muligt tiltag. Med andre ord skal medarbejdere bede om sekundær bekræftelse, før de handler på baggrund af et videoopkald. Det indebærer dog samarbejde med tredjeparter, hvilket kan medføre nye risici.

Næste lag er teknologi. Der findes ingen universel deepfake-detektor, så virksomheder bør se efter verifikationsværktøjer med specifikke funktioner. Den måske vigtigste er ”live-fornemmelsen”, da det er den faktor, der adskiller et rigtigt menneske fra en syntetisk video eller et AI-genereret ansigt. Virksomheder bør søge vejledning hos organisationer som NIST, der vurderer og rangerer forskellige kommercielle løsninger.

Det tredje forsvar er træning. Mennesker kan være det svageste led i forhold til deepfake-angreb – målet for social engineering. Sikkerhedsteams bør derfor fremme en sund skepsis blandt medarbejderne og sikre, at uddannelse foregår løbende og ikke som en engangsindsats. “Red team-tests” kan hjælpe med at identificere svagheder i sikkerhedsprotokoller, mener virksomheden.

Ud over deepfakes: ikke-menneskelige agenter

Svindlere bruger allerede deepfake-teknologi med stor succes, men de ser også frem mod nye former for bedrageri. Eksperter mener, at agentbaseret AI bliver deres næste angrebsvektor. Produkter som ChatGPT Agent arbejder på vegne af menneskelige brugere og kan planlægge, udføre og lære uden kontinuerlige instruktioner. Det er let at forestille sig, hvordan kriminelle kan bruge uautoriserede agenter til at trænge ind i organisationer.

Efterhånden som agentteknologi bliver mere udbredt, bliver den store udfordring at skelne legitime ikke-mennesker fra dem, der styres af svindlere.

Naturligvis kan agenter også bruges defensivt. Jason Keenaghan mener, at virksomheder kan anvende agenter som medpiloter til at opdage deepfakes.

– Man kunne indsætte en agent i et Zoom- eller Teams-møde for at overvåge deltagerne og opdage deepfakes i realtid, siger han.

Ingen tillid uden verifikation

I dag findes AI-genererede forfalskninger overalt, og de er for realistiske til, at mennesker kan skelne dem. Derfor må vi verificere og anvende AI-værktøjer – i kombination med medarbejderuddannelse og robuste processer – for at bekæmpe AI-baseret svindel, mener Thales.