Deepfakes är ett nytt sofistikerat hot från social ingenjörskonst som organisationer över hela världen står inför. Bedragare går vidare från nätfiskemejl och falska fakturor och börjar anamma deepfakes i realtid och hög upplösning. Det nya hotet ställer enligt Thales en grundläggande fråga till företag och organisationer: ”hur kan mina system verifiera vad som är verkligt?”

Kostar allt mer

Tre sekunders ljud kan producera en 85-procentig röstmatchning från originalet till en klon. Och tack vare sociala medier finns det bilder och videor överallt som ger det källmaterial som behövs.

Som en konsekvens förväntas förlusterna relaterade till deepfakes enligt Thales öka från 12,3 miljarder dollar år 2023 till 40 miljarder dollar år 2027.

Kapprustningen kring AI-deepfakes

Framväxten av AI-deepfakes har förändrat reglerna för "känn din kund” för stora företag. Efter att i åratal ha använt svaga metoder för identifiering (uppladdning av personliga dokument, verifiering av e-postmeddelanden etc.) verkade ansiktsskanning i realtid vara en enorm förbättring. Deepfakes och ansiktsbyte undergrävde snabbt detta.

Jason Keenaghan, Director of product management på Thales Identity and Access Management beskriver hur amerikanska banker fick reda på detta den hårda vägen.

– För ungefär ett år sedan började banken se en ökning av bedrägerier vid öppnande av nya konton. Man var inte säker på vad som pågick. Tekniken för bedrägeriupptäckt kunde inte upptäcka attackerna. Endast manuella kontroller visade att det var deepfakes: det var uppenbart för det mänskliga ögat att ansiktena inte var verkliga, säger han och fortsätter:

– Men idag, ungefär ett år senare, har allt förändrats. Nu kan det mänskliga ögat eller örat inte längre upptäcka en deepfake. Videorna är för bra. Min uppfattning är att vi behöver AI-verktyg för att upptäcka onaturliga ögonblinkningar, felaktig belysning, inkonsekvenser i hudstruktur och 'gränsartefakter' runt ansikten. Vi måste acceptera att detta är en katt-och-råtta-lek. Kapprustningen har vänt – vi behöver nu AI för att upptäcka AI.

De tre försvarslagren

Så hur bör organisationer försvara sig mot dessa attacker? En bra början är enligt Thales att identifiera de processer som bedragare riktar in sig på: onboarding, kontoåterställningsprocesser, helpdesk och så vidare. Och detta bör gälla kundinteraktioner och de med affärspartners/anställda. Företag bör noggrant granska leverantörer eftersom deepfake-attacker i leveranskedjan ökar, menar Thales.

Multifaktorautentisering (MFA) är ett alternativ här. Med andra ord måste personalen be om sekundär bekräftelse innan de agerar i ett videosamtal. Detta innebär dock att man arbetar med tredje part, vilket medför nya risker.

”Live-känslan är viktig”

Nästa steg är teknologi. Det finns ingen universell deepfake-detektor, så företag bör leta efter verifieringsverktyg med specifika funktioner. Den kanske viktigaste av dessa är live-känslan, eftersom det är den faktor som skiljer en verklig person från en syntetisk video eller ett AI-genererat ansikte.

Det tredje försvaret är träning. Människor kan vara den svagaste länken mot deepfake-attacker – målet för social ingenjörskonst. Säkerhetsteam bör därför visa en viss skepticism hos personalen och se till att utbildningen sker kontinuerligt snarare än en gång. ”Red team testing” kan hjälpa till att identifiera svagheter i säkerhetsprotokoll, menar företaget.