I rapporten från Trend Micro varnas för den transformativa roll som generativ AI (GenAI) tagit inom cybersäkerhetslandskapet.

– Stora avancerade språkmodeller (LLMs) som behärskar vilket språk som helst utgör stora risker då de undviker traditionella tecken på nätfiske, såsom märklig formatering och grammatiska fel. Detta gör att de är än svårare att upptäcka. Företag måste därför utbildas bortom traditionellt nätfiske och prioritera moderna säkerhetskontroller. Mer avancerade försvarsstrategier har kapaciteten att upptäcka attacker bortom den mänskliga förmågan och kan också säkerställa ökad motståndskraft, säger Jean Diarbakerli säkerhetsrådgivare på Trend Micro.

Den utbredda tillgängligheten och förbättrade kvalitén hos generativ AI, tillsammans med användningen av Generative Adversarial Networks (GANs), kommer skaka om nätfiskelandskapet i grunden under 2024. Denna utveckling kommer att göra det möjligt för cyberkriminella att, på kostnadseffektiva sätt, skapa hyperrealistiskt ljud och videomaterial. Något som kommer driva en våg av epostintrång (BEC), virtuella kidnappningar och andra utpressningsattacker, enligt rapporten.

Givet de lukrativa möjligheter som cyberkriminella ges via denna utveckling kommer de få ytterligare incitament att också själva utveckla AI-verktyg för utökade attacker eller använda existerande AI-tjänster, via VPN eller stulna inloggningsuppgifter, menar företaget.

AI-modeller i sig kan också hamna i skottgluggen under kommande år. Medan GenAI och stora språkmodeller i sig är svåra för aktörer att påverka – så är specialiserade molndrivna maskininlärningsmodeller en alltmer attraktiv måltavla. Ju mer fokuserade datamängder de är upplärda på desto mer kan de användas för dataförgiftningsattacker med olika resultat i åtanke – från att nå känsliga data till att störa bedrägerifilter och till och med anslutna fordon. Sådana attacker kostar redan mindre än 100 dollar att genomföra.

Denna snabba utveckling kan i sig leda till ökade påtryckningar från cybersäkersektorn om utförlig regulatorisk granskning.

– Under kommande år kommer cybersäkerhetsbranschen gå om myndigheter när det gäller att utveckla cybersäkerhetsspecifika AI-regleringar och AI-policys. Branschen rör sig för snabbt för att kunna självregleras på frivilligt styrd basis, säger Jean Diarbakerli.