Konsekvenserne kan være betydelige, ikke mindst for den offentlige sektor. Undersøgelsen bygger på tusindvis af gentagne tests af næsten 100 modeller og belyser, hvorfor AI, der anvendes i offentlig forvaltning, kommunikation eller beslutningsstøtte, skal reguleres, verificeres og løbende testes – især når resultaterne kan opfattes som officielle retningslinjer.
Inkonsekvente svar
– Vores tests viser, at AI-systemer kan levere inkonsekvent eller forældet information i politisk følsomme, regulatoriske og borgerrettede scenarier. Det øger risikoen for, at forkert information præsenteres, og at tilliden til virksomheder og myndigheder undergraves, når AI-resultater tages for pålydende uden tilstrækkelig verifikation, siger Martin Fribrock, Sverigechef hos Trend Micro.
Ikke som traditionel software
– Mange organisationer antager, at AI fungerer som traditionel software, hvor samme input giver samme output. Vores rapport viser, at denne antagelse ikke holder. Store sprogmodeller kan ændre deres svar afhængigt af region, sprog og sikkerhedspolitikker. Virksomheder bør derfor betragte AI som et højrisikoområde, der kræver klar styring, tydeligt ansvar og menneskelig verifikation af alle brugerrettede output. Det indebærer også, at man stiller krav om transparens fra AI-leverandører om, hvordan modellerne fungerer, hvilke data de bygger på, og hvor der anvendes begrænsninger, siger Martin Fribrock.
Vigtigt med forståelse for AI's begrænsninger
AI kan i høj grad drive innovation og effektivitet – men kun når teknologien anvendes med en klar forståelse for dens begrænsninger og med kontroller, der afspejler, hvordan disse systemer faktisk opfører sig i virkelige miljøer, understreger virksomheden.
Sverige
