Konsekvenserna kan bli betydande, inte minst för den offentliga sektorn. Undersökningen baseras på tusentals upprepade tester på nästan 100 modeller och belyser varför AI som används inom offentlig förvaltning, kommunikation eller beslutsstöd måste regleras, verifieras och kontinuerligt testas, särskilt när resultaten kan tolkas som officiella riktlinjer.
Inkonsekventa svar
– Våra tester visar att AI-system kan återge inkonsekvent eller gammal information i politiskt känsliga, regulatoriska och medborgarorienterade scenarier. Det ökar risken att felaktig information presenteras och att förtroendet för företag och myndigheter urholkas när AI-resultatet tas för sant utan ordentlig verifiering, säger Martin Fribrock, Sverigechef på Trend Micro.
Inte som traditionell programvara
– Många organisationer antar att AI fungerar som traditionell programvara, där samma indata ger samma utdata. Vår rapport visar att detta antagande inte stämmer. Stora språkmodeller kan ändra sina svar baserat på region, språk och säkerhetspolicyer. Företag behöver betrakta det som en högriskberoende, med tydlig styrning, ansvar och mänsklig verifiering för alla användarorienterade utdata. Det innebär också att man måste kräva transparens från AI-leverantörer om hur modellerna fungerar, vilka data de förlitar sig på och var begränsningar tillämpas, säger Martin Fribrock.
Förståelse för begränsningar
AI kan absolut driva innovation och effektivitet, men bara när det används med en tydlig förståelse för dess begränsningar och med kontroller som återspeglar hur dessa system beter sig i verkliga miljöer, menar bolaget.
.jpg?w=480&action=fill&sh=c9639 "Uno Lundberg, vd för Heras Sverige.")
Sverige
