2023-04-20

”Ökad risk när företag tar beslut baserade på AI-data”

62 procent av affärs- och IT-beslutsfattarna tror att färgad data kommer att bli ett större problem när AI/ML-användningen ökar.

De flesta större företag och verksamheter förstår att det är viktigt att den data de använder för att fatta beslut inte är färgad eller vilseledande. En undersökning från Progress visar nu att en majoritet (56 procent) av de svenska företagen inser att de data de grundar beslut på i själva verket kan vara partiska. Användningen av artificiell intelligens förväntas öka problemen, tror många av de tillfrågade.

Tre fjärdedelar av de svenska företagen (74 procent) menar att de kommer behöva göra mer för att ta itu med partiska data, och många arbetar redan aktivt med att hantera utmaningen. Progress har genomfört en global undersökning om hur data snedvrids och riskerna med detta. Resultaten presenteras i rapporten "Data Bias: The Hidden Risk of AI" som utförts av analysföretaget Insight Avenue.

Rapporten baseras på intervjuer med mer än 640 kommersiellt ansvariga och IT-ansvariga i företag med mer än 500 anställda, varav 50 i Sverige. De som besvarat frågorna använder data som stöd för att fatta beslut och använder eller planerar att använda artificiell intelligens (AI) och maskininlärning (ML) för att stödja beslutsfattandet.

– Den data som används för att lära upp system för maskininlärning kan riskera att färgas av människors fördomar. När data samlas in och används i utbildningen av maskininlärningsmodeller ärver modellerna även partiskheten hos de personer som bygger dem, säger Niklas Enge, Nordenchef på Progress.

– Fördomsfulla beslutsunderlag kan orsaka direkt skadliga beslut, både juridiskt, finansiellt – och etiskt. Nu behövs det en ökad förståelse kring processerna och tekniken som behövs för att hantera dessa inbyggda fördomar på ett bra sätt.

Undersökningen visade att 62 procent av affärs- och IT-beslutsfattarna tror att färgad data kommer att bli ett större problem när AI/ML-användningen ökar. Det är idag bara 2 procent av de svenska företagen som säger sig ha kommit långt med att hantera utmaningen, men många (54 procent ) har nu börjat implementera lösningar. De största hindren de ser är en brist på medvetenhet om potentiella fördomar, förståelse för hur man identifierar fördomarna samt svårigheten att hitta rätt specialister, exempelvis inom datahantering.

Resultaten från undersökningen visar också:
• 60 procent av företagen förväntar sig att använda mer AI/ML-baserat beslutsfattande under de kommande åren.
• 56 procent tror att det idag finns färgade data som används i verksamheten.
• 74 procent anser att de måste göra mer för att ta itu med färgade data.
• 40 procent anser att bristande medvetenhet om och omfattningen av fördomar är ett hinder för att ta itu med problemet.

– Partiska data kan leda till ett förlorat kundförtroende, finansiella implikationer och mycket mer. Vi sätter våra kunder i centrum i allt vi gör, vilket också innebär att vi behöver säkerställa att AI/ML används på ett bra sätt. Då behöver dessa system getts tillgång till rätt data så att de beslut som fattas blir de bästa möjliga för att utveckla företaget, säger Niklas Enge.

Taggar