Tre fjärdedelar av de svenska företagen (74 %) menar att de kommer behöva göra mer för att ta itu med partiska data, och många arbetar redan aktivt med att hantera utmaningen. Resultaten kommer från Progress (Nasdaq: PRGS), en etablerad leverantör av programvara för applikationsutveckling och infrastruktur. Företaget har genomfört en global undersökning om hur data snedvrids och riskerna med detta. Resultaten presenteras i rapporten "Data Bias: The Hidden Risk of AI" som utförts av analysföretaget Insight Avenue.

640 intervjuer

Rapporten baseras på intervjuer med mer än 640 kommersiellt ansvariga och IT-ansvariga i företag med mer än 500 anställda, varav 50 i Sverige. De som besvarat frågorna använder data som stöd för att fatta beslut och använder eller planerar att använda artificiell intelligens (AI) och maskininlärning (ML) för att stödja beslutsfattandet.

– Den data som används för att lära upp system för maskininlärning kan riskera att färgas av människors fördomar. När data samlas in och används i utbildningen av maskininlärningsmodeller ärver modellerna även partiskheten hos de personer som bygger dem, säger Niklas Enge, Nordenchef på Progress.

– Fördomsfulla beslutsunderlag kan orsaka direkt skadliga beslut, både juridiskt, finansiellt – och etiskt. Nu behövs det en ökad förståelse kring processerna och tekniken som behövs för att hantera dessa inbyggda fördomar på ett bra sätt.

IT-beslutsfattare varnar för utvecklingen

Progress-undersökningen visade att 62 % av affärs- och IT-beslutsfattarna tror att färgad data kommer att bli ett större problem när AI/ML-användningen ökar. Det är idag bara 2 % av de svenska företagen som säger sig ha kommit långt med att hantera utmaningen, men många (54 %) har nu börjat implementera lösningar. De största hindren de ser är en brist på medvetenhet om potentiella fördomar, förståelse för hur man identifierar fördomarna samt svårigheten att hitta rätt specialister, exempelvis inom datahantering.

Resultaten från undersökningen visar också:

• 60 % av företagen förväntar sig att använda mer AI/ML-baserat beslutsfattande under de kommande åren.

• 56 % tror att det idag finns färgade data som används i verksamheten.

• 74 % anser att de måste göra mer för att ta itu med färgade data.

• 40 % anser att bristande medvetenhet om och omfattningen av fördomar är ett hinder för att ta itu med problemet.

– Partiska data kan leda till ett förlorat kundförtroende, finansiella implikationer och mycket mer. Vi sätter våra kunder i centrum i allt vi gör, vilket också innebär att vi behöver säkerställa att AI/ML används på ett bra sätt. Då behöver dessa system getts tillgång till rätt data så att de beslut som fattas blir de bästa möjliga för att utveckla företaget, säger Niklas Enge.

Fokus på hur data används för beslutsfattande

Undersökningen "Data Bias: The Hidden Risk of AI" genomfördes av Insight Avenue, ett brittiskt undersökningsföretag som specialiserat sig på forskning om teknik inom B2B, på uppdrag av Progress. Resultaten är baserade på intervjuer med affärs- och IT-ansvariga i hela Amerika, Europa och Asien. De tillfrågade arbetar på verksamheter med mer än 500 anställda. Undersökningens fokus är hur data används vid beslutsfattande. Syftet är att bättre förstå den övergripande medvetenheten om ”data bias”, alltså hur data kan vara snedvridna av olika faktorer, hur detta påverkade företag och vad företagen gjorde för att ta itu med det. För att se alla resultat från olika länder, besök gärna: https://progress.com/papers/data-bias-the-hidden-risk-of-ai.