Deepfake är när röst, bild eller video AI-manipuleras med bedrägligt syfte.

– Bedragare är ju i många fall smarta och driftiga personer och dessa nya AI-drivna teknologier är ett smörgåsbord av möjligheter, säger Patric Barenthin, AI- och dataexpert på konsult- och revisionsfirman Deloitte i Sverige, till DI.

Finansiella aktörer har upplevt en dramatisk ökning av bedrägeriförsök med deepfakes, enligt en rapport från norska Signicat som utvecklar digitala identitetslösningar.

”För tre år sedan stod deepfake-attacker för endast 0,1 procent av alla upptäckta bedrägeriförsök. I dag har andelen ökat till cirka 6,5 procent, motsvarande 1 av 15 fall. Detta motsvarar en ökning på 2 137 procent på tre år, vilket är alarmerande. Bedragare använder AI-baserade tekniker som traditionella system inte längre fullt ut kan upptäcka. Deepfakes rankas nu bland de tre vanligaste typerna av identitetsbedrägerier inom finans- och betalningssektorn i Europa”, skriver företaget i rapporten.

Enligt rapporten finns det två huvudtyper av attacker: presentationsattacker och injektionsattacker. Presentationsattacker innebär att bedragaren använder masker och smink för att likna en person, eller där en kamera riktas mot en skärm som visar en deepfake i realtid. Ofta är målet kontoövertaganden eller falska låneansökningar.

Injektionsattacker är när kod används för att manipulera ett system, till exempel genom förinspelade filmer. DI menar att den typen av attacker ofta riktar sig mot onboarding- eller kundprocesser hos banker, fintech- eller telekombolag.

– Företagen tar inte dessa hot på allvar och lägger inte tillräckligt med resurser på det. Huvuddelen av den synliga forskningen sker i akademin som är lite mer alert, säger Michael Felsberg, professor vid Linköpings universitet med fokus på artificiella visuella system.