Den nye deepfake detektor analyserer videoer i stor skala og kategoriserer dem som enten deepfake, autentiske eller mistænkelige, som kræver yderligere undersøgelse. Den kan behandle ubegrænsede mængder af indhold, fra enkeltvideoer til millioner af videoer, hvilket gør den til et uvurderligt redskab for valgintegritet.

- Med en stigning i deepfakes på 245 procent i løbet af det seneste år er der store muligheder for, at fx nationale valg kan blive påvirket, siger Dov Donin, CEO for Revealense.

- Vores system bruges allerede af flere regeringer til at beskytte demokratiske processer mod desinformationskampagner.

Donin tilføjer:

- Dagens teknologier gør det muligt at skabe meget realistiske falske videoer, som er tilgængelige for alle online, og som forstærkes gennem sociale medier. Denne situation understreger det presserende behov for pålidelige og etiske detektionsteknologier. Sådanne værktøjer er afgørende for institutioner og medier til at hjælpe globale borgere med at skelne mellem virkelighed og manipuleret indhold.

Teknologiens styrke ligger i dens evne til at analysere menneskelig adfærd i videoer ved at undersøge faktorer relateret til det parasympatiske nervesystem. Denne tilgang muliggør detektion af anomalier i følelsesmæssige reaktioner, hvilket effektivt skulle kunne skelne mellem ægte personer og sofistikerede bots eller manipuleret indhold.

Ifølge den israelske virksomhed understreger nylige hændelser nødvendigheden af sådan teknologi. I januar sendte en såkaldt robocall, der imiterede præsident Bidens stemme, en besked til vælgere i New Hampshire, hvor de blev opfordret til ikke at stemme ved det demokratiske primærvalg – altså en taktik designet til at manipulere valgdeltagelsen.

I USA er deepfake-manipulation af politiske figurer blevet udbredt, med syntetiske billeder og videoer, der bruges til at påvirke vælgernes holdninger. For eksempel blev et falsk billede af Trump, hvor han omfavner sorte tilhængere, cirkuleret for at styrke hans popularitet.

Internationalt har Revealense fundet, at Kina skal have brugt AI-drevet indhold til at påvirke valg, heriblandt Taiwans valg tidligere i år samt i Indien, hvor en enorm mængde AI-genererede stemmekald imiterede offentlige personer. Disse eksempler viser deepfakes' potentiale til at forme holdninger og påvirke stemmeadfærd.

Revealense blev grundlagt i november 2021 af Dov Donin, CEO, og har samlet et team af eksperter inden for psykologi, neuropsykologi, matematik, AI, computer vision og neurale netværk.