Indsatsen mod deepfakes har hidtil primært fokuseret på at opdage manipuleret indhold, efter at det er blevet skabt. ETSI's nye specifikation har en proaktiv tilgang, hvor forebyggelse af deepfakes betragtes som en sikkerheds- og styringsmæssig udfordring, der skal håndteres gennem hele AI-systemets livscyklus.

Med udgangspunkt i de grundlæggende cybersikkerhedskrav, der er fastlagt i ETSI's standard EN 304 223 for AI-modeller og -systemer, hjælper den nye specifikation organisationer med at reducere risikoen for, at AI-systemer skaber skadelige deepfakes. Den understøtter samtidig målsætningerne i EU's AI-forordning (AI Act) og udvider sikkerhedsindsatsen til også at omfatte systemer, der ikke er klassificeret som højrisikosystemer.

ETSI's TC SAI fremhæver følgende foranstaltninger:

- Risikovurderinger før implementering: Identifikation af potentielt misbrug af generative AI-systemer og indførelse af sikkerhedsforanstaltninger, inden systemerne tages i brug.

- Menneskeligt tilsyn: Etablering af procedurer for menneskelig kontrol og indgriben, så organisationerne bevarer kontrollen over systemernes adfærd.

- Beskyttelse mod misbrug: Implementering af foranstaltninger som indholdsfiltrering, mærkning af AI-genereret indhold og advarsler til brugerne, hvor det er relevant.

- Løbende overvågning: Vurdering af nye trusler, undersøgelse af hændelser og opdatering af sikkerhedsforanstaltninger, efterhånden som nye risici identificeres.

- Evidensbaseret vurdering: Vedligeholdelse af dokumentation og registreringer, der viser, om de nødvendige kontrolforanstaltninger er implementeret og fungerer efter hensigten.

Ud over disse sikkerhedsforanstaltninger beskriver specifikationen også testscenarier og kriterier for, hvornår en test er bestået eller ikke bestået. Disse praktiske tiltag gør det muligt for organisationer at dokumentere, om målene om at reducere risici forbundet med deepfakes rent faktisk er opfyldt, frem for blot at basere sig på hensigtserklæringer om ansvarlig AI-udvikling.

– Skadeligt, vildledende og ulovligt deepfake-materiale, såsom krænkende billeder eller falske produkthjemmesider, kan skabes ved misbrug af lovlig og kommercielt tilgængelig software, siger Alex Cadzow, rapportør og sekretær for ETSI TC SAI.

– I takt med at deepfakes bliver mere udbredte, har AI-organisationer brug for støtte til at håndtere risiciene langt tidligere i processen, allerede fra det tidspunkt, hvor generative AI-systemer designes. Denne specifikation giver organisationerne et klart sæt krav, der kan hjælpe med at reducere disse risici, samt metoder til at vurdere, om de nødvendige sikkerhedsforanstaltninger er på plads.