Försök för att bekämpa deepfakes har främst fokuserat på att upptäcka manipulerat innehåll efter att det har skapats. ETSI:s nya specifikation tillämpar ett proaktivt förhållningssätt och betraktar förebyggandet av deepfakes som en utmaning rörande säkerhet och styrning, vilken måste hanteras genom hela AI-systemets livscykel.
Med utgångspunkt i de grundläggande cybersäkerhetskrav som fastställs i ETSI:s standard EN 304 223 för AI-modeller och AI-system, hjälper den nya specifikationen organisationer att minska risken för att AI-system skapar skadliga deepfakes. Detta stöder även målen i EU:s AI-förordning (EU AI Act) genom att utöka säkerhetsarbetet till att omfatta mer än bara system som klassificeras som högrisk.
ETSI:s TC SAI anger följande åtgärder:
• Riskbedömningar före driftsättning: Identifiera potentiellt missbruk av generativa AI-system och implementera skyddsåtgärder innan de släpps.
• Mänsklig tillsyn: Etablera processer för mänsklig granskning och intervention, vilket säkerställer att organisationer behåller kontrollen över systembeteendet.
• Skyddsåtgärder mot missbruk: Implementera åtgärder som innehållsfiltrering, märkning av AI-genererat innehåll och användarvarningar där så är lämpligt.
• Löpande övervakning: Granska nya hot, utreda incidenter och uppdatera skyddsåtgärder när nya risker identifieras.
• Evidensbaserad bedömning: Upprätthålla dokumentation och register som visar om lämpliga kontroller har implementerats och fungerar som avsett.
Utöver dessa skyddsåtgärder beskriver specifikationen även testscenarier och kriterier för godkänt/underkänt. Dessa praktiska åtgärder gör det möjligt för organisationer att visa om minskningen av deepfake-relaterade risker faktiskt har uppnåtts, snarare än att förlita sig på åtaganden om ansvarsfull AI-utveckling.
Behöver stöd
– Skadligt, vilseledande och olagligt deepfake-material – såsom kränkande bilder eller bedrägliga produktsajter – kan skapas genom missbruk av laglig och kommersiellt tillgänglig mjukvara, säger Alex Cadzow, rapportör och sekreterare för ETSI TC SAI, och avslutar:
– I takt med att deepfakes blir allt vanligare behöver AI-organisationer stöd för att hantera riskerna i ett mycket tidigare skede, med utgångspunkt i hur generativa AI-system utformas. Denna specifikation ger organisationer en tydlig uppsättning krav som hjälper till att minska dessa risker, samt metoder för att bedöma om nödvändiga skyddsåtgärder finns på plats.





































