SecurityWorldMarket

Ny standard ska bekämpa deepfakes

ETSI:s nya specifikation har ett proaktivt förhållningssätt och betraktar förebyggande av deepfakes som en utmaning rörande säkerhet och styrning, vilken måste hanteras genom hela AI-systemets livscykel. Bild med tillstånd av ETSI

Standardiseringsorganisationen ETSI har publicerat en ny teknisk specifikation som syftar till att minska risken för att generativa AI-system skapar skadliga deepfakes. Specifikationen, ETSI TS 104 275, har tagits fram av ETSI:s tekniska kommitté för säkrad artificiell intelligens (TC SAI) och syftar till att stärka ansvarsutkrävandet bland AI-utvecklare och AI-operatörer. Detta sker genom att tillhandahålla praktiska åtgärder och skyddsmekanismer som visar hur risker kopplade till deepfakes kan begränsas.

Försök för att bekämpa deepfakes har främst fokuserat på att upptäcka manipulerat innehåll efter att det har skapats. ETSI:s nya specifikation tillämpar ett proaktivt förhållningssätt och betraktar förebyggandet av deepfakes som en utmaning rörande säkerhet och styrning, vilken måste hanteras genom hela AI-systemets livscykel.

Med utgångspunkt i de grundläggande cybersäkerhetskrav som fastställs i ETSI:s standard EN 304 223 för AI-modeller och AI-system, hjälper den nya specifikationen organisationer att minska risken för att AI-system skapar skadliga deepfakes. Detta stöder även målen i EU:s AI-förordning (EU AI Act) genom att utöka säkerhetsarbetet till att omfatta mer än bara system som klassificeras som högrisk.

ETSI:s TC SAI anger följande åtgärder:

• Riskbedömningar före driftsättning: Identifiera potentiellt missbruk av generativa AI-system och implementera skyddsåtgärder innan de släpps.

• Mänsklig tillsyn: Etablera processer för mänsklig granskning och intervention, vilket säkerställer att organisationer behåller kontrollen över systembeteendet.

• Skyddsåtgärder mot missbruk: Implementera åtgärder som innehållsfiltrering, märkning av AI-genererat innehåll och användarvarningar där så är lämpligt.

• Löpande övervakning: Granska nya hot, utreda incidenter och uppdatera skyddsåtgärder när nya risker identifieras.

• Evidensbaserad bedömning: Upprätthålla dokumentation och register som visar om lämpliga kontroller har implementerats och fungerar som avsett.

Utöver dessa skyddsåtgärder beskriver specifikationen även testscenarier och kriterier för godkänt/underkänt. Dessa praktiska åtgärder gör det möjligt för organisationer att visa om minskningen av deepfake-relaterade risker faktiskt har uppnåtts, snarare än att förlita sig på åtaganden om ansvarsfull AI-utveckling.

Behöver stöd

– Skadligt, vilseledande och olagligt deepfake-material – såsom kränkande bilder eller bedrägliga produktsajter – kan skapas genom missbruk av laglig och kommersiellt tillgänglig mjukvara, säger Alex Cadzow, rapportör och sekreterare för ETSI TC SAI, och avslutar:

– I takt med att deepfakes blir allt vanligare behöver AI-organisationer stöd för att hantera riskerna i ett mycket tidigare skede, med utgångspunkt i hur generativa AI-system utformas. Denna specifikation ger organisationer en tydlig uppsättning krav som hjälper till att minska dessa risker, samt metoder för att bedöma om nödvändiga skyddsåtgärder finns på plats.


Taggar

Webb-TV

Se fler filmer och klipp »
Leverantörer
Till toppen av sidan