– Denne stigning drives af virksomhedernes akutte behov for at sikre AI-systemer, håndtere nye sårbarheder og styrke forsvaret mod sofistikerede cybertrusler, siger Shailendra Upadhyay, Senior Principal Analyst hos Gartner, og fortsætter:

– Dette forværres af et stigende antal sårbarheder og angreb i forsyningskæden, som involverer tredjepartssoftware og open source-software i AI-projekter. Uden tilstrækkelige sikkerheds- og overvågningsmekanismer risikerer virksomhedernes AI-initiativer i høj grad at mislykkes.

Behov for AI-sikkerhedsværktøjer

Gartner forudser, at mere end halvdelen af de vellykkede cyberangreb mod AI-agenter frem mod 2029 vil udnytte svagheder i adgangskontrol og ”prompt injection”. Der er et voksende behov for, at organisationer kan identificere, overvåge og beskytte AI-modeller mod disse særlige trusler, hvilket driver udbredelsen af avancerede AI-sikkerhedsløsninger. For at opbygge et stærkt forsvar skal virksomheder kombinere deres eksisterende sikkerhedssystemer med specialiserede AI-sikkerhedsværktøjer.

– Traditionelle sikkerhedsværktøjer behandler ofte AI-applikationer som enhver anden software og kræver betydelige opdateringer for at kunne håndtere AI-specifikke trusler, siger Shailendra Upadhyay og fortsætter:

– Specialiserede løsninger såsom kontrol med AI-anvendelse og applikationssikkerhed vil opleve kraftig vækst som løsninger på disse udfordringer.

Fire hovedområder

Markedet for AI-sikkerhed er opdelt i fire hovedområder: sikkerhed for AI-applikationer, kontrol med AI-anvendelse, platforme til AI-governance og AI-gateways. Det omfatter en række softwareprodukter og platforme, der er udviklet til at hjælpe organisationer med at anvende AI sikkert, ansvarligt og i overensstemmelse med gældende regler.

Sikkerhed for AI-applikationer vil fortsat være den største udgiftskategori i 2027 og forventes at nå næsten 851 millioner dollar efterfulgt af kontrol med AI-anvendelse på 749 millioner dollar. Kontrol med AI-anvendelse forventes dog at opleve den største vækst på 73 procent efterfulgt af AI-gateways med 70,9 procent.

– I takt med at forsvarsmekanismer som AI-runtime-beskyttelse og dedikerede gateways bliver mere pålidelige, vil organisationerne få større tillid til disse værktøjer, hvilket vil sætte yderligere fart på implementeringen, siger Shailendra Upadhyay.

– Samtidig vil behovet for specialiserede AI-sikkerhedsløsninger vokse yderligere, efterhånden som virksomhederne udvider deres AI-initiativer, især fordi autonom AI introducerer nye sårbarheder, som ligger uden for rækkevidden af traditionel overvågning.

Konkurrencen på markedet

Ifølge Gartner varierer konkurrencen på markedet for AI-sikkerhed afhængigt af segmentet. Inden for platforme til AI-governance og AI-gateways, som ofte bygger på eksisterende virksomhedssystemer til governance samt data- og API-håndtering, vil store leverandører sandsynligvis bevare deres førende position ved at tilføje AI-funktioner eller integrere specialiserede produkter.

Inden for sikkerhed for AI-applikationer og kontrol med AI-anvendelse er der derimod en bølge af startups på vej ind på markedet.

– I takt med at markedet vokser, kan vi forvente øget konsolidering og flere opkøb, hvor større cybersikkerhedsvirksomheder køber disse startups for at udvide deres tilbud, siger Shailendra Upadhyay og afslutter:

– Samlet set skaber den hurtige vækst på området en intens konkurrence mellem leverandørerne i kampen om markedsandele.