Virksomheder og organisationer lægger stadig større vægt på at dokumentere, hvordan AI-applikationer vurderes, godkendes, overvåges og kontrolleres. Det skaber efterspørgsel efter teknologier, der kan levere sporbar dokumentation for governance-aktiviteter.

Programmer for AI-governance kræver i stigende grad dokumentation af risikovurderinger, politiske beslutninger, implementering af kontrolforanstaltninger, godkendelser og overvågningsresultater frem for udelukkende at basere sig på skriftlige politikker.

Det skaber efterspørgsel efter platforme, der automatiserer indsamlingen af dokumentation, opretholder revisionsspor og sikrer centraliseret dokumentation på tværs af AI-applikationer og governance-processer.

Nyere brancheundersøgelser viser desuden, at organisationer bevæger sig mod en mere operationel tilgang til AI-governance. Det øger behovet for at forbinde governance-aktiviteter med dokumenterbare kontrolforanstaltninger og resultater.

Beskyttelse af følsomme virksomhedsoplysninger

Segmentet for AI-databeskyttelse og sikkerhedskontrol drives af behovet for at beskytte følsomme virksomhedsoplysninger, som AI-applikationer får adgang til og behandler.

Organisationer implementerer løsninger, der kan identificere følsomme data, overvåge AI-relaterede datastrømme, kontrollere adgangen til information, forhindre uautoriseret videregivelse og håndhæve politikker for datahåndtering.

Integrationen af AI-applikationer med virksomhedsdatabaser, dokumenter, SaaS-platforme og andre interne datakilder øger behovet for stærkere kontrolforanstaltninger, der beskytter fortrolige oplysninger og samtidig muliggør legitim anvendelse af AI.

Integration med eksisterende infrastruktur til data- og virksomhedssikkerhed bidrager ligeledes til udbredelsen af disse løsninger.

SMV'er får gavn af cloudbaserede, modulære teknologier

Segmentet for små og mellemstore virksomheder (SMV'er) understøttes af den stigende tilgængelighed af cloudbaserede og modulære teknologier til AI-governance, som kun kræver begrænset infrastruktur og få interne ressourcer.

Mindre virksomheder tager AI i brug inden for blandt andet kundeservice, marketing, softwareudvikling, økonomi og drift. Det skaber behov for praktiske kontrolforanstaltninger omkring anvendelsen af AI.

Løsninger, der automatiserer AI-risikovurdering, politikstyring, overvågning af anvendelsen, dokumentation af regeloverholdelse og håndhævelse af sikkerhedskrav, hjælper virksomhederne med at imødekomme disse behov med mindre IT- og governance-teams.

Abonnementsbaserede platforme og integrerede løsninger reducerer desuden kompleksiteten ved implementeringen og gør det muligt for SMV'er gradvist at udvide deres governance-funktioner i takt med den øgede anvendelse af AI.

Etableret cybersikkerhedsøkosystem gavner Nordamerika

Nordamerika forventes at tegne sig for den største andel af markedet for risikostyring og governance af skygge-AI. Det skyldes regionens veletablerede cybersikkerhedsøkosystem, koncentrationen af AI-teknologileverandører og den fortsatte udvikling af praktiske rammer for håndtering af AI-relaterede risici.

I USA udvider NIST sit arbejde med AI-risikostyring gennem opdateringer af AI Risk Management Framework, initiativer inden for AI-standardisering og sikkerhedsorienterede retningslinjer, der omfatter generativ AI og AI-agentsystemer.

NIST udvikler desuden en såkaldt Trustworthy AI in Critical Infrastructure Profile, der skal give sektorspecifikke anbefalinger til risikostyring for organisationer, som implementerer AI-baserede løsninger.

I Canada fremmer regeringsinitiativer ansvarlig AI gennem den nationale AI-strategi, tiltag for større gennemsigtighed i AI-anvendelsen, modernisering af privatlivsbeskyttelsen og retningslinjer for ansvarlig brug af generativ og agentbaseret AI.

Disse initiativer understøtter sammen med tilstedeværelsen af etablerede leverandører inden for cybersikkerhed og AI-governance efterspørgslen efter løsninger til kortlægning af AI-anvendelse, databeskyttelse, politikstyring, risikovurdering og adgangskontrol blandt virksomheder i regionen.

Vigtige markedsaktører

Blandt de vigtigste aktører på markedet nævner analysevirksomheden Palo Alto Networks, Microsoft, Zscaler, Netskope, Cisco, IBM, ServiceNow, OneTrust, Forcepoint, Proofpoint, Credo AI, Holistic AI, Mindgard, Cranium AI, NeuralTrust, ModelOp, Monitaur, Saidot, Relvance AI, Truvo, Airia, Trustible, HiddenLayer, Check Point, AI Shadow, Zenity, Noma Security og Harmonic Security.