Organisasjoner legger stadig større vekt på å dokumentere hvordan KI-applikasjoner vurderes, godkjennes, overvåkes og kontrolleres. Dette skaper etterspørsel etter teknologi som kan generere sporbar dokumentasjon av styringsaktiviteter.

Programmer for KI-styring krever i økende grad dokumentasjon av risikovurderinger, policybeslutninger, implementering av kontrolltiltak, godkjenninger og resultater fra overvåking, fremfor å basere seg utelukkende på skriftlige retningslinjer. Dette skaper etterspørsel etter plattformer som automatiserer innsamling av dokumentasjon, opprettholder revisjonsspor og tilbyr sentralisert dokumentasjon på tvers av KI-applikasjoner og styringsprosesser.

Nyere bransjeundersøkelser viser også at organisasjoner beveger seg mot mer operasjonalisert KI-styring, noe som øker behovet for å koble styringsaktivitetene til dokumenterbare kontrolltiltak og bevis.

Sikrer sensitiv virksomhetsinformasjon

Segmentet for databeskyttelse og sikkerhetskontroller for KI drives av behovet for å beskytte sensitiv virksomhetsinformasjon som KI-applikasjoner får tilgang til og behandler.

Organisasjoner tar i bruk funksjoner for å identifisere sensitive data, overvåke KI-relaterte datastrømmer, kontrollere tilgangen til informasjon, forhindre uautorisert utlevering og håndheve retningslinjer for databehandling.

Integrasjonen av KI-applikasjoner med virksomheters databaser, dokumenter, SaaS-plattformer og andre datakilder øker behovet for sterkere kontrollmekanismer som beskytter konfidensiell informasjon samtidig som legitim bruk av KI muliggjøres. Integrasjon med eksisterende løsninger for datasikkerhet og virksomhetssikkerhet bidrar også til økt bruk av slike funksjoner.

SMB-er drar nytte av skybasert og modulær teknologi

Segmentet for små og mellomstore bedrifter (SMB-er) støttes av den økende tilgjengeligheten av skybaserte og modulære teknologier for KI-styring som krever begrenset infrastruktur og færre interne ressurser.

Mindre virksomheter tar i bruk KI innen områder som kundeservice, markedsføring, programvareutvikling, økonomi og drift, noe som skaper behov for praktiske kontrollmekanismer rundt bruken av KI.

Løsninger som automatiserer risikovurdering av KI, policyhåndtering, overvåking av bruk, dokumentasjon av etterlevelse og håndheving av sikkerhetskrav, hjelper organisasjoner med å håndtere disse behovene med mindre teknologi- og styringsteam.

Abonnementsbaserte plattformer og integrerte løsninger reduserer dessuten kompleksiteten ved implementering og gjør det mulig for SMB-er å utvide styringsfunksjonene etter hvert som bruken av KI øker.

Etablert cybersikkerhetsøkosystem styrker Nord-Amerika

Nord-Amerika forventes å stå for den største andelen av markedet for risiko og styring knyttet til skygge-KI. Dette støttes av regionens etablerte cybersikkerhetsøkosystem, konsentrasjonen av KI-teknologileverandører og den fortsatte utviklingen av praktiske rammeverk for håndtering av KI-relatert risiko.

I USA utvider NIST arbeidet med risikostyring for KI gjennom oppdateringer av AI Risk Management Framework, initiativer for KI-standarder og sikkerhetsorientert veiledning som omfatter generativ KI og agentbaserte KI-systemer.

NIST utvikler også en «Trustworthy AI in Critical Infrastructure Profile», som skal gi sektorspesifikke metoder for risikostyring til organisasjoner som tar i bruk KI-baserte løsninger.

I Canada fremmer myndighetenes initiativer ansvarlig bruk av KI gjennom den nasjonale KI-strategien, tiltak for åpenhet rundt KI, modernisering av personvernregelverket og veiledning for ansvarlig bruk av generativ og agentbasert KI.

Denne utviklingen, kombinert med tilstedeværelsen av etablerte leverandører innen cybersikkerhet og KI-styring, bidrar til etterspørsel etter løsninger for kartlegging av KI-bruk, databeskyttelse, policyhåndtering, risikovurdering og tilgangskontroll i virksomheter i regionen.

Viktige aktører

Blant de viktigste aktørene i markedet som forskerne trekker frem, er Palo Alto Networks, Microsoft, Zscaler, Netskope, Cisco, IBM, ServiceNow, OneTrust, Forcepoint, Proofpoint, Credo AI, Holistic AI, Mindgard, Cranium AI, NeuralTrust, ModelOp, Monitaur, Saidot, Relvance AI, Truvo, Airia, Trustible, HiddenLayer, Check Point, AI Shadow, Zenity, Noma Security og Harmonic Security.