Rapporten State of Generative AI 2025 viser at KI-relatert nettrafikk økte med 890 prosent i 2024, og at mange bedrifter rapporterer om gevinstøkning på opptil 40 prosent. Samtidig vokser en ny sikkerhetsutfordring frem. KI-basert teknologi står nå bak 14 prosent av alle sikkerhetshendelser. Mer enn dobbelt så mye som året før.

Mange bedrifter mangler oversikt, klare retningslinjer og nødvendige sikkerhetstiltak, og KI-verktøy tas ofte i bruk uten av it-avdelingen er klar over det. Fenomenet kjent som «Shadow AI», gjør det vanskelig for sikkerhetsansvarlige å holde oversikt og kontroll.

I snitt bruker en bedrift i dag hele 66 ulike generative KI-applikasjoner. Rundt 10 prosent vurderes som høyrisikoapplikasjoner på grunn av svak databeskyttelse, uklar datalagring eller lav motstandsdyktighet mot manipulasjon.

Blant de mest brukte KI-tjenestene finner vi Grammarly, Microsoft 365 Copilot og OpenAI sin ChatGPT. Grammarly alene står for nesten 40 prosent av all trafikk, og mer enn halvparten av bedriftene bruker Microsoft Copilot eller Copilot Studio.

Men selv om verktøyene er populære, er de langt fra alltid sikre. Palo Alto Networks har avdekket at mer enn 70 prosent av KI-baserte skriveassistenter lar seg manipulere til å produsere skadelig eller uetisk innhold ved å for eksempel omgå innebygde sikkerhetssperrer via såkalte «jailbreaks».

Verst er situasjonen for KI-verktøy som brukes til å generere kode. Disse er utbredt i teknologi- og industribedrifter og står alene for 39 prosent av KI-trafikken i denne kategorien. Mange mangler grunnleggende sikkerhetsfunksjoner som kryptering, tilgangsstyring eller beskyttelse mot spredning av skadelig kode. Når sensitiv kildekode håndteres i usikre apper, øker risikoen for datalekkasjer, systemangrep og ondsinnet programvare betraktelig.

Palo Alto Networks oppfordrer bedrifter til å ta grep før det er for sent. En helhetlig flerlagsstrategi for KI-styring må på plass. Både for å beskytte bedriften og for å tilrettelegge for trygg innovasjon. De viktigste rådene er:

• Innfør tilgangsstyring på brukerroller, geografisk plassering, enheter og applikasjonsrisiko
• Begrens bruken av KI-verktøy til applikasjoner med dokumentert forretningsverdi
• Overvåk KI-trafikk i sanntid og håndhev sikkerhetspolicyer konsekvent
• Beskytt sensitive data gjennom aktive tiltak mot uautorisert tilgang og lekkasjer
• Bruk en zero trust-tilnærming for å beskytte mot KI-generert skadevare, sosial manipulasjon og datatyveri

Rapporten State og Genertive AI 2025 bygger på data fra over 7000 virksomheter verden over. Rapporten inkluderer nettrafikkanalyser fra hele 2024 og gjennomganger av anonymiserte sikkerhetshendelser i første kvartal 2025. Undersøkelsen er gjennomført i tråd med gjeldende regelverk for datasikkerhet og personvern.