Arve Kjoelen er født i Norge og i dag basert i Texas. Med sin lange erfaring som global CISO ga han deltakerne sitt perspektiv på hvordan KI endrer sikkerhetsarbeidet både for programvareleverandører og deres kunder.

Hans vurdering er at store språkmodeller kan avdekke en rekke sårbarheter i programvare som allerede er i bruk. Det gir en mulighet til å få fjernet gamle svakheter, men innebærer også en periode der flere problemer må håndteres samtidig.

– Vi står sannsynligvis foran et par år med svært høyt tempo i sikkerhetsarbeidet. Det kommer til å legge press på oss alle, sier Arve Kjoelen.

Gamle svakheter blir synlige i større skala

Under presentasjonen viste Arve Kjoelen hvordan antallet svakheter som oppdages ved hjelp av KI, sannsynligvis først vil øke, for deretter å avta etter hvert som antallet uoppdagede sårbarheter reduseres.

På lengre sikt kan dette bidra til sikrere programvare. I overgangsperioden vil leverandørene imidlertid måtte rette flere svakheter og raskt distribuere oppdateringene til kundene.

Virksomhetene som bruker programvaren, må på sin side være i stand til å installere oppdateringene. Hvis ikke, vil sårbarhetene fortsatt finnes i systemene deres selv etter at leverandøren har utviklet en løsning.

Arve Kjoelen peker også på det han mener er begrensninger ved KI-teknologien. Språkmodeller kan finne enkeltstående svakheter, men har større problemer med å forstå et helt hendelsesforløp og hvordan flere svakheter kan virke sammen. Menneskelig analyse er derfor fortsatt nødvendig for å vurdere hva funnene faktisk innebærer.

Ikke alle sikkerhetssvakheter innebærer samme risiko

Når antallet oppdagede sårbarheter øker, blir prioritering et sentralt spørsmål. Arve Kjoelen anbefaler å starte med svakheter som allerede utnyttes i reelle angrep. Et konkret grunnlag er det amerikanske cybersikkerhetsbyrået CISAs katalog Known Exploited Vulnerabilities (KEV).

Neste steg er å knytte trusselbildet til egen virksomhet. Hvilke systemer berøres? Hvilke metoder bruker angriperne? Og hvilke sikkerhetstiltak kan stoppe dem?

Arve Kjoelen beskrev hvordan informasjon om en bestemt angripergruppe kan kobles til gruppens metoder, sårbarhetene den utnytter og sikkerhetstiltakene som er nødvendige. Ifølge ham gir dette et mer nyttig beslutningsgrunnlag enn å bare ta utgangspunkt i en lang liste over oppdagede svakheter.

Nye skyressurser, servere og brukerkontoer kan etableres på kort tid. Sikkerhetsteamet må derfor vite hvilke ressurser som finnes, hvordan de er eksponert og hvilke sikkerhetstiltak som faktisk er på plass.

KI-agenter gjør oversikten viktigere

Bruken av KI tilfører ytterligere en dimensjon. Verktøy som medarbeidere begynner å bruke utenfor organisasjonens godkjente kanaler, kan være vanskelige å oppdage. Hvis de i tillegg får tilgang til virksomhetsinformasjon, øker behovet for kontroll over hvordan data brukes og hvor de kan sendes.

Dette gjelder særlig KI-agenter som kan kobles til andre systemer og hente informasjon.

Når slike løsninger kombineres med et IT-miljø der oversikten er mangelfull, kan sensitive data lekke ut.

KI kan også styrke forsvaret til mindre virksomheter

Arve Kjoelen understreker samtidig at utviklingen gir forsvarerne nye muligheter. KI kan øke kapasiteten til mindre erfarne angripere, men også hjelpe mindre virksomheter som ikke har store sikkerhetsteam.

– KI hjelper angriperne, men den hjelper også forsvarerne, sier Arve Kjoelen.

Nye, kraftige KI-modeller kan bidra til å undersøke hendelser og gi sikkerhetsteamene et bedre grunnlag for å handle. Men det gjelder å velge sikkerhetsverktøy med innebygde KI-funksjoner eller leverandører som aktivt utvikler slike kapasiteter.

Behovet for automatisering forsterkes av at enkelte angrep kan utvikle seg svært raskt etter et innbrudd.

– Tidligere kunne det gå timer, noen ganger dager, fra en gruppe tok seg inn i virksomheten til den begynte å stjele data eller bruke ransomware. Nå handler det enkelte ganger om minutter. Derfor må vi ha automatisering, sier Arve Kjoelen.

For virksomheter med begrensede sikkerhetsressurser kan KI dermed få betydning på begge sider av sikkerhetsarbeidet. Flere sårbarheter blir synlige, samtidig som teknologien kan bidra til å håndtere dem. Nytten oppstår når funnene kobles til virksomhetens faktiske risiko og fører til konkrete tiltak.