I Sverige har framtidsdiskussionen länge kretsat kring generativ AI, men på senare tid har autonomi och agenter fått en allt större roll. I takt med att utvecklingen accelererar skärps också hotbilden. Ny statistik visar att agentisk AI har förändrat cyberhotbilden markant under de senaste två månaderna. Vad som tidigare krävde upp till 30 veckors arbete från flera ingenjörsteam kan nu genomföras på mindre än sju dagar av en enda person.

Blivit viktig operativ komponent

Detta markerar enligt rapporten ett tydligt och oroande skifte: agentisk AI har gått från ett experimentellt verktyg till en viktig operativ komponent för cyberkriminella.

Samtidigt är den tekniska utvecklingen bara en del av problemet. I många fall finns den största risken inom organisationerna själva. I Sverige har över hälften av företagen investerat i generativ AI, men användningen präglas ofta av bristande kontroll. Även om knappt tre procent av AI-promptar leder till dataläckage uppvisar hela 90 procent av organisationerna som använder generativ AI högriskbeteenden. Dessutom innehåller 16 procent av alla promptar potentiellt känslig information, vilket i fel händer kan få allvarliga konsekvenser.

Säkerheten bör ses över

– AI bör nu antas vara involverat i praktiskt taget varje steg av attackkedjan, från utveckling av skadlig kod till hotbedömning och analys, även när det inte är direkt synligt. För organisationer innebär det att hot inte bara utvecklas snabbare, utan också blir mer anpassningsbara och skalbara, vilket gör det nödvändigt att se över styrning, användning och säkerhet kring generativ AI, säger Oskar Rödin, säkerhetsexpert på Check Point Software.

Lucka i ekosystemet

Mot denna bakgrund menar Check Point att det finns en tydlig lucka i det digitaliserade ekosystemet. Det krävs investeringar i AI-anpassade säkerhetskontroller samt ett mer proaktivt arbete med underrättelser och kontinuerlig övervakning. AI-driven cyberrisk är därmed inte längre ett framtidsscenario, utan en realitet som måste hanteras här och nu.