Cybersikkerhetsselskapet Check Point Software lanserte sin første KI-sikkerhetsrapport på årets RSA-konferanse. Rapporten beskriver trender og innsikt om hvordan kunstig intelligens (KI) nå brukes i angrep – og bør brukes i forsvar.

KI-utviklingen har bidratt til å viske ut grensene mellom sannhet og bedrag i den digitale verden. Stadig flere aktører bruker nå generativ KI og store språkmodeller som verktøy for kriminalitet og påvirkning. KI-drevet etterligning kan ifølge rapporten omgå selv de mest sofistikerte systemene for identitetsverifisering, noe som gjør hvem som helst til et potensielt offer for bedrag i stor skala.

– Cyberkriminelles økende bruk av KI endrer allerede trussellandskapet, sier Lotem Finkelstein, direktør for Check Point Research.
– Mens noen undergrunnstjenester har blitt mer avanserte, peker alle tegn mot et nært forestående skifte – fremveksten av digitale tvillinger. Dette er ikke bare lookalikes eller soundalikes, men KI-drevne kopier som er i stand til å etterligne menneskelig tanke og atferd. Det er ikke en fjern fremtid - det er rett rundt hjørnet, fortsetter han.

Hovedtrender i trusselbildet
Sentralt i utviklingen er KIs evne til overbevisende å etterligne og manipulere digitale identiteter, og gjøre det stadig vanskeligere å skille mellom ekte og falsk. Rapporten trekker frem fire tydelige hovedtrender:

• KI-forbedret etterligning og sosial manipulering: Trusselaktører bruker KI til å generere realistiske phishing-e-poster i sanntid, lydetterligninger og deepfake-videoer. Bl.a. etterlignet angripere nylig Italias forsvarsminister ved å bruke KI-generert lyd, og viste nok en gang at både stemmer, ansikter, bilder og skrevne ord kan manipuleres og fabrikkeres.
• LLM-dataforgiftning og desinformasjon: Ondsinnede aktører manipulerer KI-treningsdata for å forvrenge utdata. Et tilfelle som involverte Russlands desinformasjonsnettverk Pravda viste KI-chatbots som gjentok falske fortellinger 33 prosent av tiden, og understreket behovet for robust dataintegritet i KI-systemer.
• KI-skapt skadelig programvare og datautvinning: Cyberkriminelle utnytter KI for å lage og optimalisere skadelig programvare, automatisere DDoS-kampanjer og foredle stjålne persondata. Tjenester som Gabbers Shop bruker KI til å validere og foredle stjålne data og forbedre videresalgsverdien, mårettingen og effektiviteten.
• Bevæpning og kapring av KI-modeller: Ved hjelp av stjålne LLM-kontoer og spesialbygde mørke LLM-er som FraudGPT og WormGPT, omgår angripere sikkerhetsmekanismer og kommersialiserer KI som verktøy for hacking og svindel på det mørke nettet.

Forsvarsstrategier
Rapporten understreker at man nå må anta at KI er innebygd i angrepskampanjer. For å motvirke dette bør organisasjoner ta i bruk KI-bevisste cybersikkerhetsrammeverk, inkludert:

• KI-assistert deteksjon og trusseljakt: Utnytt KI for å oppdage KI-genererte trusler og elementer som syntetisk phishing-innhold og deepfakes.
• Forbedret identitetsverifisering: Gå utover tradisjonelle metoder og implementer flerlags identitetskontroller som tar høyde for KI-drevet etterligning av både tekst, tale og video.
• Trusselintelligens med KI-kontekst: Utstyr sikkerhetsteam med verktøy for å gjenkjenne og reagere på KI-drevne taktikker.

– I denne KI-drevne epoken må cybersikkerhetsteam matche tempoet til angripere ved å integrere KI i forsvaret deres, sier Finkelstein.
– Denne rapporten fremhever ikke bare risikoene, men gir også veikartet for å sikre KI-miljøer på en trygg og ansvarlig måte, avslutter han.

Hele Check Point-rapporten kan lastes ned her.