Trend Micro retter en kraftig advarsel mot de transformative og potensielt farlige implikasjonene av generativ kunstig intelligens (GenAI) i cybersikkerhetslandskapet. Selskapet forutser en betydelig økning i sofistikerte og teknologisk avanserte cybertrusler i 2024 som følge av AI-utviklingen. Disse inkluderer en ny bølge av komplekse sosiale manipulasjonstaktikker og identitetstyveri, alle drevet av generative kunstig intelligens-verktøy. Trend Micro understreker behovet for økt årvåkenhet og avanserte beskyttelsesstrategier for å stå imot de nye cybertruslene som utnytter generativ kunstig intelligens for å omgå tradisjonelle sikkerhetstiltak. Utviklingen av kunstig intelligens vil skape helt nye og uante utfordringer for virksomheter og enkeltindivider verden over.

– Med fremveksten av store språkmodeller, som mestrer alle språk, står vi overfor en ny og betydelig cybertrussel. Disse språkmodellene er i stand til å produsere falske meldinger og e-poster som ser forbløffende ekte ut. De mangler de vanlige svindeltegnene, som uvanlige oppsett og feil i språket. Dette gjør det ekstremt vanskelig å skille mellom ekte kommunikasjon og forsøk på phishing. Utviklingen gjør det svært viktig at dagens virksomheter tar steget videre fra tradisjonell opplæring i å gjenkjenne slike svindelforsøk og i tillegg fokusere på å implementere moderne og mer avanserte sikkerhetssystemer. Systemer som ikke bare er mer effektive enn mennesker til å oppdage slike cybertrusler, men som også styrker virksomhetens samlede evne til å stå imot slike sofistikerte cyberangrep, advarer administrerende direktør i Trend Micro Norge, Ola Lauten.

Nye dimensjoner av cybertrusler
I 2024 forventer Trend Micro en revolusjon i det digitale svindelmarkedet, drevet frem av den økende tilgjengeligheten og kvaliteten på generativ kunstig intelligens. Særlig vil bruken av Generative Adversarial Networks (GANs) spille en nøkkelrolle. GANs er en type AI-teknologi hvor to maskinlæringsmodeller konkurrerer mot hverandre for å skape og forbedre svært realistisk innhold. Denne teknologien vil åpne for kostnadseffektiv produksjon av hyperrealistiske lyd- og videoopptak, som igjen vil gi grobunn for nye former for cyberangrep, inkludert enda mer avanserte direktørsvindler, virtuelle kidnappinger og andre svindelmetoder.

– GAN-teknologiens inntog representerer en alarmerende utvikling innen kunstig intelligens. Et godt eksempel er TikToks Bold Glamour-filter, som benytter GANs for å erstatte brukerens faktiske ansikt med et digitalt skjønnhetsfilter. Dette fremhever en foruroligende tendens der grensene mellom virkelighet og kunstig fremstilling blir stadig mer visket ut. Det bekymrer meg dypt at det blir tilnærmet umulig å skille faktiske opplevelser fra digitalt manipulerte illusjoner, sier Lauten.

Med tanke på de betydelige økonomiske fordelene som cyberkriminelle potensielt kan oppnå gjennom sine handlinger, er det svært sannsynlig at de vil utvikle eller anvende skadelige GenAI-verktøy til sine cyberangrep. De kan også benytte seg av lovlige verktøy sammen med stjålne brukeridentiteter og VPN-tjenester for å skjule sine spor.

Økt målretting mot spesialiserte AI-modeller
I 2024 står vi overfor en økende risiko for at selve AI-modellene blir mål for cyberangrep. Selv om det er vanskelig for cyberkriminelle å manipulere generativ kunstig intelligens (GenAI) og store språkmodeller (LLMs), fremstår spesialiserte, skybaserte maskinlæringsmodeller som et mer tiltrekkende mål. Disse modellene, som er trent på mer spesifikke datasett, er særlig sårbare for angrep hvor dataene forurenses eller forgiftes. Disse angrepene har en rekke mål, som strekker seg fra tyveri av sensitiv informasjon og sabotasje av systemer utviklet for å avdekke svindel, til potensiell manipulering av internett-tilkoblede biler. Trend Micro uttrykker dyp bekymring over at kostnaden for å iverksette disse angrepene er faretruende lav, med investeringer som ligger godt under 1000 kroner.

Disse trendene kan føre til et strengere tilsyn fra myndighetenes side og skape et større krav fra cybersikkerhetsbransjen om å ta større ansvar selv.

– I løpet av det neste året forventer jeg at cybersikkerhetsbransjen som helhet vil ta et mer proaktivt grep. Vi kan sannsynligvis ikke vente på at offentlige myndigheter skal utforme spesifikke reguleringer for kunstig intelligens i cybersikkerhet. Jeg ser flere tydelige tegn på at bransjen er i ferd med å bevege seg mot selvregulering, basert på egne initiativ, konkluderer Lauten.

Trend Micro sine sikkerhetsprediksjoner for 2024 peker på flere nøkkelområder:

• Økende tendens til skybaserte angrep: Vi forventer en økning i angrep rettet mot skytjenester, hvor angriperne utnytter sårbarheter og feilkonfigurasjoner. Disse angrepene, ofte gjennomført med høy grad av automatisering, kan påvirke et bredt spekter av systemkomponenter, kontoer og tjenester med minimal anstrengelse.
• Sikkerhet i skyen blir avgjørende: For å maksimal beskyttelse, blir det avgjørende for organisasjoner å styrke sikkerheten i sky-miljøer. Dette omfatter proaktive tiltak som robuste forsvarsmekanismer og grundige sikkerhetsrevisjoner for å redusere risiko.
• Angrep på forsyningskjedene: Vi vil også se en økning i angrep mot forsyningskjeder. Disse angrepene vil ikke bare være målrettet mot programvarekomponenter fra åpen kildekode, men også mot kritiske systemkomponenter som SIM-kort som er essensielle for styring av flåte- og lagersystemer. Cyberkriminelle vil sannsynligvis utnytte sårbarheter i leverandørers programvare-forsyningskjeder, spesielt gjennom Continuous Integration/Continuous Deployment (CI/CD) systemer, med særlig fokus på tredjepartskomponenter.
• Økning i angrep på private blokkjeder: En annen bekymring er økningen i angrep mot private blokkjeder på grunn av sårbarheter i deres implementering. Angriperne kan utnytte disse svakhetene til å endre eller slette viktige dataoppføringer, eller til og med kreve løsepenger. I noen tilfeller kan de også forsøke å kryptere hele blokkjeden ved å overta kontrollen over et tilstrekkelig antall noder.