Forventer sterk vekst i cyberangrep drevet av AI i 2024

Trend Micro forutser en betydelig økning i sofistikerte og teknologisk avanserte cybertrusler i 2024 som følge av AI-utviklingen. Disse inkluderer en ny bølge av komplekse sosiale manipulasjonstaktikker og identitetstyveri, alle drevet av generative kunstig intelligens-verktøy. 

Mangler varslende tegn

Cybersikkerhetsselskapet understreker behovet for økt årvåkenhet og avanserte beskyttelsesstrategier for å stå imot de nye cybertruslene som utnytter generativ kunstig intelligens for å omgå tradisjonelle sikkerhetstiltak. Utviklingen av kunstig intelligens vil skape helt nye og uante utfordringer for virksomheter og enkeltindivider verden over, mener selskapet:

– Med fremveksten av store språkmodeller, som mestrer alle språk, står vi overfor en ny og betydelig cybertrussel. Disse språkmodellene er i stand til å produsere falske meldinger og e-poster som ser forbløffende ekte ut. De mangler de vanlige svindeltegnene, som uvanlige oppsett og feil i språket. Dette gjør det ekstremt vanskelig å skille mellom ekte kommunikasjon og forsøk på phishing, sier administrerende direktør i Trend Micro Norge, Ola Lauten, i en pressemelding fra selskapet. Han fortsetter:

– Utviklingen gjør det svært viktig at dagens virksomheter tar steget videre fra tradisjonell opplæring i å gjenkjenne slike svindelforsøk og i tillegg fokusere på å implementere moderne og mer avanserte sikkerhetssystemer. Systemer som ikke bare er mer effektive enn mennesker til å oppdage slike cybertrusler, men som også styrker virksomhetens samlede evne til å stå imot slike sofistikerte cyberangrep.

Nye dimensjoner av cybertrusler

I 2024 forventer Trend Micro en revolusjon i det digitale svindelmarkedet, drevet frem av den økende tilgjengeligheten og kvaliteten på generativ kunstig intelligens. Særlig vil bruken av Generative Adversarial Networks (GANs) spille en nøkkelrolle. GANs er en type AI-teknologi hvor to maskinlæringsmodeller konkurrerer mot hverandre for å skape og forbedre svært realistisk innhold. Denne teknologien vil åpne for kostnadseffektiv produksjon av hyperrealistiske lyd- og videoopptak, som igjen vil gi grobunn for nye former for cyberangrep, inkludert enda mer avanserte direktørsvindler, virtuelle kidnappinger og andre svindelmetoder.

– GAN-teknologiens inntog representerer en alarmerende utvikling innen kunstig intelligens. Et godt eksempel er TikToks Bold Glamour-filter, som benytter GANs for å erstatte brukerens faktiske ansikt med et digitalt skjønnhetsfilter. Dette fremhever en foruroligende tendens der grensene mellom virkelighet og kunstig fremstilling blir stadig mer visket ut. Det bekymrer meg dypt at det blir tilnærmet umulig å skille faktiske opplevelser fra digitalt manipulerte illusjoner, sier Lauten.

Med tanke på de betydelige økonomiske fordelene som cyberkriminelle potensielt kan oppnå gjennom sine handlinger, er det svært sannsynlig at de vil utvikle eller anvende skadelige GenAI-verktøy til sine cyberangrep, mener selskapet, og skriver at kriminelle også kan benytte seg av lovlige verktøy sammen med stjålne brukeridentiteter og VPN-tjenester for å skjule sine spor.

Økt målretting mot spesialiserte AI-modeller

Trend Micro tror at vi i 2024 står overfor en økende risiko for at selve AI-modellene blir mål for cyberangrep. Selv om det er vanskelig for cyberkriminelle å manipulere generativ kunstig intelligens (GenAI) og store språkmodeller (LLMs), fremstår spesialiserte, skybaserte maskinlæringsmodeller som et mer tiltrekkende mål. Disse modellene, som er trent på mer spesifikke datasett, er særlig sårbare for angrep hvor dataene forurenses eller forgiftes. Disse angrepene har en rekke mål, som strekker seg fra tyveri av sensitiv informasjon og sabotasje av systemer utviklet for å avdekke svindel, til potensiell manipulering av internett-tilkoblede biler. 

Trend Micro uttrykker dyp bekymring over at kostnaden for å iverksette disse angrepene er faretruende lav, med investeringer som ligger godt under 1000 kroner, og mener at trendene kan føre til et strengere tilsyn fra myndighetenes side og skape et større krav fra cybersikkerhetsbransjen om å ta større ansvar selv.

– I løpet av det neste året forventer jeg at cybersikkerhetsbransjen som helhet vil ta et mer proaktivt grep. Vi kan sannsynligvis ikke vente på at offentlige myndigheter skal utforme spesifikke reguleringer for kunstig intelligens i cybersikkerhet. Jeg ser flere tydelige tegn på at bransjen er i ferd med å bevege seg mot selvregulering, basert på egne initiativ, konkluderer Lauten.