KI må ha hjelp av mennesker når vi skal motvirke sikkerhetstrusler

Vi har aldri sett et større volum av cyberanrep enn vi gjør nå. De er avanserte, effektive og bakmennene jobber raskt. Stadig flere ser behovet for å kjøpe inn overvåkingstjenester og hjelp til trussel- og angrepsdeteksjon for å sikre virksomhetens systemer.

Tilgang til nok gode data er en utfordring

Kunstig intelligens (KI) kan analysere store mengder data, gjenkjenne trusler i ukjente filer, oppdage ondsinnet programvare og sjekke mistenkelige bevegelser og hendelser mot eksisterende regelkataloger. Slik oppdager vi potensielle inntrengere. Dette er fullt automatiserte prosesser som reduserer responstid og skade ved et angrep. En av årsakene til at mange velger å outsource trusseldeteksjon og -håndtering, er mangel på tilstrekkelige data.

Selv om mange har store datamengder fra driftssystemer og IoT-enheter, har de ikke tilstrekkelige mengder godt kodede treningsdata til å sikre at egne systemer er godt nok opplært til å oppdage alle trusler. Ofte vil man behøve tilgang på data fra aktører som som har tilgang til data fra hele verden, og kan se mønstre basert på disse.

Læring av algoritmene må skje på riktig måte

Store mengder kvalitetsdata er også nødvendig for å sikre kontinuerlig forbedring av KI-systemene. Uten gode data, får man svake modeller, lav deteksjonsrate og dårlig sikkerhet. En KI-algoritmes kvalitet avhenger av hvem som trener dem. Maskinene må mates med riktig informasjon,og det må dannes retningslinjer som maskinene følger for å raffinere modellene basert på hendelser eller egne sårbarhetsskanninger. I såkalt veiledet læring, er det analytikeren som lærer algoritmen hvordan de skal dra slutninger.

KI + HI gir de beste trusselverktøyene

KI som trusselverktøy fungerer best i kombinasjon med menneskelig intelligens (HI). Algoritmer som stadig lærer, sammen med kunnskapsrike eksperter, gjør det mulig å oppdage og håndtere nye trusler i sanntid. Selv om KI prosesserer informasjon på nanosekunder, er ikke all informasjonen relevant. Derfor trenger man analytikere som setter sikkerhetshendelser inn i en sammenheng, og kan ta grep i henhold til sine analyser.

I motsetning til fysisk kriminalitet, er cyberkriminalitet helt uavhengig av geografi. For å gjøre gode trusselanalyser, er man avhengig av data fra hele verden, noe de færreste bedrifter besitter. Ondsinnet programvare lages for å kunne lure selv de mest avanserte systemer for trusseldeteksjon. For å kunne lage modeller som er smartere enn truslene, behøver vi svært store mengder av varierte eksempler på hendelses- og handlingmønstre hos cyberkriminelle – og vanlige brukere.

AI i samspann med dyktige sikkerhetsanalytikere er det beste og mest holdbare forsvaret mot det stadig mer omfattende trusselbildet vi møter i dag.

Fredrik Olsson, NTT Ltd