KI-integrasjon utfordrer sikkerheten

En av de mest alvorlige er nye former for såkalte nullklikkssårbarheter – svakheter som åpner for angrep som kan lykkes uten at brukeren foretar seg noe aktivt – og som kan være vanskelige å oppdage.

Tradisjonelt har slike angrep ofte vært rettet mot smarttelefoner, som typisk har ulike kommunikasjons-app’er som SMS, e-post og sosiale medier. Disse genererer ofte varsler basert på innholdet i meldingen før brukeren åpner dem, så en kode kan installere skadevare og slette seg selv uten at brukeren foretar seg eller merker noe.

Med KI-verktøy oppstår det imidlertid nye og mer alvorlige nullklikksårbarheter.

Trigge angripere

Et nylig eksempel er EchoLink-sårbarheten i Microsoft 365 Copilot. Denne viste hvordan KI-verktøy designet for å effektivisere arbeidshverdagen kan manipuleres til å lekke sensitiv informasjon – uten brukerinteraksjon.

Ved å bygge inn ledetekster i dokumenter, kalenderinvitasjoner eller e-post, kan angripere trigge KI-modellen til å hente ut konfidensiell informasjon basert på intern kontekst – helt i bakgrunnen og uten at brukeren merker det.

EchoLink ble en kraftig vekker for mange. Og selv om den ble patchet tidligere i år, representerer den en kategori trusler som vil bli stadig mer aktuell. Etter hvert som KI-systemer får dypere integrasjon i vanlige arbeidsverktøy, øker også deres attraktivitet som angrepsmål.

Blindsoner

Mange organisasjoner belager seg i dag på innebygde sikkerhetsfunksjoner i utbredte arbeidsverktøy og løsninger, eller sikkerhetsprodukter som ikke tar høyde for nye, avanserte trusler.

Dette skaper blindsoner og svake ledd som kan utnyttes av cyberkriminelle. Nullklikksårbarheter illustrerer også det gjennomgående og økende problemet med å overlate for mye av sikkerheten til brukerne.

For å møte denne og stadig flere nye, avanserte trusler i sammensatte og komplekse IT-miljøer, må sikkerhetstilnærmingen være helhetlig og også omfatte KI-integrerte verktøy.

Viktig forsvar

Effektiv beskyttelse mot utnyttelse av sårbarheter av typen Echolink, krever mer enn et system for anti-phishing. Det krever en sikkerhetsløsning som skanner og analyserer alt eksternt innhold og agerer før det prosesseres av KI-løsningen internt. Og som beskytter mot både phishing, nullklikksangrep, skadevare og datalekkasjer – på tvers av e-post og samhandlingsverktøy som lynmeldinger og fildeling.

Og akkurat som angriperne i økende grad bruker KI for å finne og utnytte sikkerhetshull, blir teknologien et stadig viktigere verktøy i cyberforsvaret. Løsningene må være løpende oppdatert og automatisk identifisere og stanse både kjente og nye trusler før de gjør skade. Og de må kunne samarbeide, selv om de er fra ulike leverandører og produsenter.