DEBATT | Thomas Aanstad Evensen
KI-assistenten bør ikke ha nøklene til hele virksomheten
En digital assistent som kan lese e-post, hente dokumenter og utføre oppgaver, kan spare oss for mye arbeid. Men hvilke opplysninger trenger den egentlig tilgang til? Det spørsmålet bør norske ledere stille før de gir den mer ansvar.
Se for deg at en nyansatt får tilgang til alle virksomhetens dokumenter første arbeidsdag. Kundelister, kontrakter, personalopplysninger og strategiplaner. Ikke fordi jobben krever det, men fordi det er enklest slik.
De fleste ledere ville reagert, likevel er det lett å ta med seg denne logikken når vi innfører KI-assistenter. De skal hjelpe oss på tvers av systemer, finne informasjon og få oppgaver unna. Da er det fristende å gi dem tilgang til mye, slik at vi slipper å stoppe opp underveis. Problemet er at tilgangen vi gir, også bestemmer hvor stor skade en feil eller et misbruk kan gjøre.
Nå som KI i større og større grad kan utføre oppgaver på våre vegne, må vi derfor stille et grunnleggende spørsmål: Har vi kontroll på hva vi faktisk gir den lov til?
Gamle tilganger får nye konsekvenser
Identitets- og tilgangsstyring høres ut som noe IT-avdelingen kan håndtere alene. I praksis handler det om hvem som får lese, endre og dele virksomhetens informasjon.
En ansatt bytter rolle, men beholder tilgangene fra den gamle. En konsulent avslutter oppdraget, men kontoen blir stående. Et prosjekt får et fellesområde som etter hvert inneholder langt mer enn det opprinnelig var ment for.
Hver enkelt beslutning kan virke praktisk og harmløs. Samlet kan de gi mennesker tilgang til opplysninger de ikke trenger. Når en KI-assistent får arbeide med de samme tilgangene, følger denne historikken med. Det som tidligere var dokumenter en medarbeider neppe ville oppsøke, kan bli tilgjengelig for et verktøy som raskt søker, sammenstiller og bruker informasjon på tvers.
Tilgangene må derfor vurderes ut fra oppgaven assistenten skal løse. At en medarbeider har tilgang til noe, betyr ikke automatisk at alle verktøy medarbeideren bruker, trenger den samme tilgangen.
Innlogging er bare begynnelsen
Mange virksomheter har lagt ned betydelig arbeid i sikrere innlogging. Det er nødvendig. Flerfaktorautentisering er fortsatt et viktig sikkerhetstiltak, men en godkjent innlogging kan ikke være en fullmakt til alt som finnes på innsiden.
Hva får kontoen gjøre etter innlogging? Kan den hente store mengder informasjon? Endre kritiske innstillinger? Åpne systemer som ikke har noe med arbeidsoppgaven å gjøre?
Dette er kjernen i det sikkerhetsbransjen kaller «Zero Trust»: Tilgang skal være begrunnet, avgrenset og kontinuerlig overvåket, og tillit skal ikke følge automatisk av at noen allerede er logget inn.
En bruker eller en KI-agent som opptrer normalt i ett øyeblikk, kan bli kompromittert eller begynne å oppføre seg på en måte som avviker fra det forventede i det neste.
En bruker eller en KI-agent som opptrer normalt i ett øyeblikk, kan bli kompromittert eller begynne å oppføre seg på en måte som avviker fra det forventede i det neste. Derfor må virksomheten ikke bare kontrollere identitet ved innlogging, men også løpende vurdere aktivitet, risiko og adferd. Dersom en konto plutselig begynner å hente ut store mengder data, forsøker å få tilgang til nye systemer eller utfører handlinger som ikke samsvarer med oppgaven, må tilgangen kunne begrenses, utfordres eller stanses.
Prinsippet blir enda viktigere når både mennesker, programvare og KI-agenter opptrer i systemene våre. Virksomheten må kunne skille mellom hvem som ber om tilgang, hva de skal gjøre og hvilke rettigheter oppgaven faktisk krever.
Et ansvar som ikke kan delegeres til assistenten
Det er lett å omtale KI-agenter som digitale kolleger, men de har ingen selvstendig forståelse av virksomhetens ansvar, prioriteringer eller konsekvensene av en feil.
Ledelsen må derfor sette rammene. Hvem kan godkjenne at en assistent kobles til interne systemer? Hvilke opplysninger kan den bruke? Hvilke handlinger krever at et menneske godkjenner først? Og hvem kan stanse den dersom noe går galt? Dette må avklares før assistenten får handle på virksomhetens vegne.
Det gjelder også eksterne leverandører. En servicepartner kan ha legitim tilgang til et anlegg eller et kritisk system. Dersom partneren tar i bruk en KI-agent for å utføre arbeidet, må virksomheten vite hvordan det påvirker tilgangen og kontrollen med oppgavene.
Vi kan sette bort arbeid, men vi er nødt til å ha oversikt over hvem – og hva – som utfører det.
Den sikre løsningen må fungere i hverdagen
Samtidig kommer vi ingen vei dersom sikkerheten gjør verktøyene så tungvinte at ansatte finner egne alternativer.
En medarbeider som må vente lenge på et godkjent KI-verktøy, kan bli fristet til å bruke en privat tjeneste. En unødvendig komplisert arbeidsflyt kan føre til at dokumenter kopieres til steder virksomheten ikke har kontroll over. Derfor må sikkerhet og brukervennlighet utvikles sammen. Ansatte trenger gode, godkjente verktøy og forståelige regler for hvordan de kan brukes. De må få tilgang til det de trenger, når de trenger det, uten at tilgangen blir bredere eller varer lenger enn nødvendig.
Vi ville ikke gitt en nyansatt nøklene til hele virksomheten. Den digitale assistenten bør heller ikke få dem.
For ledelsen begynner arbeidet med tre konkrete spørsmål: Hvilke KI-verktøy bruker vi? Hva har de tilgang til? Hvem har ansvaret for å følge opp bruken? Hvis svarene er uklare, bør oppryddingen starte før neste utrulling.
KI kan gi oss raskere arbeidsprosesser og bedre hjelp i hverdagen. Men jo mer verktøyene kan gjøre på våre vegne, desto viktigere blir grensene vi setter. Vi ville ikke gitt en nyansatt nøklene til hele virksomheten. Den digitale assistenten bør heller ikke få dem.
