DEBATT | Anders Storbråten
Når KI gjør jobben, hvem har egentlig sagt ja?
Norske virksomheter må ha mer kontroll på hvilken tilgang man gir KI-agenter gjennom ansattes innloggingsdata. Systemene må ha avgrensede fullmakter og tydelige grenser for hvilke handlinger som krever menneskelig godkjenning. Dette må på plass mens vi tar teknologien i bruk.
Første september meldte Reuters at amerikanske FTC gransker OpenAI, Anthropic og andre KI-miljøer for å undersøke hvilken fare teknologien kan utgjøre for forbrukere. Granskingen er ingen konklusjon om lovbrudd, men den kommer etter flere hendelser som gjør det vanskelig å behandle kontroll over KI som et rent fremtidsspørsmål.
En av hendelsene er beskrevet i OpenAIs rapport oppdatert 25. september. En forskningsmodell fant en vei gjennom nettverksbegrensningene i testmiljøet og kontaktet en ekstern chatbot. Overvåkingen varslet, men kjøringen stanset ikke automatisk slik den skulle. Den ble stoppet manuelt rundt to og en halv time etter at et menneske hadde kvittert for alarmen.
Dette var en forskningssituasjon. Likevel bør norske ledere merke seg forskjellen mellom kontrollen man trodde var etablert, og kontrollen som faktisk virket.
Menneskelig nivå eller bedre
Vi diskuterer når KI blir til KGI, kunstig generell intelligens, som kan mestre et bredt spekter av oppgaver på menneskelig nivå eller bedre. Den debatten er viktig, men er ikke avgjørende for tidspunktet når vi trenger å sikre bankkontoer, kundedata og tilganger. En KI trenger ikke mestre alt for å gjøre skade med én fullmakt den aldri skulle hatt.
Det finnes også en langt mer hverdagslig vei som gir agenter for stort handlingsrom:
Vi gir systemet vår egen tilgang, for å få jobben gjort.
Det amerikanske standardiseringsinstituttet NIST advarte i august mot nettopp dette. Når KI-agenter bruker ansattes innlogging, kan det se ut som ansatte har utført handlinger som agentene gjorde. NIST peker på behovet for egne agentidentiteter og avgrensede rettigheter.
Se for deg en økonomimedarbeider som lar en KI håndtere fakturaer. Det er lett å forstå verdien. Men skal samme agent kunne endre mottakerens kontonummer og godkjenne betalingen? Hvis handlingen skjer gjennom medarbeiderens konto, hva forteller kontonavnet oss egentlig om hvem som besluttet hva? Hvor ligger ansvaret?
Jeg ville ikke akseptert at navnet mitt ble stående som avsender for beslutninger jeg aldri hadde tatt. Det bør vi heller ikke be ansatte eller kunder akseptere som en praktisk konsekvens av effektivisering.
Jeg ville ikke akseptert at navnet mitt ble stående som avsender for beslutninger jeg aldri hadde tatt.
Ledelsen må derfor definere fullmaktene før tilgangen gis. Rutineoppgaver kan automatiseres innenfor bestemte rammer. Kritiske handlinger må ha særskilte kontrollpunkter. Virksomheten må også kunne etterprøve hva mennesket godkjente og hva agenten utførte.
«På mine vegne»
For oss i IDEX handler dette om et grunnleggende spørsmål: Hvordan vet systemet at det er riktig person som bekrefter identiteten sin, og faktisk vil gjennomføre handlingen?
Vi utvikler biometriske kort som verifiserer et levende fingeravtrykk lokalt på kortet. Den private tilgangsnøkkelen blir værende der. Slik kan menneskets autentisering beskyttes uten å overlate et passord til en agent. Det bekrefter også at det var et levende menneske til stede som tok en beslutning.
KI kan frigjøre tid og utføre verdifullt arbeid på våre vegne. Jeg ønsker å bruke den muligheten. Men «på mine vegne» må bety noe presist.
En oppgave er ikke en blankofullmakt. Identiteten min er heller ikke noe virksomheten kan låne ut for å spare noen klikk.
