KOMMENTAR | Hans-P. Nygård-Hansen
KI-skandalene avslører et større problem i offentlig sektor
Tromsø og Asker kommune har vist oss hvor galt det kan gå når kunstig intelligens brukes uten god nok kontroll i offentlig saksbehandling. Men den mest ubehagelige erkjennelsen er ikke at KI kan finne på kilder som ikke finnes. Det er at offentlig sektor allerede gjør alvorlige feil, og at de fleste feilene skyldes mennesker som står for hele saksbehandlingen.
I Tromsø kommune ble kunstig intelligens brukt i arbeidet med en rapport som fungerte som faktagrunnlag for et forslag om å legge ned åtte skoler. Rapporten viste seg å inneholde falske kilder. Ifølge NRK var 11 av 18 kilder i dokumentet ikke reelle, og chatteloggene viste at en ansatt blant annet ba KI om kilder som kunne støtte påstander til fordel for færre og større skoler.
Det er alvorlig. Ikke bare fordi teknologien hallusinerte, men fordi feilene havnet i et dokument som skulle inngå i grunnlaget for politiske beslutninger om barn, skoler, lokalsamfunn og fremtidig kommunestruktur.
Hans-Petter Nygård-Hansen
Hans-Petter Nygård-Hansen er teknologihumanist, forfatter og foredragsholder med fokus på teknologiens påvirkning på mennesker, samfunn og arbeidsliv. Han er fast kommentator i Computerworld.
Nylig ble vi kjent med tilsvarende KI-skandale i Asker kommune, hvor kunstig intelligens ble brukt i arbeid med et saksgrunnlag som viste til dommer som ikke eksisterte. Politiet nektet å bistå med utkastelse fordi det juridiske grunnlaget ikke holdt. Saken har de siste dagene skapt ny debatt, blant annet på NRK Dagsnytt 18, hvor digitaliseringsminister Karianne Tung måtte forsvare at offentlig sektor fortsatt må ta i bruk kunstig intelligens.
Jeg mener hun har rett i det. Men det er også viktig å diskutere det egentlige problemet.
KI gjør gamle svakheter synlige
Det er lett å gjøre tilfellene i Tromsø og Asker til fortellinger om farlig teknologi. Den fortellingen er for enkel. I begge sakene var det mennesker som tok teknologien i bruk. Mennesker stilte spørsmålene. Mennesker brukte svarene. Mennesker lot innholdet gå videre i en offentlig prosess uten tilstrekkelig kvalitetssikring.
Det betyr at teknologien ikke kommer uten menneskelig ansvar eller risiko. Generativ KI har en kjent svakhet ved at den kan produsere tekst som høres presis, faglig og troverdig ut, selv når innholdet er feil. Det gjør teknologien spesielt risikabel i offentlig sektor, hvor språk, kilder og formuleringer ofte får en autoritet de ikke ville hatt i andre sammenhenger.
Likevel er det nødvendig å løfte blikket. For mens én KI-feil blir en nasjonal skandale, lever vi hver eneste dag med menneskelige feil i offentlig saksbehandling. De får sjeldnere samme oppmerksomhet, selv om konsekvensene ofte er langt mer alvorlige.
Feilene vi allerede lever med
De siste årene har norske medier avdekket en rekke saker hvor mennesker i offentlig sektor har gjort feil, tolket regelverk feil, brukt for lang tid, manglet kompetanse eller sviktet i internkontrollen.
NAV har måttet rydde opp i fedrekvotesaker som kan ha berørt flere tusen familier. Sivilombudet har varslet Stortinget om en uholdbar utvikling i offentlig saksbehandlingstid. Elever har stått uten nødvendig spesialundervisning. Familieinnvandringssaker har blitt liggende i årevis. Barnevernet har fått kritikk for mangelfulle vurderinger. Statsforvaltere har hatt ubesvarte innsynskrav og ubehandlede klager liggende altfor lenge.
Dette er ikke eksempler på kunstig intelligens som løper løpsk, men på menneskelig saksbehandling som ikke holder mål. Likevel omtales slike saker ofte som enkelttilfeller, kapasitetsutfordringer eller uheldige glipper. Når KI gjør feil, diskuterer vi om teknologien i det hele tatt bør brukes. Når mennesker gjør feil, diskuterer vi som regel hvordan køen kan bli litt kortere.
Den forskjellen bør vi utfordre.
Menneskelig feil er også systemfeil
Jeg tror vi gjør en tabbe når vi setter menneskelig skjønn opp mot kunstig intelligens som om det ene er trygt og det andre er farlig. Mennesker er ikke nøytrale. Vi husker feil. Vi overser detaljer. Vi påvirkes av tidspress. Vi lar oss styre av tidligere erfaringer. Vi blir slitne. Vi kan lete etter informasjon som bekrefter det vi allerede tror, og overse informasjon som peker i motsatt retning.
Det betyr ikke at mennesker er uegnet til saksbehandling. Det betyr at menneskelig saksbehandling alltid har vært avhengig av gode kontrollsystemer. Utfordringen handler om mer enn KI. Det handler enda mer om åpenhet, modenhet, kultur og ansvar.
For den som rammes av et feil vedtak, spiller det liten rolle om feilen ble skrevet av en saksbehandler eller foreslått av ChatGPT. Konsekvensen er den samme: Du må bruke tid, krefter og ofte penger på å få rettet opp noe som burde vært riktig fra starten av.
Et forbud mot bruk av kunstig intelligens er det siste vi trenger. Derimot burde det være forbudt å bruke KI ukritisk.
Det er her debatten om KI i offentlig sektor bør starte. Et forbud mot bruk av kunstig intelligens er det siste vi trenger. Derimot burde det være forbudt å bruke KI ukritisk.
Ingen KI-generert kilde, juridisk vurdering eller faglig påstand bør kunne inngå i et beslutningsgrunnlag uten at den er kontrollert mot originalkilden. Ingen saksbehandler bør kunne kopiere inn formuleringer fra en KI-tjeneste uten sporbarhet. Ingen offentlig virksomhet bør få bruke teknologien i saksbehandling uten tydelige retningslinjer, opplæring og ansvarslinjer.
Samtidig må vi stille strengere krav til den menneskelige saksbehandlingen som allerede foregår. Det må bli lettere å oppdage systematiske feil. Det må bli raskere å rette dem. Og når en offentlig etat oppdager at mange er rammet av samme feil, må ansvaret for opprydding ligge hos etaten, ikke hos hver enkelt innbygger.
Målet må være bedre forvaltning
Kunstig intelligens vil gjøre offentlig sektor bedre. Den vil bidra til raskere saksbehandling, bedre oversikt, enklere språk og mer likebehandling. Men det skjer ikke av seg selv. Hvis KI legges oppå svake rutiner, dårlig dokumentasjon og manglende kontroll, får vi bare raskere feil med mer overbevisende språk.
Hvis KI legges oppå svake rutiner, dårlig dokumentasjon og manglende kontroll, får vi bare raskere feil med mer overbevisende språk.
Brukes derimot KI med åpenhet, sporbarhet og tydelig menneskelig ansvar, kan teknologien bli en anledning til å rydde opp i svakheter som har eksistert lenge før ChatGPT kom på banen.
KI-skandalene i Tromsø og Asker bør derfor ikke bli argumenter for at offentlig sektor skal rygge inn i fremtiden. Tvert imot bør de bli argumenter for at offentlig sektor må bli mer moden, mer åpen og mer opptatt av kvalitet, enn av å fremstå moderne. Rettsstaten trues tross alt ikke av kunstig intelligens, men av dårlig saksbehandling, uansett om feilen er skapt av mennesker eller maskiner.
