To ting KI vil kreve av oss i tiden fremover

KI har allerede begynt å bli integrert i mange av it-systemene våre, og dette vil fortsette i tiden fremover. Brukt riktig bidrar KI til at vi bruker ressursene i offentlig sektor mer effektivt og at vi utvikler nye og bedre tjenester. Vi skal benytte kunstig intelligens på en trygg måte. Det er vi alle enige om. Men hva er trygt? Og hvordan sikrer vi det? Dette er spørsmål som vi ikke har gode svar på i dag. Vi trenger mer praktisk erfaring og vi trenger konkrete rammer for bruk av kunstig intelligens.

Digitaliseringsdirektoratet erfarer at mange i offentlig sektor synes det er utfordrende å gjøre gode vurderinger rundt KI. Kravene i dagens regelverk er gjerne overordnede og generelle. Det hjelper eksempelvis ikke så mye med regler som sier at kunstig intelligens må brukes på en ‘rettferdig måte’. Vi trenger regler og retningslinjer som også forklarer hvordan.

En balansekunst

Regulering av kunstig intelligens er en balanseøvelse. På den ene siden må vi å sørge for nok rammer og begrensninger til å sikre at utvikling og bruk av KI skjer i henhold til våre regler og verdier. På den andre siden må vi ikke ha så mange begrensninger at vi går glipp av innovasjon og verdiskapning.

Den kommende KI-forordningen fra EU forsøker å ivareta denne balansen. Det er forventet at forordningen vil sette noe mer konkrete krav enn de som finnes i eksisterende regelverk. Det ligger i KI-teknologiens natur å være global, derfor har G7-landene også blitt enige om å innføre samordnede reguleringer for bruk og utvikling av KI basert på demokratiske verdier. Arbeidet i EU og enighet mellom G7-landene er bra, men det vil ta tid før vi har reguleringer som blir en del av norsk lov. I mellomtiden vil teknologiutviklingen og bruken av KI i samfunnet fortsette i et høyt tempo.

Forbud er ikke løsningen

I fravær av enkle svar og KI-spesifikk regulering kan det være fristende å tenke at vi bør være tilbakeholdende med å for eksempel ta i bruk de store språkmodellene som ligger til grunn for KI som ChatGPT. Noen vil kunne tenke at det må forbys eller at bruken så langt så mulig må begrenses innenfor offentlig sektor frem til vi er sikre på at den kan brukes riktig. Det er imidlertid grunn til å spørre hvordan et forbud kan fungere i et globalt internett. I tillegg vil et forbud gjøre at vi går glipp av verdifull læring som nettopp kan hjelpe oss å benytte teknologien på tryggest mulig måte.

Digdir utarbeider nå råd til de som skal utvikle og bruke kunstig intelligens i offentlig sektor. Dette er ikke et uttømmende rammeverk. I stedet skal det, på bakgrunn av de reglene vi har i dag og den kommende KI-forordningen, gi noen praktiske råd for å bidra til trygg bruk av KI. Jo mer konkrete rådene er, jo bedre. Da virker det bedre i praksis.

Utforskning kan gi svar

For å gi gode praktiske råd, er det nødvendig at vi har god innsikt i hvordan KI og store språkmodeller kan brukes. Vi ønsker å utforske muligheter og begrensninger som KI kan gi oss i utviklingen av offentlige tjenester. Gjennom en hackathon i mai skal vi utforske teknologien sammen med andre offentlige virksomheter, innenfor trygge rammer.