KOMMENTAR | Arild Haraldsen
Skal vi bruke oljepengene til å finansiere en statlig, nasjonal KI-infrastruktur?
KI-utviklingen representerer en demokratisk utfordring fordi det endrer maktfordelingen i samfunnet på måter som undergraver de verdier samfunnet er bygget på.
På LinkedIn foregår det nå en interessant debatt om KI. Det startet med et innlegg fra teknologistrateg i Telenor Eirin Larsen. Her uttrykker hun skepsis til den store entusiasme for å ta i bruk KI hurtigst mulig. Hastverk må ikke trumfe dømmekraft, sier hun.
Dette faller styregrossist Bente Sollid tungt for brystet. Vi må ikke bremse når andre akselerer, sier hun. Hovedargumentet er at vi ikke må være passive, men se de enorme mulighetene KI gir oss, slik vi gjorde da Internett ble kommersiell for 30 år siden.
Sammenligningen er ikke relevant. KI har en mer dyptgående påvirkning på alle nivåer i samfunnet enn Internett hadde den gangen. KI er i dag også et strategisk verktøy for stormaktene og de store globale tech-selskapene.
Bentes argumentasjon er basert på det samme narrativet som de store tech-selskapene fremmer, som overdriver teknologiens muligheter og neglisjerer de mer grunnleggende utfordringene KI gir.
Arild Haraldsen
Cand. polit. (statsvitenskap). Mangeårig konsulent innen strategi, digitalisering og organisasjonsutvikling. Tidligere administrerende direktør Norstella, nå selvstendig næringsdrivende (Stratit).
KI er noe mer enn en interessant teknologisk utvikling. Det er også noe mer enn en hype. KI er en demokratisk utfordring fordi den endrer maktstrukturene i verden, i samfunnet og mellom individer og sosiale grupper. Derfor må vi ha strategisk retning fremfor hodeløs fart.
Hvilken strategisk retning?
Teknologirådet og Norges institusjon for menneskerettigheter (NIM) har lagt frem en rapport om hvordan KI vil endre maktstrukturene globalt og i samfunnet. Målgruppen er politikere og beslutningstagere i næringslivet.
På mindre enn 50 lettleste sider diskuterer den hvordan KI utfordrer menneskerettighetene og det liberale demokratiet. Menneskerettigheter handler ikke bare om vern av privatlivet; det handler også om sosiale rettigheter, diskriminering, økonomisk vekst og maktkonsentrasjon.
Menneskerettighetene er derfor på mange måter et digitalt kompass. De pålegger staten å maksimere de fordelene teknologien gir, samtidig som den gir staten i oppgave å holde teknologiutvikling som undergraver menneskerettighetene i sjakk.
Men hvem og hva styrer utviklingen? Rapporten drøfter dette i form av 4 ulike scenarier:
Utviklingen styres av de globale tech-selskapene
Norge ser de enorme mulighetene ved bruk av KI. Offentlig sektor bruker KI til å effektivisere statsforvaltningen og næringslivet satser tungt på å bruke KI til å øke sin konkurranseevne. Resultatene er imponerende: Kortere helsekøer og reduserte klimagassutslipp. Det utvikles også nye og attraktive tjenester, både innen helse, transport, matforsyning og kulturtilbud. Men befolkningen må betale for tjenestene, og ikke alle befolkningsgrupper er like interessante å selge tjenestene til for tech-selskapene. Det skaper ulikhet i helsehjelp, utdanning og velferdstjenester.
De tillater heller ikke innsyn i hvilke data som brukes, hvordan algoritmene er utviklet og hvilken forretningslogikk som ligger bak. Etter hvert ser Norge at KI-reguleringen fra EU eller våre egne lover ikke er tilstrekkelige til å styre utviklingen. Økonomisk press fra USA begrenser ytterligere vårt handlingsrom.
De store tech-selskapene setter rammene for samfunnsutviklingen, mens myndighetenes reelle og formelle evne til å styre landet gradvis vil forvitre. Utviklingen innebærer en maktforskyvning fra staten til de store globale selskapene, og til sosial skjevfordeling i samfunnet.
Denne utviklingen fører til at regjeringen tar initiativ til å få kontroll over utviklingen:
Norge etablerer en nasjonal statlig KI-infrastruktur
I dette scenariet bruker staten midler fra Oljefondet til å etablere et nasjonalt KI-selskap med mandat å utvikle en norsk superintelligens. Selskapet realiseres gjennom avtaler med ledende teknologiselskap som sikrer Norge tilgang til avanserte modeller i bytte mot selskapenes bruksrett til norske datasentre. Denne investeringen brukes målrettet til å løse omstillingsutfordringene i norsk næringsliv, mangelen på arbeidskraft innen helsesektoren og til å opprettholde gode velferdstjenester til tross for trang kommuneøkonomi.
I dette scenariet utnytter Norge vårt strategiske fortrinn: kapitaltilgang gjennom Oljefondet. Det sikrer oss handlingsrom, gir egenmakt i den internasjonale utviklingen og reduserer avhengighetsforholdet til globale tech-selskaper. Samtidig sikrer den at utviklingen går i riktig strategisk retning ved å ivareta våre nasjonale interesser både verdimessig og samfunnsøkonomisk.
KI oppfattes som «allvitende» på ethvert spørsmål slik at politisk debatt og meningsbryting mister sin verdi.
Men utviklingen har også noen uheldige sider. I stadig større grad styrer KI sentrale politikkområder: Kriminaliteten vil senkes på bekostning av individets personvern. KI brukt til ansiktsgjenkjenning, innebærer effektiv og sikker bruk av finansielle tjenester, men også til identifisering av demonstranter.
KI oppfattes som «allvitende» på ethvert spørsmål slik at politisk debatt og meningsbryting mister sin verdi.
Utviklingen medfører en maktforskyvning i retning den utøvende makt på bekostning av rettsinstanser og lovgivning, og tendensen til i retning av kollektiv kognitiv latskap, forsterkes.
Stormaktene tar global kontroll på egne vegne
Stormaktene ser på KI til å styrke sin egen maktposisjon i den endrede geopolitiske situasjon.
Men bruken av KI går for langt; teknologien tar overhånd og begynner å handle på egen hånd. Viktig etterretningsdata lekkes til motpartenes systemer, og KI-systemene begynner å handle på egen hånd. Stormaktene mister kontroll over utviklingen.
Dette skaper et skjebnefellesskap. De blir enige om et sett kjøreregler som bremser utviklingen, etablerer nye mekanismer for samhandling og deling av data og begrenser hva systemene får gjøre uten menneskelig innblanding.
Utviklingen innebærer en maktforskyvning i retning stormaktene som dikterer rammebetingelsene for bruk av KI, mens de regionale strukturene vil ha frihet til å bruke KI til å følge nasjonale mål.
Dette vil åpne et handlingsrom for etablering av regionale strukturer som utvikler KI til nasjonal bruk, og som kan virke som motmakt mot de store internasjonale tech-selskapene. KI tas i bruk for å skape en «sosial-demokratisk» KI-infrastruktur i Norden.
Men en slik regional infrastruktur må også forholde seg til tilsvarende utvikling i EU fordi KI brukt til handel, toll, innvandring og sikkerhet kommer til å bety stadig mer. Samtidig kan en ikke se bort ifra at EU vil bli splittet også på dette området, og flere land bruker KI til autoritær inngripen i samfunnet.
Utviklingen innebærer en maktforskyvning i retning stormaktene som dikterer rammebetingelsene for bruk av KI, mens de regionale strukturene vil ha frihet til å bruke KI til å følge nasjonale mål.
Teknologiens Ville Vesten
I dette scenariet er det fritt frem. Samfunnet vil bli oversvømt av falske KI-agenter. Disse kommer fra enkeltstående hacker-miljøer eller fra statlig drevne miljøer som ønsker å påvirke valg, eller sabotere viktig infrastruktur. Resultatet blir et uoversiktlig og kaotisk landskap som ingen har kontroll over. Det anarkiet som oppstår, vil utnyttes av ressurssterke mennesker med tilgang til avansert teknologi for å berike seg selv.
Utviklingen går i retning av mini-samfunn hvor politisk makt flyttes fra staten til private aktører.
Utviklingen går i retning av mini-samfunn hvor politisk makt flyttes fra staten til private aktører.
Dette vil ikke skje over natten, men gradvis. På kort sikt finner en denne utviklingen hensiktsmessig ut ifra sikkerhet og økonomi. Men over tid vil dette undergrave myndighetenes kontroll og befolkningens tillit.
Utviklingen innebærer en total pulverisering av eksisterende maktstrukturer i samfunnet på alle nivåer.
En kunnskapsbasert KI-debatt
Dette er en utrolig viktig problemstilling. På den ene side vil det å overlate styringen av KI til de store tech-selskapene, føre til at KI-utviklingen skjer på markedets premisser. På den annen side vil statlig kontroll over utviklingen kunne svekke demokratiet. Scenariene klargjør hvordan dette slår ut i balansen mellom stat, marked og individ.
Teknologirådet og NIM bør over jul ta initiativ til en åpen debatt om disse spørsmålene med deltagelse fra digitaliseringsminister Karianne Tung, stortingspolitikere og beslutningstagere i næringslivet.
