KOMMENTAR | Arild Haraldsen
Er teknologiens makt også samfunnets avmakt?
Elisabeth Austad Asser har skrevet årets viktigste bok om KI. Den er lettlest og godt pedagogisk tilrettelagt med viktige refleksjoner om hvordan KI påvirker våre liv og den verden vi lever i.
I september i år utnevnte Albania verdens første KI-statsråd, Diella. Hun skal ha ansvaret for offentlige anskaffelser.
Albania sliter med utbredt korrupsjon særlig knyttet til offentlige anskaffelser. Diella er ment å være et innovativt grep for å modernisere og effektivisere forvaltningen, og å redusere korrupsjon og maktmisbruk. En KI-agent er jo objektiv og nøytral - og kan ikke bestikkes.
Men der et menneske kan bestikkes, kan algoritmen manipuleres. Dataene kan manipuleres enten ved å legge inn informasjon som er ledende for de beslutninger som tas, eller ved å stille spørsmål som får systemet til å tolke innholdet galt.
Dette er bare ett eksempel av flere som du finner i boken av Elisabeth Austad Asser. Hennes budskap er at KI ikke er nøytralt redskap, men at de løsningene som utvikles ved hjelp av KI, formes av de dataene vi gir dem, av de verdier og målsetninger som eieren av teknologien har og av de politiske rammene teknologien utvikles innenfor.
Arild Haraldsen
Cand. polit. (statsvitenskap). Mangeårig konsulent innen strategi, digitalisering og organisasjonsutvikling. Tidligere administrerende direktør Norstella, nå selvstendig næringsdrivende (Stratit).
Algoritmene styrer dataene
Elisabeth Austad Asser har tatt sin doktorgrad på hvordan menneskelige verdier, mennesker og samfunn, blir utfordret av KI-teknologi med bank som eksempel. Hun kombinerer med det samfunnsvitenskap og filosofi med et konkret blikk på teknologien i praksis.
Hun gir mange glimrende og pedagogisk forståelige beskrivelser av det. La meg ta et par eksempler fra boken.
Banken bruker KI til å hente inn historiske data for å finne ut hvem som kan betjene sine lån problemfritt. Statistisk sett er det de med lav inntekt og uten fast jobb som vil ha størst problemer. Men det gjelder ikke alle og situasjonen for den enkelte, kan endre seg underveis.
KI-algoritmen definerer virkeligheten ut ifra betalingshistorikk, sin forståelse av den historikken og med forhåndsbestemte kriterier. Det gir ikke rom for skjønn eller alternative muligheter. Definisjonsmakten om hvem som skal få lån, ligger hos algoritmen, mens både saksbehandlers og lånsøkers handlingsrom blir begrenset.
Et annet eksempel: Et firma har utviklet en KI-modell som nå i disse juletider henvender seg til enslige foreldre med økonomiske utfordringer. Disse blir rett før jul bombardert med målrettede, personlige budskap om økonomisk rådgivning. KI-modellen følger ikke bare med på hva du legger igjen av data på ulike sosiale medier. De bruker disse dataene til å forstå hvilken sinnsstemning du er i, og gir deg tilbud akkurat når du er på det mest sårbare. Logikken er ikke å gi tilbud som er relevant, men som virker.
Denne formen for adferdsbasert markedsføring er nå også blitt vanlig i politiske kampanjer og av stater som ønsker å skape splid i andre lands befolkning.
Boken har flere slike eksempler som er gjenkjennelig for de fleste av oss, og hvor forfatteren på en tankevekkende måte viser hvilke utfordringer bruken av KI har.
Da naturen blir tall og tiden blir knapp
Tenk deg at du en vakker høstdag går langs Akerselven. Du fascineres av den vakre naturen og elvens kraftige byks nedover elveleiet.
Men elven er ikke bare natur, den er også kilde til industrialisering. Her fikk driftige innovatører i sin tid idéen om at elven kunne egne seg til tømmerfløting ut til Oslofjorden, men også til bearbeiding og industriell virksomhet langs eleven. Oppgangssagen var en nyvinning som, siden den ble automatisk drevet av vannføringen, var et mer effektivt verktøy enn manuell saging. Disse teknologiske nyvinningene og den industrielle utnyttelsen av naturen, skapte en av Norges viktigste næringer.
Dette eksemplet (som er mitt) kan være beskrivende for den østerrikske filosofen Martin Heideggers teknologiforståelse som Asser trekker frem i boken. Essensen i hans filosofi er at moderne teknologi ikke bare hjelper oss å gjøre ting, men også former vår opplevelse av virkeligheten, hva og hvordan vi tenker, og hvilke valg vi tar.
KI som teknologi går enda lenger: Mennesket blir en del av teknologien, og vi får en reduksjonistisk forståelse av oss selv og verden. Asser sier at vi må ta et oppgjør med denne formen for instrumentell virkelighetsforståelse. Dersom vi betrakter natur og mennesker først og fremst som ressurser som kan utnyttes, kan det true vår evne til å oppleve verden mer åpent og meningsfullt. Vi må ivareta vår evne til å bevare vår menneskelige dømmekraft og vår evne til ansvarlig refleksjon i møte med teknologier som KI, er hennes budskap.
Heideggers teknologiforståelse er i dag sentral for debatter om digitalisering og kunstig intelligens, og forfatteren skal ha honnør for både å trekke frem denne debatten og å gjøre Heideggers filosofi på dette området forståelig.
Når troen på alternativene forsvinner
KI er åpenbart i dag en del av en geopolitisk utvikling som vil endre maktstrukturene i verden. Her har Asser en viktig refleksjon:
De store tek-selskapene vil gjerne ha oss til å tro at vi står overfor et paradigmeskifte. «KI er menneskehetenes viktigste oppfinnelse. KI kan løse kreftgåten», osv. De store tek-selskapene, sier Asser, har en egeninteresse av å fortelle hvilket enormt potensial det er i KI. Det bidrar bl.a. til å sikre store investeringer til egne selskaper.
Ved å vise til at det er de som sitter på kunnskapen og ressursene til å gjøre alt det gode som KI kan gjøre, skaper de også frykt og et ubalansert maktforhold.
Men det bidrar også til å styrke tek-selskapenes strategiske posisjon i det globale maktspillet bl.a. ved å påvirke reguleringen av teknologien. Ved å vise til at det er de som sitter på kunnskapen og ressursene til å gjøre alt det gode som KI kan gjøre, skaper de også frykt og et ubalansert maktforhold. Slik fremstiller de store tek-gigantene seg selv som heltene, de som har innsikten, som det må lyttes til og hvis råd en må følge. «Toget går, vi må ikke stå igjen på perrongen», som digitaliseringsministeren sa.
Fart uten retning
Asser trekker dette over til vår egen hjemlige debatt om digitaliseringen av samfunnet. Regjeringens digitaliseringsstrategi sier som kjent at 80% av offentlige virksomheter må bruke KI innen utgangen av 2025.
Ikke bør. Ikke vurdere. Men må.
Hva skjer, sier Asser, når et samfunn får en slags felles marsjorde om å ta i bruk et verktøy som de færreste egentlig forstår? Hva skjer med et samfunn når mennesker lenger ned i systemet får i oppdrag å ta i bruk KI, uten rom, tid eller kompetanse til å sette seg inn i hvordan det fungerer?
Vel, da skjer skandaler som i Tromsø kommune, eller som i Nederland i 2021 da regjeringen brukte KI til å avdekke hvem som urettmessig fikk utbetalt barnetrygd. Men det var en skjevhet i datagrunnlaget som førte til at mange feilaktig mistet støtte de hadde krav på og fikk økonomiske problemer. Familier ble splittet og tragedier i form av selvmord, ble begått. Da det ble oppdaget at KI-systemet var årsaken, måtte regjeringen gå.
En bok som må leses
Boken til Elisabeth er komplementær til bøkene til Inga Strümke (Maskiner som tenker) og Ishita Barua (Kunstig Intelligens redder liv).
Alle disse bøkene er kunnskapsbaserte og positive til KI. Men de oppmuntrer samtidig til et kritisk og reflektert blikk på anvendelsen av KI ut ifra ulike perspektiver.
Alle disse bøkene er kunnskapsbaserte og positive til KI. Men de oppmuntrer samtidig til et kritisk og reflektert blikk på anvendelsen av KI ut ifra ulike perspektiver. Assers bok inntar et samfunnsmessig og etisk perspektiv. Teknologien kan styrke fellesskapet og bidra til å løse samfunnsutfordringer. Men KI kan ikke løse disse problemene med det samme sinnelag som har skapt problemene, sier hun. Vi må løfte blikket og skape oss noen klare bilder av hva det overordnende formålet er. Hvis ikke forsterker vi de krefter som har skapt problemene.
Boken er derfor både en viktig fagbok som gir oss større innsikt i og forståelse av KI, men også en reflektert debattbok om de utfordringene teknologien skaper. Den bør derfor leses av alle som ønsker å forstå hvilken verden vi går inn i.
