Når håp blir farlig og KI blir vår nye Gud

Krig, klimakrise, økonomisk uro, kriminalitet, teknologisk maktkonsentrasjon og et demokrati under press. Dette er ikke lenger enkelthendelser vi kan analysere isolert, men et sammensatt kriselandskap der alt påvirker alt. Vi befinner oss i det forskere og analytikere omtaler som en polykrise, en tilstand der flere kriser forsterker hverandre og gjør både styring og forståelse stadig vanskeligere.

Når alt skjer samtidig, øker også behovet for forklaringer som gir oss ro. Oversikt. Kontroll. Og ikke minst håp.

Håp som strategi

I møte med ubehagelige realiteter tyr mange av oss til håp. Vi håper at det går bra. At ting ordner seg. At noen andre fikser det.

Håp kan være både menneskelig og nødvendig, men i en polykrise kan det også bli en sovepute. En måte å leve med ubehaget på, uten å gjøre noe med årsakene. Håp blir da ikke et uttrykk for optimisme, men for ansvarsfraskrivelse. For i det øyeblikket jeg håper, uten å handle, har jeg samtidig delegert ansvaret videre.

Hans-Petter Nygård-Hansen

Hans-Petter Nygård-Hansen er teknologihumanist, forfatter og foredragsholder med fokus på teknologiens påvirkning på mennesker, samfunn og arbeidsliv. Han er fast kommentator i Computerworld.

LES OGSÅ:

• 

  Amazon sparker 16.000 – lekket beskjeden i e-posttabbe

• 

  KI avslører dårlig utviklingshåndverk

• 

  Penetrace kjøper svensk analyseselskap

• 

  Utviklere stoler fortsatt ikke på KI-generert kode

• 

  Mye KI, men lite styring i svenske kommunene

• 

  KI gir ansatte dårligere selvtillit

Til politikerne.

Til markedet.

Til historien.

Eller til teknologien.

Fra Gud til algoritme

Historisk har mennesker overgitt fremtiden til Gud. I dag ser vi en moderne variant av det samme. Vi overgir den til teknologi, og særlig til kunstig intelligens. 

KI omtales stadig oftere som løsningen på nærmest alle samfunnsutfordringer.

• Produktivitetskrisen. 
• Eldrebølgen. 
• Kompetansemangel. 
• Ineffektiv offentlig sektor. 
• Manglende gjennomføringsevne i politikken. 

Kunstig intelligens fremstår som en ufeilbarlig instans vi søker råd hos, stoler på og håper skal redde oss fra våre egne begrensninger.

På mange måter har KI fått rollen som en ny form for guddom.

• Allvitende.
• Rasjonell.
• Objektiv.
• Fri for menneskelige feil.

Utfordringen er ikke teknologien

Det er viktig å være presis her. Utfordringen er ikke kunstig intelligens i seg selv. Utfordringen er forholdet vårt til teknologien. Når KI fremstilles som nøytral og objektiv, flyttes ansvaret stille og effektivt bort fra mennesker. Fra beslutningstakere. Fra politikere. Fra oss selv.

«Algoritmen sa det» blir en moderne variant av «Gud ville det sånn».

Men algoritmer tar ikke ansvar. Det gjør mennesker.

Kunstig intelligens har verken moral, empati eller samfunnsforståelse. I alle fall ikke ennå. KI optimaliserer det vi ber den om, basert på mål, data og insentiver. Og disse insentivene er ikke naturgitte. De er definert av mennesker og ofte av noen få, svært mektige teknologiselskaper.

I dag er jeg i økende grad bekymret over tendensen der kunstig intelligens blir brukt som et politisk og organisatorisk alibi. Når utfordringene blir for krevende, peker man på teknologi. Når reformene er upopulære, snakker man om innovasjon. Når regningen er høy, håper man på automatisering. AI blir en måte å utsette vanskelige beslutninger på. En teknologisk form for unnvikelse.

Men verken produktivitetskrisen, kompetansemangelen eller tillitskrisen i demokratiet lar seg løse av teknologi alene. De krever politiske prioriteringer, investeringer i mennesker og tydelig lederskap. Kunstig intelligens kan støtte disse prosessene, men kan ikke erstatte dem.

Når teknologi blir religion

I en verden preget av uro, kompleksitet og tap av kontroll er det forståelig at vi søker en høyere orden. Noe som kan gi svar når vi selv er usikre. Utfordringen oppstår når denne rollen fylles av teknologi vi ikke fullt ut forstår, kontrollerer eller regulerer. Når kunstig intelligens tillegges en autoritet som minner om religiøs tro, slutter vi å stille kritiske spørsmål.

• Vi antar at den vet best.
• At den er mer rasjonell enn oss.
• Mer rettferdig.
• Mer effektiv.

I realiteten risikerer vi å bygge et samfunn der beslutninger tas på grunnlag av modeller og optimaliseringer som ingen kan holdes ansvarlige for.

Fremtiden formes av valg, ikke tro og håp

I boken Mennesket vs Maskinen argumenterer jeg for at fremtiden ikke er noe som bare skjer med oss. Den formes, enten bevisst eller ved unnlatelse. Når vi velger å håpe i stedet for å handle, lar vi samtidig andre sette retningen. Ofte uten demokratisk kontroll.

Polykrisen forsterker denne risikoen. Når mediene svekkes, tilliten forvitrer og unge mennesker mister troen på fremtiden, blir vi mer mottakelige for enkle forklaringer og teknologiske frelsesfortellinger. 

KI fremstår da ikke bare som et verktøy, men som et løfte om orden i kaoset. Presisjon i en uoversiktlig verden. Kontroll i møte med kompleksitet.

Mindre tro og håp, mer ansvar

Å planlegge for det verste er ikke pessimisme. Det er modenhet. Å kreve kunnskap fremfor håp er ikke kynisme. Det er ansvarlighet.

Vi trenger borgere som setter seg inn i hva som faktisk skjer, teknologisk, politisk og økonomisk, og som tar valg basert på fakta, ikke følelser og ønsketenkning. Og vi trenger politikere som gjør det samme. Politikere som ikke gjemmer seg bak teknologioptimisme, men som våger å regulere, prioritere og sette mennesket først.

Fremtiden lar seg ikke løse av en algoritme alene. Den krever mennesker som nekter å overlate ansvaret til en ny, digital gud.