Vi må snakke litt om Kunstig uintelligens (KU)

Elon Musk er bekymret, og det samme var Stephen Hawking. Det de frykter er konsekvensen av at vi overlater for mye kontroll til KI-baserte systemer. Det er all mulig grunn til å unngå at vi havner i en dystopi der vi overvåkes og styres av systemer som startet som en god ide, men har utviklet seg til å kontrollere alt. Og de har blitt for komplekse til at vi evner å gjøre noe med dem.

Utviklingen er helt åpenbart noe vi må ha i tankene mens vi finner nye bruksområder for KI, men foreløpig er det heldigvis et framtidsproblem. I mellomtiden må vi snakke litt om en annen uheldig effekt av KI, og introdusere et nytt begrep: Kunstig uintelligens – KU.

Hvis du lurer på hva KU er, trenger du bare å slå av en prat med en såkalt intelligent chatbot – gjerne basert på det ypperste av KI. I mange tilfeller er den alt annet enn kunstig intelligent, den er kunstig uintelligent. Ta bare en titt på moro-innlegg på sosiale medier som gjengir samtaler med en av dem.

Kunstig uintelligens (KU) er noe som oppstår i møtet mellom KI og behov for å oppklare misforståelser, avklare kontekster, fange opp sinnstilstander eller kanskje parere litt ironi, for å nevne noe. Kort sagt ting vi mennesker gjør hundrevis av ganger hver dag, helt uten at vi tenker over det.

Alt det vi bare gjør, alt vi vurderer basert på magefølelse, hvordan vi automatisk tilpasser oss andre, alle de tingene det ikke er så enkelt å sette tall på og lage regler for, er utfordringer forskerne innenfor kunstig intelligens identifiserte som vanskelig svært tidlig. Utviklingen vi har sett de siste tiårene handler først og fremst om tilgang til datakraft og enorme datamengder, og ikke om løsninger på noen av disse grunnleggende problemene.

Det er mange områder der KI blir uintelligent, hvor teknologien bare føles dypt irriterende hvis den brukes. Som for eksempel i behandling av en kunde som trenger hjelp etter å ha gått seg fast i et eller annet problem. Gjerne basert på noe kunden har misforstått. En drittlei kunde, som allerede har ‘forsøkt alt’. Å slippe løs en smart chat-bot på kunden er en varslet katastrofe.

Men de økonomiske fordelene er sterke, og i kombinasjon med at kundene får hjelp når som helst og hvor som helst, er det fristende å automatisere mest mulig. Utfordringen er å fange opp de situasjonene der systemene kommer til kort, og tilby kontakt med en levende person. Det er dyrt sammenlignet med smart-bot-ene, og derfor blir det stadig vanskeligere – og mer irriterende – å nå fram til et levende menneske når man faktisk trenger det. En sak er irritasjon i kundebehandling, et annet spørsmål er når vi får det første tilfellet av et mentalt ustabilt menneske som har foretatt seg noe fatalt etter et misforstått kunstig uintelligent råd.

Det er fantastisk at vi kan gjøre stadig mer døgnet rundt og fra hvor som helst. Og at datasystemer kan bistå oss med å klare opp i floker. Men vi må forstå hvor teknologien kommer til kort, og all verdens datakraft og datagrunnlag ikke hjelper. For da er teknologien rett og slett uintelligent, og ikke intelligent. Det blir samtale uten felles kontekst.

Eller som man sa før datamaskinene var funnet opp: Goddag mann. Økseskaft.