DEBATT | Lasse Ruud
Strümke har rett om språkmodellen, men overdriver
Vi bør være forsiktige med å gjøre en nødvendig advarsel mot blind tillit til KI om til en unødvendig frykt for å bruke den, slik Inga Strümke tar til orde for.
Inga Strümke og John Markus Lervik ble ikke enige om hvor pålitelige språkmodellbaserte løsninger kan bli. Det høres ut som en teknisk detalj. Det er det ikke. Hvis norske ledere sitter igjen med at språkmodeller gir mer eller mindre tilfeldige svar, skaper vi unødvendig frykt akkurat når vi trenger å gå fra AI-prat til gevinstrealisering.
Jeg fulgte Storebrands KI-debatt fra Arendalsuka da ordvekslingen mellom Inga Strümke og Cognite-gründer John Markus Lervik fikk meg til å spisse ørene.
Strümke holdt fast på at språkmodeller er probabilistiske. Lervik argumenterte for at man kan bygge kontrollerte løsninger på virksomhetens egne data og automatisere arbeidsprosesser uten den samme usikkerheten vi forbinder med en åpen generativ KI-tjeneste.
«Du kvitter deg jo ikke med at det er et probabilistisk system», sa Strümke.
«Jo, det gjør man», svarte Lervik.
Han presiserte etter hvert at språkmodellen kan stå for orkestreringen, mens svarene kommer fra virksomhetens egne, kontrollerte data.
Jeg skal være forsiktig med å kåre en vinner mellom en ekspert på KI og en av Norges mest erfarne teknologigründere. Men dette ligger tett på det jeg selv har jobbet med i mer enn 15 år: enterprise search, strukturering av store datamengder og senere språkmodeller lagt oppå disse dataene. I Ayfie så vi hvor mye bedre svarene ble når modellen fikk arbeide mot et avgrenset kunnskapsgrunnlag.
Derfor mener jeg Strümke har rett om språkmodellen, mens Lervik har mer rett om hva dette betyr i faktiske virksomheter.
Her snakker Strümke og Lervik forbi hverandre
En språkmodell er probabilistisk. Samme, eller nesten samme, spørsmål kan gi variasjoner i formulering og noen ganger også i konklusjon. Strümke har advart mot å ha for stor tillit til dette lenge. I VG beskrev hun ChatGPT som «en språkmodell, ikke en informasjonsmodell» og påpekte at ulike formuleringer kan gi ulike svar.
Det er en viktig advarsel. Men språkmodellen er ikke nødvendigvis hele løsningen.
Her mener jeg debatten låste seg. Strümke beskrev egenskapene til modellen. Lervik beskrev systemet vi kan bygge rundt den. Begge perspektivene er relevante, men det siste er det virksomhetene faktisk skal sette i produksjon, og dermed leve av.
Her mener jeg debatten låste seg. Strümke beskrev egenskapene til modellen. Lervik beskrev systemet vi kan bygge rundt den.
For oss som jobbet med enterprise search lenge før ChatGPT, er mye av RAG-tankegangen gjenkjennelig: Finn riktig informasjon i store mengder virksomhetsdata, og la språkmodellen forstå spørsmålet og formulere svaret på grunnlag av det som faktisk blir hentet.
RAG (Retrieval-Augmented Generation) gjør ikke modellen deterministisk. Søket kan finne feil dokument, dataene kan være dårlige, og modellen kan tolke grunnlaget feil. Men det er et stort sprang derfra til å hevde at vi derfor ikke kan bygge stabile løsninger med språkmodeller.
Egentlig viser Strümkes innvending hvor viktig Lerviks poeng er. Når vi vet at språkmodellen er probabilistisk, er det desto viktigere å bygge kontroll rundt den. Kritiske data skal komme fra kjente kilder, viktige handlinger skal følge faste regler, og der konsekvensene er store nok, skal et menneske fortsatt ha siste ord.
Språkmodellen trenger ikke sitte på fasiten
Ta spørsmålet: «Hvor mye skylder kunde Hansen oss akkurat nå?»
Her bør ikke språkmodellen finne på noe som helst. Den kan forstå spørsmålet og starte et kontrollert oppslag i økonomisystemet. Hvis systemet returnerer 143.762 kroner, er det dette tallet som skal presenteres.
Modellen kan formulere setningen forskjellig fra gang til gang. Setningen kan variere. Saldoen skal ikke gjøre det.
Det er kjernen. Språkmodellen trenger ikke være sannhetskilden eller beregningsmotoren. Den kan forstå intensjonen og koble spørsmålet til systemene som faktisk sitter på fasiten.
Det samme gjelder automatisering. At en språkmodell inngår i en arbeidsprosess betyr ikke at den må bestemme hele forløpet. Vanlig programlogikk kan styre steg, data og godkjenninger. Vi bruker språkmodellen der den er god, og faste regler der vi ikke aksepterer variasjon.
For åpne KI-agenter med stor handlefrihet er jeg mer på linje med Strümke: Jo mer modellen selv får bestemme, desto større blir usikkerheten. Også her er det likevel vi mennesker som bestemmer hvor mye frihet den får.
Frykt har også en kostnad
Det er grunnen til at jeg reagerer når språkmodellenes probabilistiske natur blir stående som hovedforklaringen på hvor mye vi kan stole på KI.
Ikke fordi risikoen skal tones ned. Vi trenger testing, datakvalitet, tilgangsstyring og governance når KI flytter inn i viktige arbeidsprosesser. Men vi trenger også gevinstene.
Det holder ikke lenger å kjøpe lisenser, lage piloter og snakke om potensial. KI må inn i arbeidsprosessene og gi reell effekt.
Det holder ikke lenger å kjøpe lisenser, lage piloter og snakke om potensial. KI må inn i arbeidsprosessene og gi reell effekt.
Hvis ledere sitter igjen med at «dette er statistiske modeller, så vi vet egentlig aldri hvilket svar vi får», er veien kort til å konkludere med at teknologien ikke kan brukes der svaret må være riktig. Det mener jeg blir feil, og altfor passivt.
Vi skal ikke stole blindt på språkmodellen. Vi skal bygge løsningen slik at vi vet hvilke data den får bruke, hva modellen selv genererer, hva som kommer fra kontrollerte systemer og hvor vi krever faste regler eller menneskelig godkjenning.
Strümke har rett: Språkmodellen er probabilistisk. Men når spørsmålet er om vi dermed kan bygge stabile og pålitelige arbeidsprosesser rundt den, mener jeg Lervik har det viktigste poenget.
Det er ikke språkmodellens matematiske natur alene som avgjør hvor pålitelig løsningen blir. Det gjør arkitekturen vi bygger rundt den.
Akkurat nå bør vi være forsiktige med å gjøre en nødvendig advarsel mot blind tillit til KI om til en unødvendig frykt for å bruke den.
