DEBATT | Vijay Narayan, Cognizant

NYE SVAKHETER: Når KI settes til å styre uten å forstå hvordan beslutninger faktisk tas, forsvinner tiår med erfaring og faglig skjønn. I industrien, der nullfeilskultur er bygget stein på stein, kan raske kontekstsløse beslutninger skape nye svakheter fremfor å fjerne gamle, skriver Vijay Narayan.

Ubegrenset automatisering kan bli en konkurranseulempe

Mange bedrifter jager det de tror er friksjonsfri bruk av kunstig intelligens. I bransje etter bransje har mer automatisering, færre mennesker i prosessene og stadig høyere tempo blir standardstrategien. Tanken er enkel. Den som automatiserer raskest, vinner. Men det holder ikke.

Publisert

For bak tempoet vokser en uro. Stadig flere ser nå de første sprekkene i arbeidsprosessene som er basert på ubegrenset automatisering. Problemet er ikke at KI utvikler seg for sakte, men at noe mer grunnleggende er i ferd med å gå tapt.

Derfor vil ubegrenset automatisering snart bli en konkurranseulempe. Bedriftene som lykkes i år, er de som løser en utfordring mange ennå ikke har satt ord på. For alle bedrifter og organisasjoner har et særpreg, et beslutningsmønster og en måte å jobbe på som skiller seg fra andre. Den virkelige muligheten ligger i å bygge kunstig intelligens som forsterker identiteten, og som ikke visker den ut.

Problemet ingen snakker om

Sannheten er at ubegrenset automatisering ikke er nøytral. Det kan svekke det som faktisk skaper konkurransekraft. For mye autonomi tærer på merkevaren, demper engasjementet hos ansatte og undergraver tillit hos kundene. I sikkehetskritiske miljøer kan den til og med gjøre driften mer risikofylt.

For når KI settes til å styre uten å forstå hvordan beslutninger faktisk tas, forsvinner tiår med erfaring og faglig skjønn. I industrien, der nullfeilskultur er bygget stein på stein, kan raske kontekstsløse beslutninger skape nye svakheter fremfor å fjerne gamle.

Kall det gjerne motstrøms

Strategien som vil skille vinnerne fra taperne fremover, kan virke motstrøms. Jeg velger å kalle det bevisst treghet. Bedrifter som utvikler KI-systemer som kan stoppes, forklares og som med vilje er langsommere enn kritiske prosesser, vil over tid slå dem som jager full autonomi. Utenfra kan det sikkert virke ineffektivt. I praksis viser det at man har tenkt grundig gjennom hvor KI bør bevege seg og hvor den må stoppe opp.

Mennesket må være i sentrum

I mange år har menneskelig involvering blitt sett på som noe som bør fjernes. Dersom KI kan ta beslutningen, bør mennesket tre til side. I virkeligheten er det motsatt. Det er i de menneskelige kontrollpunktene bedriftens dømmekraft ligger. Det er her sikkerheten, etterlevelsen og de faglige disiplinene forankres.

Logistikkbransjen er et godt eksempel. KI kan optimalisere rutevalg og lasteplaner, men erfarne trafikkledere justerer anbefalingene basert på værforhold, kjøretøyets tilstand, kundekrav og lokale regler. Pauser som på ingen måte er feil eller ineffektive, men helt nødvendige sikkerhetsmekanismer. I innværende år vil KI-suksess kjennetegnes av kulturer der mennesker stoler på egen innsikt og derfor vet når det må gripes inn.

Kontekst blir selve ingeniørfaget

Mange KI-diskusjoner starter med effektivitet. Raskere prosesser, kortere ledetider og bedre optimalisering. Det er å begynne i feil ende. Det riktige spørsmålet er ikke hvor raskt vi kan automatisere, men hvordan vi bruker KI til å redesigne arbeidsflyten uten å miste identiteten og standardene våre.

Her blir kontekst avgjørende. Ved å bruke strukturer som arbeids- og beslutningsgrafer, kan bedrifter gi KI-systemene innsikt i regelverk, sikkerhetskrav, institusjonell kunnskap og operative prinsipper. Når KI forstår denne sammenhengen, støtter den bedriftens særpreg fremfor å erstatte den. Da beveger man seg bort fra isolerte pilotprosjekter og over mot helhetlige arbeidsprosesser der KI kun får styre der det gir et faktisk konkurransefortrinn.

Tillit blir infrastruktur

Bedrifter som lykkes fremover, vil behandle tillit som en integrert del av KI-arkitekturen. Åpen styring, tydelig ansvar, solid etterlevelse og klare etiske rammer blir konkurransefortrinn og ikke byråkratiske byrder. 

Å bygge tillit krever solide fundamenter, god datastyring med pålitelige datakilder, klare rammer for hva KI kan og ikke kan gjøre og tydelig ansvar når noe går galt.

De som bygger dette fra start av, vil stå sterkere i møte med økt regulering og vinne kundenes tillit. De som prioriterer fart fremfor struktur, risikerer det motsatte. Altså omdømmetap, intern motstand og svekket gjennomføringsevne.

Å bygge tillit krever solide fundamenter, god datastyring med pålitelige datakilder, klare rammer for hva KI kan og ikke kan gjøre og tydelig ansvar når noe går galt. Og ikke minst målrettet endringsledelse på tvers av fagmiljøer, slik at mennesker lærer å samarbeide med KI. Ikke bare følge den.

Lavere tempo gir større forsprang

Hva betyr dette i praksis? Det betyr at tregere KI kan bli et konkurransefortrinn. Systemer som stopper opp, forklarer seg og inviterer til menneskelig vurdering, vil over tid slå løsninger bygget på ubegrenset automatisering.

Beskytt konteksten. Bygg KI som gjenspeiler bedriftens tillit. Skap rom for at mennesker og maskiner tar beslutninger sammen. På den måten kan bedrifter bli robuste, tillitsverdige og i forkant.