DEBATT | Camilla Brustad-Nilsen
KI-leverandøren din er ikke et teknologivalg
KI behandles fortsatt som et IT-innkjøp. Det er det ikke.
Fredag 28. februar krevde det amerikanske forsvarsdepartementet at Anthropic fjernet Claudes begrensninger mot autonome dødelige angrep og masseovervåking av borgere. Ikke som en forhandling. Som et ultimatum. Toppsjef Dario Amodei sa nei. Trump reagerte med å beordre alle føderale etater til å fase ut selskapets teknologi. En kontrakt verdt opp mot 200 millioner dollar sto på spill.
De holdt.
Tre uker tidligere hadde OpenAI startet testing av reklame i ChatGPT – tilpasset samtalehistorikken din. Anthropic svarte med en Super Bowl-kampanje bygget på slagordet «Ads are coming to AI. But not to Claude.»
To selskaper. To valg. Og ett spørsmål som burde stå på agendaen i hvert eneste lederteam som har innført KI: Vet du egentlig hvem du har valgt – og hva de er optimalisert for?
Etiske rammer
I TRY valgte vi Anthropic og Claude som KI-verktøy for alle ansatte i 2024. Funksjonaliteten var god. Men det som til slutt veide tyngst, var noe annet: hvordan de etiske rammene var bygd inn i selve modellen – ikke lagt utenpå som retningslinjer som kan endres med neste kontrakt eller neste politiske press.
Det var ikke et åpenbart valg på det tidspunktet. Men vi hadde stilt oss spørsmål vi ikke hadde stilt før: Hva skjer med ansatte og kunder hvis leverandøren skifter kurs? Hvem kontrollerer hva modellen kan og ikke kan gjøre – og kan det endres under press?
De spørsmålene fikk vi svar på forrige fredag.
Jeg rådgir selskaper på hvordan de skal lykkes med KI og møter norske ledere som er midt i disse valgene. Spørsmålet jeg sjelden hører er: Hva skjer med virksomheten vår hvis leverandøren skifter kurs?
De fleste leverandørvalg gjøres på funksjonalitet og pris. Det er fornuftig. Men KI-leverandøren din sitter nå midt i kjerneprosessene dine – i analyser, i kundedialog, i beslutningsstøtte. Det er ikke lenger en teknologileverandør. Det er en strategisk samarbeidspartner med innsyn i det som er mest sensitivt i virksomheten din.
Og den samarbeidspartneren kan endre vilkår, forretningsmodell og verdier – uten å spørre deg først.
En modell som bruker samtalehistorikken din til å velge annonser, er optimalisert for noe annet enn å hjelpe deg å gjøre jobben din. En leverandør som gir etter for politisk press, styrer modellen din etter andre interesser enn dine. Ingen av delene gjør nødvendigvis et verktøy ubrukelig. Men det er en forskjell det er ledelsens ansvar å kjenne til – ikke IT-avdelingens.
Behandles som IT-innkjøp
Spørsmålene de fleste ikke stiller: Kan leverandøren vår fjerne en etisk begrensning hvis noen betaler nok for det? Hva skjer med dataene våre hvis forretningsmodellen endres? Hva skjer med verktøyet ditt når leverandøren trenger nye inntekter – eller får press fra en president?
Og: hva er planen din hvis svaret på ett av disse plutselig er feil?
Det er ikke vanskelige spørsmål. Men KI behandles fortsatt som et IT-innkjøp. Derfor stilles de ikke.
Denne uken viste tydelig at leverandørvalg har konsekvenser du ikke kan forutse – og at du bør ha tenkt igjennom dem før noen andre gjør det for deg.
Poenget er ikke at ett selskap er godt og ett er dårlig. Poenget er at denne uken viste tydelig at leverandørvalg har konsekvenser du ikke kan forutse – og at du bør ha tenkt igjennom dem før noen andre gjør det for deg.
Revurder valget ditt. Ikke fordi du nødvendigvis skal bytte. Men fordi dette markedet beveger seg raskt – og valget du tok i fjor er ikke nødvendigvis riktig i dag.
