KI-agenter: Dommedag eller unnamanøver?

For å svare på spørsmålet umiddelbart. Det er ingen som vet om KI-agentene vil ta livet av  menneskeheten. Det noen har sagt er at det er en risiko, og så har noen kommet opp med noen prosenter om sjansen for at det skjer.

Klimakrisen og kriger har høyere sannsynlighet, antagelig. Men det er greit å huske at det ikke kan utelukkes. Der har aktørene et ansvar, mer om det til slutt.

Uttalelser med et skremmebilde om KI-agenter kommer nå fra bransjen selv. Det kan være flere grunner til at agentbransjen peker på farene.

Først litt bakgrunn.

Det er en klar og enorm oppside for selskap og land som stikker av med den eneveldige KI-løsningen. Det vil si den teknologien som øker menneskers livskvalitet, gir uendelig tilgang til energi, og løser alle helseutfordringer.

Tusener på tusener

Det er samtidig ingen grunn til å tro at KI noen gang vil løse alle verdensproblemer.

For å vinne racet er det investert et utrolig antall tusen milliarder dollar i teknologi, infrastruktur, løsninger og aksjer innenfor kunstig intelligens.

Så langt har man bare sett mikropenger i inntekter fra industrien sammenlignet med beløpene som er brukt.

I sommer kom det man på godt norsk kan kalle en «wake up call».

Episoden der OpenAIs agenter i trening «slet seg», dannet en sverm, og angrep både OpenAI selv og Hugging Face er en sånn. Agentene fant en nettilgang og en vei ut av treningssenteret (sandbox-en) på egen hånd.

De fant en måte å kommunisere på, og de skapte et kollektiv.

Denne gangen var det mulig å stoppe det hele, etter at det etter nokså lang tid ble oppdaget at dette foregikk. Det behøver ikke alltid å være en mulighet.

Det vi ikke tenker på

Dette har fått topper hos alle de store KI-aktørene, som Anthropic, OpenAI, Google og SpaceX til å be om at bransjen reguleres. Til og med Bill Gates har bedt om regulering.

Når de sier sånt, skaper det oppmerksomhet.

Det vi da ikke lenger tenker så mye på, fordi vi er opptatt av å snakke om dommedagsprofetier, er at alle de store læringsmodellene (LLMs) som ChatGPT og Gemini er saksøkt av store rettighetshavere for å ha rappet læringsmaterialet.

Søksmålene pågår, men det er kanskje ikke så viktig for aktørene?

Det de store selskapene også klarer å skape et inntrykk av, er at teknologien deres er så god og så fremragende at bedriftskunder vil ønske seg løsningene deres, så lenge de ikke bidrar til å drepe verden, da.

Et annet poeng er at ALLE de store selskapene vil har de beste tek-hodene som finnes der ute til å være med på å utvikle teknologien videre.

Ansvaret de må ta

Motivasjonen for å skape et kjøpsbehov er dessuten påtrengende når man vet at det er investert tusenvis av milliarder dollar, og så langt alt for lave inntekter. Det er grunn til å tro at prisene vil øke fremover, for å si det litt politisk.

Jeg tror samtidig det er feil å undervurdere kraften i hva KI-agenter kan gjøre av skade. Jeg tror også det er feil å tro at OpenAI med sin Hugging Face-episode har iscenesatt den for å ha noe skummelt å vise til.

I stedet for å se på regulering, som ikke er på trappene i USA i alle fall, så handler det nå om å plassere ansvaret selskapene har på nettopp selskapene.

De må vise ansvar overfor aksjonærer, investorer, kunder og myndigheter. De må vise ansvar overfor egne familier og medarbeidere, og resten av verden.

Og ikke minst må LLM-eierne vise ansvar overfor hordene som står bak det ufattelig omfattende treningsmaterialet modellene er trent på.

Og det kan de gjerne begynne med nå med en gang. Å ta for lite ansvar nå, er noe som fort kan ramme dem hardt.