– Mennesker er viktigere enn KI

Kunstig intelligens i Europa er ifølge Irland ved et viktig vendepunkt denne høsten. Akkurat nå er det Irland som har presidentskapet for EU, som varer frem til nyttår.

De store Tek-selskapene har valfartet til øyriket i årevis på grunn av gode skatteforhold, og etter hvert fordi alle andre har store kontorer her. Det er høy kompetanse på teknologi og kunstig intelligens, og naturlig nok ligger de langt fremme i bruken av KI.

International AI Summit ble også gjennomført i Dublin denne uken, der Brad Smith fra Microsoft var hovedtaler.

Som oppvarming møtte han opp i en «Reporter Workshop» i regi av Microsoft på ettermiddagen dagen før «Summiten».

Sikkerhet og økonomi

– Dette toppmøtet kommer på et svært viktig tidspunkt for kunstig intelligens. KI har åpenbart vært mye i nyhetene. Det føles som om det skjer noe hver time, sier Brad Smith «President & Vice Chair» i Microsoft.

– Jeg mener særlig at det er to spørsmål vi må håndtere som bransje og samfunn, både globalt og i de enkelte landene, dersom utviklingen skal fortsette i en god retning, sier Smith.

Det ene spørsmålet handler om sikkerhet, og det andre handler om hvilken virkning KI får på økonomien.

– Vi har kommet til et punkt der selskapene i bransjen må ta større ansvar og gjøre mer for å håndtere sikkerhetsutfordringene ved KI. Men vi har også kommet til et punkt der myndighetene må gjøre mer.

Han snakket om en sikkerhetsbrems for KI, som nå har vært på agendaen et par uker. Han mener folk og virksomheter må ha en sikkerhetsbrems lokalt, for å kunne stoppe prosesser som tar av ukontrollert umiddelbart.

Ormer i kjøleskapet

Når det gjelder økonomi er det to retninger han peker på. Den ene er at han har klokkertro på at KI kan gi store gevinster for økonomien. Den andre er at de gevinsten som kommer faktisk må tilfalle de som bruker teknologien. Det vil si deg og meg og arbeidsgiverne våre.

Dette er en veldig desentral tankegang. Samtidig ligger kampen om teknologien fortsatt på de sentrale selskapene. Når både OpenAI og Anthropic forteller om KI-agenter som sliter seg, så er det enn så lenge de som får svi, og de som blir angrepet, selvsagt.

Denne uken er det KI-ormer på avveie fra Anthropic som har kommet frem.

– Dagens sak i Financial Times handler om KI-ormer i kjøleskapet ditt. Jeg tror ikke folk ønsker KI-ormer i kjøleskapet, eller noen andre ormer for den sakens skyld, sier Smith.

En av talerne under medie-workshopen er Brianna Rosen, direktør for programmet for cyberteknologi og politikk ved universitetet i Oxford.

Urolig nå

Hun er topptrent i å se etter de store farene knyttet til KI, og har drevet med dette i 20 år. Hun er pessimist. Hun frykter agenter på avveie i atomvåpen, og at menneskene fort kan miste kontroll over agentene.

Hun spør Brad Smith rett ut om hvordan politikere og myndigheter kan regulere KI med tanke på morgendagen.

Han svarer med å peke på at man trenger både riktig strategi og evnen til å gjennomføre den når man skal oppnå noe som er vanskelig.

– Har du kapasiteten og kompetansen, men ikke strategien, kan du ende opp med at svært dyktige mennesker som ikke oppnår det det de burde. Har du riktig strategi, men ikke evnen til å gjennomføre, sitter du med en visjon du ikke kan gjøre til virkelighet, sier han.

Ikke veldig beroligende.

– Men vi bør investere i å bygge kapasitet og kompetanse. Det må vi gjøre mer av. Det er den viktigste lærdommen for myndighetene i dag, legger han til.

Draghi igjen

Selve «AI Summiten» handlet i stor grad om hvordan Europa kan «revolusjonere egen konkurransekraft gjennom KI» der bakteppet er at Kina og USA leder an.

Google DeepMind, OpenAI, Anthropic og Microsoft var blant de amerikanske selskapene som hadde ordet, og mye av det de snakker om er at man som bruker har kort vei til ypperlig teknologi, mens man må bruke egen ekspertise på å vurdere resultatet.

Fra Europa var Ericsson, Zalando, Siemens, DeepL, SAP, Mistral og betalingsplattformen Stripe noen av de som fikk taletid. Et poeng som ble sagt er at Europa trenger å akselerere for å komme på nivå med de amerikanske som leder an.

Det ble også etterlyst at myndighetene følger opp rapporten fra Mario Draghi, som nå er to år gammel.

Fra et europeisk perspektiv virker det ikke så aktuelt å helt komme på nivå med de amerikanske gigantene.

Må lære sammen

Avslutningen av Brad Smiths tale under selve Summiten, handlet om menneskene midt i dette. Altså igjen deg og meg. Desentralisert.

– Én ting jeg har lært gjennom mine 33 år i Microsoft, og gjennom å måtte arbeide meg gjennom så mange uenigheter med myndigheter, selskaper og andre nesten overalt, er at når du møter en person eller en gruppe som tenker annerledes enn deg, har du tre valg.

– Du kan kjempe mot dem. Du kan trekke deg unna. Eller du kan gå dem i møte og se hva dere kan lære sammen. Dette er en tid da vi som bransje, og alle vi i Europa og resten av verden, må gå andre i møte og lære mer av mennesker som tenker annerledes, sier Smith.

– Vi må vie oss til menneskelig intelligens og sørge for at denne teknologien alltid forblir under menneskelig kontroll, legger han til.

Fem ord

Han viser deretter til en kollega i Microsoft som har laget et sett med etiske prinsipper for utvikling av KI i selskapet.

– Han skrev at alt kunne oppsummeres i fem ord: «Mennesker er viktigere enn KI.»

– Fem ord. Fem ord som jeg håper vi, om ikke annet, tar med oss fra dette internasjonale KI-toppmøtet. La oss arbeide for teknologisk fremgang. Men la oss være enda mer opptatt av menneskehetens fremgang. Jeg vil tro at mange av oss i dette rommet er foreldre. Tenk på barna deres. Tenk på naboene deres.

– Og husk så dette: Mennesker er viktigere enn KI.

Agenter som sliter seg

Det er betryggende å høre en toppsjef for en av verdens største skyløsninger, Azure, og kjerneinvestoren bak OpenAI, si dette. Men etter 48 timer med KI-frykt og KI-håp sitter jeg også igjen med en omfattende følelse av at det er langt igjen.

Smith snakket også om KI-regulering, og at verden har kommet kort med dette.

I et geopolitisk kappløp om KI og et par løse kanoner på toppen av regjeringer i toneangivende land, er det med andre ord et helt ufattelig antall løse deler som virrer rundt oss, der noen av dem i tillegg er «rouge AI agents».

Jeg avslutter med en forpliktelse og et ønske fra Microsoft-toppen.

– Vi trenger etter mitt syn plikt til å varsle om hendelser, sier Smith.

Det er et sted å begynne. Etter nyttår er det Malta som overtar stafettpinnen som nytt EU-presidentskap. De er det landet i Europa som har tatt i bruk generativ KI i størst grad i arbeidslivet.