Sam Altmans skånsomme singularitet

For kort tid siden publiserte Sam Altman, toppsjefen i OpenAI, et veikart for fremtiden han kaller The Gentle Singularity. Altman beskriver en fremtid hvor kunstig intelligens utvikler seg raskt og gradvis overtar oppgaver vi i dag forbinder med menneskelig intelligens: AI-systemer som ikke bare skriver tekster, men utvikler ny vitenskap, bygger roboter og løser globale utfordringer. Skal vi tro Altman, vil dette gi oss en verden med mer velstand, bedre helse og enorme muligheter.

Alt høres forlokkende ut. Men det forutsetter at utviklingen styres riktig. Og nettopp her må vi være varsomme.

Hva er «singularitet»?

Begrepet «singularitet» brukes ofte i teknologidebatten for å beskrive det punktet hvor kunstig intelligens blir så kraftfull at den kan forbedre sin egen intelligens raskere enn mennesker kan forstå eller kontrollere den. Altman forsøker å avdramatisere dette med sin visjon om en "skånsom" singularitet, der utviklingen skjer kontrollert og til menneskets beste.

Utfordringen er ikke teknologien – det er styringen

Der Altman vektlegger teknologiens enorme muligheter, er det avgjørende at vi samtidig tar innover oss utfordringene vi allerede ser konturene av. Det er også et sentralt poeng i mitt eget teknologi-manifest for en menneskevennlig digital fremtid, hvor jeg beskriver hvordan AI, algoritmer og digitale plattformer påvirker oss som mennesker, vår mentale helse, demokratiet og samfunnets sammenhengskraft. Spørsmålet er ikke bare hva AI kan gjøre, men hvem som kontrollerer utviklingen og hvordan den påvirker oss alle, særlig de yngste og mest sårbare.

Vi står allerede midt i en bølge av teknologisk utvikling som blant annet har gitt oss:

● Unge mennesker fanget i avhengighetsskapende sosiale medier

● Algoritmer som forsterker polarisering og desinformasjon

● Et personvern som gradvis uthules

● Økende psykiske helseproblemer knyttet til digitalt stress

● En stadig sterkere maktkonsentrasjon hos noen få teknologigiganter

Altman erkjenner at AI må styres og tilpasses menneskets interesser, men han legger stor vekt på at bransjen selv skal løse disse utfordringene. Etter mer enn 20 år med digitaliseringens skyggesider er det et premiss vi ikke lenger kan basere oss på.

Den egentlige utfordringen

I AI-debatten brukes ofte begrepet «alignment» – som enkelt forklart handler om å sørge for at AI faktisk arbeider for menneskets beste, og ikke utvikler seg på måter som undergraver våre interesser. Men i praksis er dette et spørsmål om verdiforankring og hvem skal sette premissene for hva som er det gode samfunn? Er det markedet eller demokratiet?

Altman ser for seg at vi innen 2030 vil ha AI-systemer som gjør enkeltpersoner like produktive som store organisasjoner. At roboter kan bygge andre roboter. At vitenskapelige gjennombrudd kommer på løpende bånd. Og at vi kan høste gevinstene uten store konflikter, så lenge teknologiaktørene får fortsette som i dag.

Men dette krever samtidig at vi adresserer flere kritiske spørsmål: Hvordan skal vi forhindre at ulikheten vokser raskere enn noensinne? Hvordan skal vi håndtere de psykologiske skadevirkningene av avhengighetsskapende algoritmer og kunstig intelligens? Hvordan skal vi unngå at maktkonsentrasjonen i noen få globale teknologiselskaper overskygger politiske myndigheter? Og hvordan kan vi sikre demokratisk styring av en utvikling som nå skjer i et tempo vi aldri tidligere har sett?

Hva må vi gjøre nå?

Vi trenger et annet veikart enn det teknologigigantene alene kan eller vil levere. Vi må etablere et uavhengig algoritme-tilsyn som sikrer innsyn i hvordan digitale beslutninger tas, og gir åpenhet om hvilke mekanismer som styrer både informasjonstilgang og innholdsprioritering. 

I tillegg må det stilles klare krav til transparens, slik at både myndigheter og enkeltpersoner forstår hvordan kunstig intelligens påvirker livene våre i praksis. Samtidig må vi være villige til å innføre sanksjoner mot selskaper som prioriterer egen profitt på bekostning av brukernes helse, personvern og demokratiske rettigheter. Og kanskje viktigst av alt: Vi trenger et globalt samarbeid som regulerer utviklingen av kunstig superintelligens før teknologien når et nivå der den er ute av demokratisk kontroll.

Vi trenger politisk mot og folkelig bevissthet

Altman har rett i én ting: Kunstig intelligens kan bli det mest fantastiske vi mennesker noensinne har skapt. Men uten tydelige rammer, kontroll og verdiforankring risikerer vi at teknologien forsterker nettopp de problemene samfunnet allerede sliter med.

Vi kan ikke vente på at krisene forverrer seg ytterligere. Vi må handle nå, for å sikre at den digitale fremtiden blir menneskevennlig, demokratisk og trygg. Teknologi for menneskeheten krever at vi setter mennesket først – ikke teknologigigantenes visjoner.