Kunstig intelligens fant veien til krig på bare tre år

Da ChatGPT ble lansert høsten 2022 ble verden slått av forundring. Millioner av mennesker oppdaget på få uker at en maskin kunne skrive tekster, analysere dokumenter og føre samtaler på en måte som tidligere virket umulig.

Jeg var en av dem som tidlig så både potensialet og risikoen. I boken Mennesket vs Maskinen beskriver jeg hvordan kunstig intelligens ikke bare er et nytt verktøy, men en teknologi som fundamentalt kan endre maktbalansen i samfunnet. Historien viser at de mest transformative teknologiene sjelden utvikler seg i en retning som først og fremst tjener mennesket. De utvikler seg i retning av makt.

Tre år senere har vi fått et brutalt eksempel på akkurat det. KI brukes nå aktivt i krig.

Ifølge flere rapporter har USA tatt i bruk KI-systemer utviklet av Palantir og basert på Anthropics språkmodell Claude til å analysere enorme mengder etterretningsdata i krigssituasjoner. Systemet kan sammenstille informasjon fra satellitter, overvåkingskameraer, sensorer og signaletterretning og prioritere mål for militære operasjoner. I enkelte operasjoner skal systemet ha gjort det mulig å identifisere rundt tusen mål i løpet av et døgn. Det som tidligere tok uker med analysearbeid kan nå gjøres i sanntid.

Krig planlegges i maskinhastighet.

Ikke det samme som militæret bruker

En viktig detalj forsvinner ofte i den offentlige debatten. Den KI-teknologien vi bruker i ChatGPT eller Claude er ikke i nærheten av den teknologien som militæret og etterretningstjenester bruker. 

Ifølge utviklerne selv kjører militære KI-modeller på egne datasentre med tilgang til klassifiserte datasett og dedikert datakraft. Forskjellen er utrolig stor i beregningskapasitet per forespørsel. 

Kort sagt finnes det to parallelle KI-verdener. Den ene er for oss, mens den andre er for stater og militære organisasjoner. Dette betyr også at den offentlige diskusjonen om kunstig intelligens ofte skjer med et svært begrenset bilde av hva teknologien faktisk kan gjøre.

AI gjør krig raskere og mer sannsynlig

Den mest alvorlige konsekvensen av dette er ikke bare at krig blir mer effektiv. Den blir også mer sannsynlig. Når KI kan komprimere beslutningsprosesser fra dager eller uker til minutter skaper det en farlig krigs-dynamikk. Jo raskere beslutninger tas, desto mindre tid finnes det til refleksjon, diplomati og politisk vurdering. Krig blir et teknologisk optimaliseringsproblem.

Historien gir oss her en viktig parallell. Atomvåpen endret geopolitikken fordi de gjorde ødeleggelse mulig på en helt ny skala. Kunstig intelligens kan gjøre noe lignende ved å gjøre krigføring raskere og mer automatisert.

Kan brukes til masseovervåking

Den kanskje mest urovekkende utviklingen handler likevel ikke om krig, men om overvåking. KI-systemene som brukes til militær analyse fungerer fordi de kan samle og analysere enorme mengder data. Den samme teknologien kan like enkelt brukes til å analysere en hel befolkning. 

Én av årsakene til at Anthropic ikke ville la det amerikanske krigsdepartementet bruke deres KI- teknologi var at departementet ønsket at KI skulle analysere data om borgere som geolokasjon, nettleserhistorikk og finansielle opplysninger kjøpt fra datameglere. Dette er informasjon som allerede finnes i enorme databaser. Det eneste som tidligere manglet var evnen til å analysere alt i sanntid.

KI gjør nettopp det mulig.

I mange land diskuteres nå også felles digitale identitetsløsninger. På papiret handler det om effektivisering og sikkerhet. Kombinert med avansert KI-analyse kan det også bli et verktøy for omfattende samfunnsovervåking.

Teknologien som skulle redde verden

For bare få år siden var narrativet rundt kunstig intelligens nesten utelukkende positivt. KI skulle hjelpe forskere med å løse kreftgåten. Den skulle gjøre oss mer produktive og frigjøre tid til kreativitet og menneskelige relasjoner. Mye av dette kan fortsatt bli virkelighet. Men teknologihistorien lærer oss at nye verktøy sjelden brukes utelukkende til gode formål.

Internett ble utviklet av militæret. Atomkraft ble først brukt til bomber. Og kunstig intelligens har allerede funnet veien til krig. Det er vanskelig å overse ironien.

Hvis kunstig intelligens utvikles uten sterke demokratiske rammer kan resultatet bli et samfunn der beslutninger tas av algoritmer, overvåking skjer kontinuerlig og makten flyttes bort fra borgere og folkevalgte institusjoner.

Det er ikke science fiction, men en mulig fremtid.

Skal vi unngå en slik fremtid må vi ta kontroll over utviklingen før teknologien tar kontroll over oss. Det betyr politiske rammer for hvordan KI kan brukes i krig, klare begrensninger på statlig overvåking og en offentlig debatt som faktisk tar innover seg hvor kraftig denne teknologien er. Lykkes vi kan kunstig intelligens bli et verktøy som styrker menneskelig kapasitet. Mislykkes vi, blir det et verktøy for makt og kontroll.

Og det skjer ikke om femti år.

Det skjer nå.