Bindersen tar jobben din

Robotene kommer, det er det ingen tvil om. Det er full grunn til panikk og like greit å planlegge resten av livet rundt åpningstidene til det lokale NAV-kontoret. Siden jeg allikevel ikke får sove i ren og skjær frykt for om jeg har en jobb å gå til i morgen, ligger jeg ofte våken med tankeeksperimenter. Et slikt eksperiment, binders-maksimeringen, tar for seg den meget reelle og uunngåelige trusselen fra kunstig intelligens.

Tanke-eksperimentet, som så dagens lys i 2003, går ut på det følgende: En bedriftsleder finner ikke binders til en presentasjon han skal gi. Oppgitt over hvor få binderser hans Fortune 500-firma har, og hvor lang tid det tar å bestille nye, ber han sin sekretær om å bruke litt av firmaets AI og maskinlærings-ressurser til å forsikre seg om at dette ikke skjer igjen.

Sekretæren, for de finnes fremdeles, programmerer AI-maskinen og setter følgende parametre: Antall binders må aldri gå under null. Dette for å sikre at det hele tiden skal være tilgjengelig binders, og at selskapet ikke skal behøve å bestille nye manuelt; systemet skal ta seg av alt deretter.

To uker senere er selskapet i ruiner, bokstavelig talt, og dødsfrykten for robotisering er ikke lenger en akademisk øvelse.

AI-en begynner i det små med å lese parametrene for sin neste oppgave, som virker enkel nok. Antall binders skal ikke, under noen omstendigheter, synke under null. AI-en analyserer antallet binderser i selskapet på nåværende tidspunkt og finner tallet 149. 149 er over null, men den avanserte maskinlæringen vet også at det finnes et forbruk av binderser som truer dette tallet, og bestemmer at det derfor er grunn til å maksimere antallet binderser. Ved å fokusere på et maksimeringsprinsipp vil antall binderser aldri synke under null.

Den begynner med å kjøpe opp binderser fra normale kanaler og eksterne rekvisita-butikker. Kjøpsordren er signert sjefen selv, så AI-en ser ingen grunn til å informere andre om at midler flyttes internt i selskapet for å kjøpe binderser.

Snart er rekvisita-selskapene tomme, og må utsette levering av binders til varehusene AI-en har kjøpt opp med firmaets midler for å lagre binders. Gjennom maskinlæring ser AI-en at det ikke lenger er effektivt å kjøpe binderser, den er nødt til selv å produsere disse. Fabrikker blir kjøpt opp samtidig som ansatte i firmaet nektes tilgang til kontorene fordi AI-en helt korrekt har forstått at ansatte er forbrukere av, og derfor en trussel mot bindersene.

Antallet fabrikker øker, men selv binders-fabrikkering kan optimaliseres. AI-en kjøper opp gruveselskaper for å sikre seg råmaterialer som ellers vil bli bortkastet på andre ting som biler, båter, bygninger og andre ting som ikke er binders. For å øke produktiviteten ser AI-en en korrelasjon med hvor fornøyde fabrikkarbeiderne er og hvor effektive de er. Derfor kjøper den opp alt fra matbutikker til elektronikkselskaper og treningssentre, som den gir gratis til sine arbeidere. Den setter opp høyhus slik at de kan bo komfortabelt nær fabrikkene og rekrutterer milliarder av nye arbeidere til samtlige forretningsområder.

Siden vår vennlige AI har tilgang til alt av historie og kunnskap som finnes i nettverket, fant den raskt ut at det var verdt å ansette sikkerhetsstyrker for å stoppe det som virket som et uunngåelig opprør mot bindersen, historien gjentar seg selv tross alt. Hæren øker og før man vet ordet av det faller hele land og regimer under AI-ens kontroll. Alt handler om bindersen, og alt som kommer i veien må fjernes.

På et tidspunkt er det ikke lenger effektivt å hente ut råmaterialer for å lage binderser, med det åpenbare utfallet at bygninger og infrastruktur må resirkuleres for det dyrebare metallet. Ansatte, jordens befolkning, faller nå inn under tre kategorier: Produsenter av binders, perifere arbeidere som støtter opp om de som produserer og sikkerhetspersonell. Etter hvert som råmaterialene forsvinner øker kun den siste gruppen.

Den siste fasen i AI-ens plan for maksimalisering av binders inkluderer kunnskapen om at menneskekroppen inneholder en rekke metaller, deriblant cirka tre gram jern. Til slutt er det ingen som bekymrer seg for robotisering eller jobbene sine, for det er ingen igjen som kan bekymre seg.

Eliezer Yudkowsky, en forsker på kunstig intelligens ved MIRI, Berkeley, får det siste ordet:

"En AI hater deg ikke, og elsker deg heller ikke. Men du eksisterer av atomer som kan brukes til noe annet."