Klarer vi å kontrollere kunstig superintelligens?

Datamaskinen begynte som en avansert regnemaskin med bedre evner enn oss til å regne og ikke så mye annet. Den er nå bedre enn oss på et stort og økende antall områder. Ikke minst imponerende er kunstig intelligens programmet IBM Watson, som i 2011 vant Jeopardy mot tidligere mestere. Utviklingen av IBM Watson viste tydelig datamaskinens fordeler sammenlignet med den menneskelige hjerne. En datamaskin kan gjøre flere kalkulasjoner i sekundet enn menneskehjernen, selv når vi inkluderer kalkulasjoner i den ubevisste delen av hjernen vår. Den kan huske bedre, orke mer, være bedre på å analysere i parallell og kan koble seg opp mot flere informasjonskilder. Ledelsen på alle disse områdene er økende.

Datamaskinens evne til å lære fra erfaring skiller dagens tilnærminger  fra de tidlige forsøkene på å oppnå kunstig intelligens, ofte i form av ekspertsystemer. Vi fokuserer ikke lenger på å lage datamaskiner som etteraper menneskelig intelligens eller ekspertenes vurderinger, selv om dette fortsatt er inspirasjonskilder. I stedet programmeres datamaskinene til å lære av egne og andres erfaringer og bruke algoritmer som passer for hvordan datamaskiner best prosesserer informasjon. Noen av de nye algoritmene for dette, ofte betegnet som ”dyp læring”, har gjort at datamaskinens evne til å lære har økt betraktelig i de senere årene. Dette ble tydelig da kunstig intelligens programmet AlphaGo i år slo verdens beste Go-spiller (Go er et brettspill, med flere trekkmuligheter enn sjakk), mange år før man hadde trodd dette ville skje. Da AlphaGo hadde spilt ett år hadde den lært nok til å være en god amatør, etter ytterligere seks måneder var den blant de beste tusen i verden, for deretter å slå verdens beste Go-spiller få måneder senere. Lærende dataprogrammer er langt fra en ny oppfinnelse, men de oppnådde resultatene har før AlphaGo vært relativt beskjedne. Programmene til AlphaGo og IBM Watson brukes nå til å stille diagnoser innen helse. Dette tyder på at vi nærmer oss programmer med generell evne til å lære, med andre ord med generell intelligens.

Om utviklingen med lærende dataprogrammer fortsetter er det kun et spørsmål om tid før datamaskinen er like intelligent og deretter mye mer intelligent enn oss. Spørsmålet da er om datamaskiner mer intelligente enn oss vil bestemme vår skjebne, slik vi i dag bestemmer sjimpansens, eller om vi vil klare å kontrollere dem.

Müller og Bostrom publisert tidligere i år en undersøkelse av hva kunstig intelligens-forskerne selv mener om fremtiden (”Future progress in artificial intelligence: A survey of expert opinion”, philpapers.org/archive/MLLFPI.pdf). Et av spørsmålene de stilte var hvilket år forskerne trodde det var sannsynlig at datamaskinens intelligens vil være på nivå med menneskets på de fleste områder. Middelverdien for 50% sannsynlig at dette ville skje var året 2040. Nesten alle forskerne mente at det bare var et spørsmål om når datamaskinens intelligens ville være på nivå med menneskets på de fleste områder, ikke om dette ville skje.

Deretter ble forskerne spurt om hvor mange år etter at datamaskinen hadde intelligens på nivå med mennesket det ville ta før de var vesentlig mer intelligente mennesker på de fleste områder. I snitt mente forskerne at det var 75% sannsynlig at denne kunstige superintelligensen ville finnes allerede 30 år etter at datamaskinen var på menneskets nivå for de fleste oppgaver. Forskerne mente i snitt at vi ville ha kunstig superintelligens rundt 2070-2080.

På spørsmålet om de sannsynlige konsekvensene av kunstig superintelligens sprikte oppfatningene mye. De fleste mente at konsekvensene mest sannsynlig ville være gode for menneskene, men også at det var en betydelig sannsynlighet (snitt på 18%) for at det ville gå katastrofalt galt. Deres bekymringen over at vi ikke vil kunne kontrollere kunstig superintelligens deles av flere.

Bill Gates, gründer av Microsoft, skal ha hevdet at han ikke skjønner folk som ikke er bekymret over hva som vil skje når datamaskinene blir smartere enn oss. Fysikeren Stephen Hawking har uttalt at kunstig intelligens vil kunne være menneskehetens største men også siste oppfinnelse. Tesla-gründer Elon Musk har gitt 10 mill USD til forskning på hvordan vi skal unngå at kunstig intelligens vil skade oss.

Det er verdt å merke seg at få om noen tror at kunstig superintelligens vil være i form av menneskelignende roboter med mål om å overta verdensherredømme. Kunstig superintelligens vil verken være ond eller god (selv om den klart kan brukes med onde hensikter). Det vil være lærende dataprogrammer, lokalisert et eller annet sted i cyberspace, med definerte mål. Problemene oppstår når superintelligente datamaskiner finner løsninger som ikke var tilsiktet av programmereren og som gjør stor skade. Å kontrollere noe som er mye mer intelligent enn oss har vi har ingen erfaring med. Mennesket har brukt sin evolusjonært frembrakte overlegne intelligens til å dominere verden. Hva vil en superintelligent datamaskin kunne finne på å gjøre, kanskje utilsiktet, og hvordan skal vi klare å lage sikker og vennligsinnet kunstig superintelligens?

Mange vil her hevde at de har hørt disse dystre utsiktene flere ganger før og at dagens kunstig intelligens er lysår unna generell menneskelig intelligens, for ikke å snakke om superintelligens. Nobelprisvinner Herbert Simon uttalte i 1965 at datamaskiner innen 20 år vil kunne gjøre alt arbeid mennesker kan gjøre. Han tok, i likhet med mange andre som har spådd om fremtiden til kunstig intelligens, feil. Noe av det fremste innen dagens kunstig intelligens på samtale med mennesker, som Apples Siri og såkalt chatbots (der du kan ha en samtale med en datamaskin), misforstår svært mye og oppleves ikke å være særlig intelligente. Selv her har det imidlertid vært stor fremgang de senere årene.

Hvilke argumenter brukes av de som tror at vi aldri, eller i hvert fall ikke på svært, svært lenge, vil få kunstig superintelligens? De beste motargumentene synes å være at veien til kunstig superintelligens er lang og at det kan dukke opp vesentlig hindre som vi i dag ikke ser.

Skeptikerne har sikkert rett i at estimatene for når vi vil få kunstig superintelligens er svært usikre. Men det er kanskje ikke særlig beroligende at ingen ser noe fundamentalt som vil stoppe utviklingen mot kunstig superintelligens. En rimelig sikker prediksjon er derfor at temaet sikker og vennligsinnet kunstig intelligens vil få økende relevans i årene fremover, etter hvert som datamaskinen blir mer og mer intelligent.