Open AI lanserer ny avdeling for risikoene ved superintelligent AI
Selskapet vil bruke 20 prosent av prosessorkraften sin de neste fire årene på å forhindre at superintelligent AI forårsaker skade.
Open AI har nå opprettet en ny forskningsavdeling for verdiorientering som vil fokusere på å utvikle treningsteknikker som skal forhindre at en superintelligent AI, altså en AI som kan overliste mennesker og ikke nødvendigvis følger menneskelig etikk, forårsaker alvorlig skade.
– For øyeblikket har vi ikke en løsning for å kontrollere eller kontrollere en potensiell superintelligent AI og forhindre den fra å gjøre hva den vil, skriver Jan Leike og Ilya Sutskever på Open AI i et blogginnlegg.
De skriver at mens superintelligent AI forventes å være langt unna, tror noen eksperter at det kan dukke opp så tidlig som dette tiåret.
