AI-UTFORDRINGER: Kunstig intelligens byr på personvernutfordringer, fastslår Europarådet på Personverndagen. (Ill.: Pixabay.com)

AI-UTFORDRINGER: Kunstig intelligens byr på personvernutfordringer, fastslår Europarådet på Personverndagen. (Ill.: Pixabay.com)

Frykter at AI vil true personvernet

Europarådet er redd for at kunstig intelligens kan svekke personvernet og har nå kommet med nye retningslinjer om AI.

De nye retningslinjene ble publisert på den såkalte Personverndagen 28. januar.

«Data Protection Day», forkortet DPD, er nå markert for 13. år på rad. Hensikten med markeringen er å gjøre folk flest oppmerksom på rettighetene de har når det gjelder håndtering og beskyttelse av data om dem selv.

Datoen er knyttet til undertegningen i 1981 av Europarådets 108-konvensjon om personvern i forbindelse med elektronisk databehandling av personopplysninger.

Utenfor Europa kalles dagen for «Privacy Day». Her i Norge er navnet Personverndagen, som Datatilsynet og Teknologirådet markerte med seminar og debatt.

Personvernet i faresonen

De nye retningslinjene fra Europarådet skal bistå politikere, myndigheter, utviklere, produsenter og tjenesteytere i å påse at løsninger basert på kunstig intelligens – Artificial Intelligence (AI) – ikke underminerer personvernet.

Europarådet mener det er viktig av hensyn til menneskerettighetene, og spesielt retten til beskyttelse av personvernet, at utviklingen av AI-applikasjoner og AI-løsninger baserer seg på prinsippene i den oppdater 108-konversjonen. Denne ble oppdatert i fjor og var klar for undertegnelse 10. oktober 2018.

Det er særlig når AI brukes i beslutningsprosesser at det er maktpåliggende å påse at personvernet blir ivaretatt, ifølge Europarådet. Blant punktene i de nye retningslinjene er at alle som blir involvert i prosesser der kunstig intelligens benyttes, skal orienteres om det.

Norsk AI-satsing i fokus

Kunstig intelligens forventes å føre til gjennomgripende forandringer på mange plan i årene som kommer. Europakommisjonen la i desember i fjor frem en samordnet plan for å fremme utviklingen og bruk av kunstig intelligens i Europa.

Her ble det foreslått et tettere og mer effektivt samarbeid mellom Europakommisjonen, EU-landene, Sveits og Norge, og Norge ble trukket fram som et land som har gitt utvikling og bruk av AI høy prioritet.

Milliarder til AI-utvikling

Handlingsplanen viser at AI bokstavelig talt er «stort». Planen forutsetter samordning av investeringer på minst 20 milliarder euro (nærmere 195 milliarder kroner) i offentlige og private midler frem til utgangen av 2020, og mer enn 20 milliarder euro årlig det neste tiåret. Disse midlene skal blant annet brukes til å utvikle testanlegg for å prøve ut AI teknologi. Eksempler som trekkes fram, er grensekryssende automatiske kjøretøy og utprøving av automatisk frakt.

Teknologirådet i Norge kom i fjor høst også med en plan for utvikling av kunstig intelligens i Norge. Her ble det påvist at folk flest allerede i dag bruker AI, blant annet når vi søker på nettet, navigerer i trafikken, oversetter tekster, bruker talekommandoer på smarttelefonen eller filtrerer bort useriøst epost.

DAGEN: Personverndagen har mange navn rundt omkring i Europa og kalles også for Databeskyttelsesdagen. (Ill.: Europarådet)
DAGEN: Personverndagen har mange navn rundt omkring i Europa og kalles også for Databeskyttelsesdagen. (Ill.: Europarådet)

Teknologirådet tok for seg at det er knyttet mange utfordringer til måten maskiner lærer på. For eksempel ble faren for «fordomsfulle algoritmer» nevnt, det vil si at dataene som maskinene lærer av, kan speile skjeve forhold i samfunnet og at datamaskinene derfor tar fordomsfulle beslutninger. Et eksempel er systemer som vurderer jobbsøknader. Når algoritmene trenes på data fra tidligere ansettelser, vil de kunne preges av skjeve valg og praksis fra intervjurundene, het det.

Maskinlæring kan også brukes til å gjøre ondsinnede angrep bedre og mer effektive, påpekte Teknologirådet, som tok til orde for å utvide praksisen med innebygd personvern.

Personvern