EUs nye merkekrav for KI trer i kraft 2. august

EUs nye merkekrav for KI trer i kraft 2. august, og innebærer at tilbydere både må opplyse brukere når de samhandler med en maskin og merke KI‑generert eller manipulert innhold på en måte som kan leses av maskiner.

Fra 2. august må leverandører av KI‑systemer i EU opplyse brukere når de snakker med en maskin, og legge inn maskinlesbare markeringer i KI‑generert eller manipulert innhold i tråd med nye åpenhetsregler.

Reglene gjelder blant annet chatboter og KI‑agenter, som må være tydelige på hvem – eller hva – brukerne faktisk kommuniserer med.

Kommisjonens veiledning

I forkant av fristen har EU‑kommisjonen lagt fram veiledning om de nye åpenhetsforpliktelsene.

Henna Virkkunen, visepresident i EU‑kommisjonen med ansvar for teknologisk suverenitet, sikkerhet og demokrati, sier at kommisjonen støtter en smidig og effektiv innføring av KI‑forordningen for å gjøre KI‑systemer som samhandler med mennesker, som chatboter og KI‑agenter, og KI‑innhold mer transparente og tillitvekkende.

– Disse retningslinjene skal hjelpe leverandører og brukere av KI‑systemer å oppfylle sine forpliktelser etter KI‑forordningen, samtidig som de hjelper innbyggerne å vite når de samhandler med KI, sier Virkkunen.

Krav til deepfakes og KI‑innhold

Reglene omfatter også KI‑generert eller manipulert tekst som publiseres for å informere offentligheten om spørsmål av allmenn interesse, med mindre innholdet har vært gjenstand for menneskelig gjennomgang eller redaksjonell kontroll, samt systemer for følelsesgjenkjenning og biometrisk kategorisering.

Reglene dekker interaktive KI‑systemer som chatboter, syntetisk lyd, bilder, video og tekst, deepfakes og KI‑generert tekst om forhold av offentlig interesse.

Systemer som utfører standard redigeringsoppgaver, som stavekontroll og grammatikkontroll, er unntatt så lenge de ikke endrer innholdet vesentlig.

KI‑forordningen trer for alvor i kraft

EUs KI‑forordning, den første lovgivningen av sitt slag, trådte i kraft i august 2024, og fastsetter regler for utviklere av teknologien, aktører som integrerer den i sine programvareprodukter, og dem som tar den i bruk.

EU‑kommisjonen, unionens utøvende organ, la fram forslaget til KI‑forordning allerede i 2021, før ChatGPT gjorde generativ KI allment kjent.

Forordningen innførte reglene gradvis, og startet med å forby aktiviteter som biometriske kategoriseringssystemer som hevder å sortere mennesker i grupper basert på blant annet politisk oppfatning, religion, seksuell orientering og etnisitet.

Reglene for generelle KI‑systemer, som ble presset inn i loven på tampen for å sikre at den omfatter generative KI‑modeller som ChatGPT og andre fra OpenAI, trådte i kraft i 2025.

Utsettelser etter bransjeprotester

I mai ble forhandlere for Europaparlamentet og Rådet enige om å utsette deler av forordningen etter måneder med klager fra industrien.

Reglene for selvstendige KI‑systemer med høy risiko skal nå gjelde fra 2. desember 2027, mens kravene til høyrisikosystemer integrert i regulerte produkter er skjøvet til 2. august 2028.