DEBATT | Adam Boynton
KI-drevet stemmekloning er en alvorlig IT-sikkerhetsrisiko
Mange virksomheter overser noen av de største IT-sikkerhetsrisikoene som følger av at KI blir en naturlig del av ansattes hverdag og kontakt med kunder og partnere. En av de mest alvorlige risikoene som ennå ikke har fått mye oppmerksomhet, er KI-drevet stemmekloning.
Det har vært allment akseptert at en gjenkjennelig stemme kan fungere som en form for verifisering, men etter hvert som KI-drevet stemmekloning har blitt stadig mer sofistikert og tilgjengelig, bør dette være et avsluttet kapittel.
I dag kan en overbevisende stemmekloning lages basert på bare noen få sekunder med lyd som er offentlig tilgjengelig, eksempelvis et opptak fra en konferanse eller et statusmøte. I tillegg er verktøyene for stemmekloning svært rimelige.
Virksomheter bør ikke forberede seg på masseangrep, men i stedet sette søkelys på to spesifikke og utbredte metoder. Det ene er den økonomiske godkjenningen, i praksis en hastesamtale fra en representant for toppledelsen. Den andre er IT-helpdesk resets, hvor det eneste man blir presentert for er en gjenkjennelig stemme. I slike tilfeller kan virksomheter innføre en fast prosedyre for out-of-band-verifisering av alt som flytter penger eller gir tilgang. I tillegg bør man være ekstra oppmerksom på ansattes mobiltelefoner – for det er der samtalene havner.
Undervurderer sikkerhetsrisikoer
En annen ting mange overser, er når KI fungerer mer som en infrastruktur enn en applikasjon. Man bør være klar over at en KI-agent ikke er en app som kan stenges ned og pakkes bort. En KI-agent fungerer akkurat som brukeren, og KI-agenten «arver» alle tilganger og tillatelser brukeren har. KI-agenter vil i økende grad dukke opp i apper som aldri har blitt anskaffet av en ansatt som KI-verktøy, men som har blitt levert gjennom et programvareutviklingssett – uten forhåndsgodkjenning fra IT-avdelingen.
Jeg ser ofte at virksomheter undervurderer sikkerhetsrisiko når de raskt implementerer KI-verktøy. Det første problemet er å undervurdere hvor mye som allerede har skjedd før man begynner å snakke om styring. De fleste programmer ender opp med å administrere verktøyene som har gått gjennom innkjøpsprosessen.
Det andre problemet er at ledelsen ofte antar at eksisterende systemer og verktøy kan overvåke KI-drevet trafikk. Men en proxy, en CASB eller en EDR-agent kan ikke pålitelig fange opp KI som er kryptert, kjører på enheten eller er innebygd i appens egen kode. Enheten er det eneste stedet å se hva som faktisk er i bruk.
Det tredje problemet er rekkevidden. Nesten alle KI-governance-programmene jeg ser starter og stopper med den ansattes PC. Dette skjer til tross for at den ansattes mobil har samme tilgang til virksomhetens systemer, men ingen av de samme kontrollene.
Velg den gylne middelveien
Så hvordan kan virksomheter gi ansatte nødvendig frihet til å bruke KI uten å miste kontrollen over data, enheter og sikkerhet? Nøkkelordet er styring. Og styring handler om hvordan man sier ja. Å blokkere bruken av KI er ikke løsningen. Ved å blokkere KI, vil bare bruken av KI flyttes til personlige enheter og kontoer, som det ikke er noen åpenhet om. Derfor vil en rigid tilnærming ofte gi virksomheten mindre kontroll enn det først ser ut til.
Man bør ta en bevisst beslutning om en pragmatisk tilnærming i hvert tilfelle, og den pragmatiske tilnærmingen er å velge den gylne middelveien.
Man bør ta en bevisst beslutning om en pragmatisk tilnærming i hvert tilfelle, og den pragmatiske tilnærmingen er å velge den gylne middelveien, der tilgangen godkjennes, men begrenses. Sørg for at du vet hva som er i bruk, la reglene være knyttet til de individuelle enhetene i stedet for å prøve å kontrollere hvert enkelt KI-verktøy. Og husk å klargjøre hva som er tillatt og hva som ikke er det.
I tillegg er det viktig å bestemme hvem som eier virksomhetens bruk av KI og fokusere på tidsfrister, fordi timing kan være avgjørende i forhold til reglene som regulerer bruken av KI. EUs AI Act artikkel 50 om åpenhet har vært i kraft siden 2. august, og selv om Digital Omnibus har flyttet fristen for Annex III til 2. desember 2027, er dette mer en endring i tidsplanen enn en lettelse. KI må fortsatt sees som et kontrollpunkt for styring og behandles deretter.
