USIKKERT: Kunstig intelligens tas i bruk i stadig flere virksomheter. Det må ikke gå på bekostning av sikkerheten, mener artikkelforfatteren. (Foto: Istock)
USIKKERT: Kunstig intelligens tas i bruk i stadig flere virksomheter. Det må ikke gå på bekostning av sikkerheten, mener artikkelforfatteren. (Foto: Istock)

Unngå at fordelene med KI går på bekostning av it-sikkerheten

I takt med at generativ KI blir stadig mer integrert i våre daglige digitale verktøy, står vi overfor nye utfordringer knyttet til datasikkerhet. For virksomhetens sikkerhetsmedarbeidere er det essensielt å forstå hvordan man kan navigere utfordringene.

Publisert Sist oppdatert

Integrasjonen av generativ KI i våre digitale verktøy gir mange fordeler, men den bringer også med seg betydelige utfordringer knyttet til datasikkerhet. Når vi navigerer i dette nye landskapet, er det avgjørende at både enkeltpersoner og organisasjoner er bevisste på risikoene forbundet med å sende data til eksterne servere. Det kreves en balansert tilnærming der vi erkjenner fordelene ved KI, samtidig som vi aktivt jobber for å beskytte våre data og opprettholde kontroll over våre digitale fotavtrykk. Ved å fokusere på transparens, kontroll og ansvarlig databehandling, kan vi legge forholdene til rette for at fordelene med KI-teknologi ikke går på bekostning av IT-sikkerheten.

Disse teknologiene, som arbeider ved å sende brukerdata til eksterne servere for analyse og forbedring, reiser viktige spørsmål om hvordan vi best kan beskytte sensitiv informasjon og opprettholde kontroll over våre egne data.

Deling innebærer alltid en risiko

Når verktøy som for eksempel Copilot for M365 behandler brukerdata, blir denne informasjonen sendt til servere eid av tredjeparter – som Microsoft. Dette skaper en situasjon hvor sensitive data kan være utenfor direkte kontroll av både individet og organisasjonen. Problemstillingen blir ytterligere komplisert når vi vet at disse prosessene er automatiserte og ikke alltid transparente.

LEDER: Kai Røer leder Praxis Security Lab. (Foto: selskapet)
LEDER: Kai Røer leder Praxis Security Lab. (Foto: selskapet)

Ingen, kanskje med unntak av Microsoft, vet hvordan informasjonen behandles i dag. Men verre; ingen, inklusive Microsoft, vet hvordan denne informasjonen behandles i morgen.

Å sende data til eksterne servere innebærer en risiko for databrudd og uautorisert tilgang. I tillegg er det bekymringer knyttet til hvordan disse dataene kan brukes eller misbrukes av tredjeparter. Dette blir spesielt problematisk i tilfeller hvor dataene inneholder konfidensiell eller sensitiv informasjon.

Må etablere retningslinjer

For å møte disse utfordringene, er det et økende behov for større kontroll og transparens rundt hvordan KI-verktøy behandler og deler data. Dette inkluderer utvikling av mer robuste brukerinnstillinger som lar individer og organisasjoner ha mer direkte kontroll over egne data, samt klarere retningslinjer fra teknologileverandører om databehandling.

Det er essensielt at virksomheter utvikler strategier som tar hensyn til disse sikkerhetsrisikoene. Dette innebærer både implementering av interne retningslinjer for bruk av KI-verktøy og en aktiv dialog med teknologileverandører for å sikre at personvern og datasikkerhet blir prioritert.

Det er mye mer i vente

Når integreringen av generativ KI i våre digitale verktøy bringer med seg utfordringer, er det viktig for sikkerhetsansvarlige å ha en proaktiv og balansert tilnærming. Dette innebærer å forstå teknologien, gjennomføre grundige risikovurderinger, utdanne ansatte, og samarbeide med teknologileverandører. Ved å adoptere en slik tilnærming, kan sikkerhetsfolk effektivt håndtere utfordringene som kommer med KI-verktøy, samtidig som de unngår de negative konsekvensene av å konsekvent si nei til teknologisk innovasjon.

Sikkerhet i KI-æraen krever en kombinasjon av kunnskap, tilpasning, og strategisk tenkning for å sikre at datasikkerhet ivaretas samtidig som organisasjonens evne til fremgang og innovasjon opprettholdes. Det blir ikke mindre viktig i tiden fremover: Generativ KI er bare en liten indikator på hva som kommer de neste ti årene. Bruk tiden nå til å etablere en god, intern beste praksis på hvordan virksomheten analyserer risiko og muligheter når det kommer ny teknologi.

Praktiske tips for sikkerhetsmedarbeidere

  • Forståelse av teknologien: Første steg for sikkerhetspersonell er å ha en grundig forståelse av hvordan KI-verktøy fungerer, spesielt i forhold til datainnsamling og -behandling. Dette inkluderer kunnskap om hvor dataene lagres, hvordan de behandles, og potensielle risikoer forbundet med datalekkasjer.
  • Risikovurdering og tilstrekkelige sikkerhetstiltak: Gjennomfør en detaljert risikovurdering for å identifisere potensielle trusler og sårbarheter knyttet til bruk av KI-verktøy. Basert på denne vurderingen, implementer tilstrekkelige sikkerhetstiltak, som kryptering og tilgangskontroller, for å beskytte sensitive data.
  • Opplæring og bevisstgjøring: Lær opp de ansatte om risikoer og beste praksis knyttet til bruk av KI-verktøy. Dette kan inkludere trening i personvernprinsipper, gjenkjenning av mistenkelig adferd, og prosedyrer for datasikkerhet.
  • Dialog og samarbeid med leverandører: Engasjer i en aktiv dialog med teknologileverandører for å forstå deres datasikkerhetspraksiser. Samarbeid for å sikre at personvern og sikkerhetstiltak blir prioritert og tilpasset organisasjonens behov.
  • Balansert tilnærming til teknologiadopsjon: Unngå en konsekvent negativ tilnærming til nye teknologier. Å si nei til ny teknologi kan hemme organisasjonens evne til innovasjon og effektivitet. I stedet, vurder teknologien på en balansert måte, aksepter de positive aspektene og adresser de negative gjennom informerte strategier.
  • Etablering av intern retningslinjer: Utvikle og implementer interne retningslinjer for bruk av KI-verktøy. Disse retningslinjene bør dekke aspekter som datadeling, personvern, og prosedyrer for å håndtere datalekkasjer eller andre sikkerhetsbrudd.
  • Forstå de ulike ansattes verktøy og oppgaver: KI vil ha ulik påvirkning på ulike oppgaver som salg, markedsføring, HR, finans og produksjon. Forsøk å sette deg inn i hverdagen til ansatte i de ulike gruppene, og tilpass bruk av KI ut fra behov og oppgaver.