KOMMENTAR: Hans-Petter N.-Hansen
Nysgjerrighet uten dømmekraft er dårlig teknologiledelse
Meta sine KI-briller viser hvor fort teknologisk nysgjerrighet kan bli forvekslet med god ledelse. For dette handler ikke først og fremst om briller, dingser eller hvem som liker å teste ny teknologi. Det handler om hva som skjer når kamera, mikrofon, kunstig intelligens og plattformmakt flytter fra mobilskjermen og inn i ansiktet vårt.
Publisert
Hans-Petter Nygård-Hansen
Hans-Petter Nygård-Hansen er teknologihumanist, forfatter og foredragsholder med fokus på teknologiens påvirkning på mennesker, samfunn og arbeidsliv. Han er fast kommentator i Computerworld.
LES OGSÅ:
Norske ledere liker å fremstå nysgjerrige på ny teknologi. Det bør de også være. Ingen virksomheter kan forstå kunstig intelligens, automatisering eller nye digitale brukergrensesnitt ved å stå på utsiden og mene noe på avstand.
Men nysgjerrighet er ikke nok.
I møte med teknologi som samler inn data, analyserer omgivelser, påvirker adferd og kan skaleres globalt på sekunder, blir spørsmålet om dømmekraft langt viktigere enn spørsmålet om hvem som er først ute. Det gjør debatten om Meta sine KI-briller større enn den kan virke ved første øyekast. Den handler ikke bare om et nytt forbrukerprodukt fra Meta, men om hvordan vi som samfunn, virksomheter og ledere møter teknologi som gradvis gjør overvåking sosialt usynlig og til slutt normalisert.
Kameraet har flyttet inn i ansiktet
Det vanligste forsvaret for smartbriller er at de egentlig ikke gjør noe nytt. Mobiltelefonen har også kamera og mikrofon. Folk filmer allerede hele tiden. Teknologien er her uansett. Vi må være nysgjerrige. Vi må teste. Vi må forstå. Alt dette er delvis riktig. Men det er også altfor enkelt. Mobiltelefonen må løftes. Den må holdes. Den må rettes mot noen. Opptakshandlingen er synlig. Den som blir filmet, har i det minste en mulighet til å oppfatte hva som skjer.
Smartbrillene gjør noe annet. De flytter kameraet fra hånden til blikket. Selv om det kan høres ut som en liten teknisk forskjell, er det sosialt en stor endring. For alle rundt brukeren oppstår en ny og permanent usikkerhet: Blir jeg sett på, filmet, tatt opp, analysert, lagret eller brukt som treningsdata? Det lille lyset i brillen er ikke et aktivt samtykke. Det er heller ingen garanti for at folk rundt forstår hva som skjer. Særlig ikke når teknologien er designet for å gli inn i det normale, som mote, livsstil, sportsbriller, solbriller og etter hvert vanlige briller med styrke.
Det er nettopp denne normaliseringen som gjør teknologien krevende. Først virker brillene rare. Så blir de litt irriterende. Deretter blir de vanlige. Til slutt er det den som reagerer som fremstår vanskelig. Slik flyttes grensene. Slik blir overvåkingen den nye normalen.
Personvern handler mest om alle andre
I teknologidebatten blir personvern ofte omtalt som brukerens forhold til egne data. Det er for snevert. Med smartbriller handler personvern i like stor grad om alle andre. Om kilden som møter en journalist. Barn i skolegården. Ansatte i et internt møte. Pasienter på et venterom. Kvinner på treningssenteret. Politikere i en fortrolig samtale. Den tilfeldige forbipasserende som ikke aner om ansiktet, stemmen eller kroppen hennes blir fanget opp av et produkt som er koblet til Meta sin infrastruktur.
Dette er klassisk asymmetri i plattformøkonomien. Brukeren får bekvemmeligheten. Alle rundt får risikoen.
Dette er klassisk asymmetri i plattformøkonomien. Brukeren får bekvemmeligheten. Alle rundt får risikoen. For arbeidsgivere, redaksjoner, skoler, kommuner, sykehus og offentlige virksomheter er dette ikke en filosofisk problemstilling, men et konkret styringsspørsmål. Hvor kan slike briller brukes? Hvor bør de forbys? Hvem har ansvar hvis ansatte, kunder, pasienter eller kilder blir tatt opp uten reelt samtykke? Hvordan skal virksomheter dokumentere etterlevelse av personvernregelverket når teknologien sitter i ansiktet på enkeltpersoner?
Dette er spørsmål som ikke kan overlates til den enkelte teknologientusiast, leder eller ikke.
Meta må vurderes som Meta
Det er også naivt å behandle Meta som en hvilken som helst produsent av forbrukerelektronikk. Meta er et av verdens mektigste infrastrukturselskaper for oppmerksomhet, adferdsdata, reklame, sosial distribusjon, manipulasjon, svindel og politisk påvirkning. Selskapet har bygget sin forretningsmodell på innsamling, analyse og kommersiell utnyttelse av menneskelig adferd. Da holder det ikke å vurdere KI-brillene isolert fra selskapets historikk, forretningsmodell og maktposisjon.
Det betyr ikke at all teknologi fra Meta er verdiløs. Det betyr heller ikke at alle som tester produktene, gjør noe galt. Men det betyr at ledere bør stille strengere spørsmål enn om teknologien er praktisk, morsom eller imponerende. Hva slags datainfrastruktur bidrar vi til å normalisere? Hvilke sosiale situasjoner endrer vi? Hvem påføres risiko uten å ha valgt teknologien selv? Hva skjer når denne produktkategorien modnes og kobles tettere på ansiktsgjenkjenning, generativ KI, sanntidsoversettelse, søk, identifisering og personalisering?
Det er her dømmekraften må inn.
Teknologiledelse krever grenser
Teknologiutviklingen stopper ikke fordi vi misliker den. Men den får en annen retning hvis flere tør å sette grenser tidlig nok. Norske virksomheter bør derfor ikke vente til smartbriller blir vanlige før de lager retningslinjer. Arbeidsgivere bør allerede nå avklare om slike briller kan brukes i møter, kundesamtaler, interne prosesser, produksjonsmiljøer, skoler, helsebygg, rettslokaler, garderober, svømmehaller og andre sensitive miljøer.
Redaksjoner bør ha egne regler for bruk av smartbriller i journalistiske sammenhenger, særlig i møte med kilder.
Redaksjoner bør ha egne regler for bruk av smartbriller i journalistiske sammenhenger, særlig i møte med kilder. Offentlig sektor bør vurdere hvor teknologien er uforenlig med tillit, trygghet og borgernes rett til å bevege seg uten å bli analysert. Butikker og teknologiforhandlere bør få tydelige informasjonskrav, slik at forbrukere forstår ikke bare hva de kjøper, men også hva de påfører andre.
Og politikerne bør vurdere om kommersiell ansiktsgjenkjenning i offentligheten må forbys før teknologien rekker å bli en standardfunksjon i produkter folk går rundt med i ansiktet. Det er det ansvarlig teknologiledelse handler om.
Dømmekraft blir konkurransekraft
De siste årene har alle snakket om hvor viktig det er å være nysgjerrig på kunstig intelligens. Det er riktig, men utilstrekkelig. Fremover blir ikke de beste lederne nødvendigvis de som tester mest teknologi først. Det blir de som forstår konsekvensene best. For i en tid hvor kunstig intelligens flytter inn i stadig flere produkter, prosesser og sosiale situasjoner, blir dømmekraft en konkurransekraft. Ikke bare økonomisk, men også juridisk, etisk og omdømmemessig. Tempo uten dømmekraft er en dårlig ledelsesfilosofi.
Meta sine KI-briller bør derfor behandles som mer enn et forbrukerprodukt. De bør behandles som et tidlig varsel om en ny fase i digitaliseringen, der teknologien ikke lenger bare ligger i lomma, på pulten eller i skyen, men på kroppen, i blikket og midt i relasjonen mellom mennesker. Da holder det ikke å være nysgjerrig.
Vi må også være villige til å si nei, sette grenser og stille krav før teknologien blir så normal at det er motstanden som fremstår unormal.
