Apple vil stoppe overgrepsbilder

Det har blitt kjent at Apple ønsker å utvide sikkerheten for barn i sine tjenester.

Spesifikt gjelder dette billedmateriale i Meldinger-appen som kan være av overgrep. Også Siri- og søketjenesten skal styrkes på dette feltet.

Men personvernsaktivister som EFF og Edward Snowden er skeptiske.

Apple har publisert en redegjørelse for teknologiene som tenkes integrert i iOS 15 for iPhone og iPad samt macOS Monterey som vil lanseres i løpet av denne høsten.

Fremstillingen er teknisk i sin art, og fokuserer på de overordnete aspektene. På den ene siden skal søk på nett og gjennom Siri være kritisk til begreper som kan assosieres med overgrepsmateriale. Mange tjenester og filtere på både maskinvare og tjenester benytter seg av slike løsninger allerede.

Videre er det tenkt at bilder som sendes eller mottas gjennom Meldinger-appen, det vil si både tekst-meldinger og iCloud-bilder (også i billed-basen på nett) skal skannes lokalt. Denne prosessen genererer en hash / kode som man kan matche mot til tilsvarende koder i en database som opprettholdes av amerikanske myndigheter. Det skal benyttes kunstig intelligens for å identifisere potensielt overgrepsmateriale og som etter å ha passert en terskel vil flagges til Apple for kritisk gjennomgang. 

Løsningen skal ikke gå på bekostning av krypteringen av meldings-tjenesten som Apple ellers sier er kryptert fra ende til annen, med andre ord slik at ikke utenforstående kan se innholdet og tilsvarende at Apple heller ikke kan åpne opp innholdet på oppfordring fra myndigheter.

Dette prinsippet gjelder likevel ikke iCloud-billeddatabasen din, som ikke er kryptert. Dette kan heller ikke de-aktiveres. 

EFF og Snowdens påstand er at om man er i stand til å skanne for innhold mot en overgreps-database så er det prinsipielt ingenting i veien for at ikke dette kan modifiseres etter ønske fra regionale menigheter til å matches mot for eksempel også politisk innhold, eller innhold som er lovlig i andre deler av verden men ikke lokalt. 

Til slutt vil systemene også ha innstillinger som er relevante for barn i umyndig alder der disse benytter Apples tjenester gjennom familie-delingen av en iCloud-konto med tilhørende tjenester. For barn under 13 år vil foreldre og foresatte varsles dersom det er potensielt eksplisitt materiale som avdekkes, mens det for tenåringer under 18 år kun vil varsles til disse direkte. Foreldre vil til en viss grad kunne deaktivere slike tjenester. 

Apple sier at tjenestetilbudet vil utvikles og utvides over tid. Amerikanske MacWorld har skrevet mer om saken her. Se et innslag på Dagsnytt18 om teamet her. 

Via Apple