Apple forsvarer sin nye teknologi mot overgrep mot barn mot personvernhensyn

Foto av Rebecca Harris på Unsplash





Apple har skrytt av noen få ikoniske annonser i løpet av selskapets 45-årige historie, fra de berømte 1984 Super Bowl-annonse for Mac til selskapets stridslystne 2019 annonsekampanje lover at det som skjer på iPhone forblir på iPhone.

På torsdag, Apple annonserte nye teknologier for å oppdage materiale om seksuelt misbruk av barn (CSAM) rett på iPhones – og plutselig ser det ut til at det som er på iPhone-en din ikke lenger alltid bare forblir der. De kontroversielle nye funksjonene treffer hjertet av bekymringer om personvern, overvåking og teknologiaktiverte forbrytelser.

Apple sier at disse nye funksjonene bevarer personvernet når de bekjemper barnemishandling. For kritikere er imidlertid ikke det største spørsmålet om hva teknologien kan gjøre i dag; det handler om hva det kan bli i morgen.



Vil Apples nye skanneteknologi muliggjøre enda bredere overvåking rundt om i verden? Vil regjeringer begynne å kreve at Apple skanner etter alle slags forbudt innhold på iPhones i deres land?

Apple sier at det nye deteksjonsverktøyet, kalt NeuralHash, kan identifisere bilder av barnemishandling lagret på en iPhone uten å dekryptere bildet. Selskapet sier også at det har implementert flere kontroller for å redusere sjansen for feil før bilder sendes til National Center for Missing and Exploited Children (NCMEC) og deretter til rettshåndhevelse. (For eksempel må skanneren oppdage flere bilder i stedet for bare ett.) Funksjonen vil rulle ut i USA i år.

Google, Microsoft, Dropbox og andre store skytjenester skanner allerede materiale som er lagret på deres servere for materiale om overgrep mot barn, så den generelle forutsetningen er ikke ny. Forskjellen her er at noen av Apples skanninger vil skje på selve iPhone – og Apple hevder at dette er den definerende pro-personvernfunksjonen til den nye teknologien.

I en briefing med journalister på fredag ​​sa Apple at mens andre skytjenester skanner nesten alt deres brukere laster opp, er Apples skanning på enheten ment å kun sende en uleselig hash til selskapet, en kode som identifiserer bilder som viser overgrep mot barn basert på en database vedlikeholdt av NCMEC i stedet for Apple.

Apple har også påpekt at funksjonen kun gjelder personer som laster opp bilder til iCloud (automatiske opplastinger er standardinnstillingen på iPhone, men kan funksjonshemmet ). iCloud-kontoer er foreløpig ikke kryptert, så rettshåndhevelse kan allerede se på dem.



Hvorfor gjør ikke Apple det som andre store teknologiselskaper gjør og skanner bilder når de lastes opp til skyen i stedet for når de fortsatt er på noens telefon? Hvorfor bygge et nytt og komplekst sett med teknologier når det bare kan ta eksisterende teknologi fra hyllevare?

Apples neste trekk

Det er enormt mye vi ikke vet om hva Apple gjør nå og hva som kommer videre. En populær teori er at denne ukens kunngjøring vil være det første av flere trekk i de kommende månedene.

Apples markedsføring har skrytt av personvern i årevis. iPhone var en av de første personlige enhetene som ble automatisk kryptert. iMessage er en av de mest populære meldingsappene med ende-til-ende-kryptering. Men mange Apple-kunder sikkerhetskopierer alt automatisk til iCloud-kontoene sine – og iCloud har aldri blitt kryptert. Så selv i 2019 kunne den berømte iPhone-personvernannonsen ha brukt en liten stjerne.



Regjeringer har i årevis utøvd enormt press på alle teknologiselskaper, inkludert Apple, for å tillate rettshåndhevelse spesiell tilgang til ellers kryptert data for å forhindre det de ser på som den mest avskyelige forbrytelsen. Overgrep mot barn er alltid øverst på listen, tett fulgt av terrorisme. Apples offentlige omfavnelse av kryptering har gjort jobbene til noen politimenn vanskeligere – men det har også gjort noen typer overvåking og maktmisbruk vanskeligere.

Det store smutthullet har alltid vært iCloud. Politiet må jobb hardt for å komme direkte inn i iPhones , men hvis de fleste dataene allerede er på en ukryptert iCloud-konto, vil en arrestordre gjøre susen.

Relatert historie

Hackere finner måter å gjemme seg inne i Apples inngjerdede hage

iPhones låste tilnærming til sikkerhet sprer seg, men avanserte hackere har funnet ut at høyere barrierer er gode for å unngå fangst.

Etter denne ukens kunngjøring tror noen eksperter at Apple snart vil kunngjøre at iCloud vil bli kryptert. Hvis iCloud er kryptert, men selskapet fortsatt kan identifisere materiale om overgrep mot barn, sende bevis videre til politiet og suspendere lovbryteren, kan det lindre noe av det politiske presset på Apple-ledere.

Det ville ikke lindre alle presset: de fleste av de samme regjeringene som vil at Apple skal gjøre mer mot barnemishandling, ønsker også mer handling på innhold relatert til terrorisme og andre forbrytelser. Men overgrep mot barn er et reelt og betydelig problem der store teknologiselskaper stort sett har mislyktes til dags dato.

Apples tilnærming bevarer personvernet bedre enn noen annen jeg er klar over, sier David Forsyth, leder av informatikkavdelingen ved University of Illinois Urbana-Champaign, som gjennomgikk Apples system. Etter min vurdering vil dette systemet sannsynligvis øke sannsynligheten betydelig for at personer som eier eller driver med [CSAM] blir funnet; dette bør bidra til å beskytte barn. Harmløse brukere bør oppleve minimalt eller intet tap av personvern, fordi visuelle derivater avsløres bare hvis det er nok samsvar med CSAM-bilder, og bare for bildene som samsvarer med kjente CSAM-bilder. Nøyaktigheten til matchingssystemet, kombinert med terskelen, gjør det svært usannsynlig at bilder som ikke er kjente CSAM-bilder vil bli avslørt.

Hva med WhatsApp?

Alle store teknologiselskaper står overfor den grufulle virkeligheten med materiale om overgrep mot barn på sin plattform. Ingen har nærmet seg det som Apple.

Som iMessage er WhatsApp en ende-til-ende kryptert meldingsplattform med milliarder av brukere. Som enhver plattform i den størrelsen, står de overfor et stort misbruksproblem.

Jeg leste informasjonen Apple la ut i går, og jeg er bekymret, WhatsApp-sjef Will Cathcart twitret på fredag. Jeg tror dette er feil tilnærming og et tilbakeslag for folks privatliv over hele verden. Folk har spurt om vi vil ta i bruk dette systemet for WhatsApp. Svaret er nei.

WhatsApp inkluderer rapporteringsmuligheter slik at enhver bruker kan rapportere støtende innhold til WhatsApp. Mens egenskapene er langt fra perfekte, rapporterte WhatsApp over 400 000 tilfeller til NCMEC i fjor.

Dette er et Apple bygget og operert overvåkingssystem som veldig enkelt kan brukes til å skanne privat innhold for alt de eller en regjering bestemmer seg for å kontrollere, sa Cathcart i sine tweets. Land der iPhone selges vil ha forskjellige definisjoner på hva som er akseptabelt. Vil dette systemet bli brukt i Kina? Hvilket innhold vil de vurdere som ulovlig der, og hvordan vil vi noen gang vite det? Hvordan vil de håndtere forespørsler fra myndigheter over hele verden om å legge til andre typer innhold på listen for skanning?

I sin orientering med journalister la Apple vekt på at denne nye skanneteknologien så langt bare ble utgitt i USA. Men selskapet fortsatte med å argumentere for at det har en merittliste med å kjempe for personvern og forventer å fortsette å gjøre det. På den måten kommer mye av dette ned på tillit til Apple.

Selskapet hevdet at de nye systemene ikke lett kan misbrukes ved myndighetshandlinger – og understreket gjentatte ganger at å melde seg ut var like enkelt som å slå av iCloud-sikkerhetskopi.

Til tross for å være en av de mest populære meldingsplattformene på jorden, har iMessage lenge blitt kritisert for å mangle den typen rapporteringsfunksjoner som nå er vanlig på det sosiale internett. Som et resultat har Apple historisk rapportert en liten brøkdel av sakene til NCMEC som selskaper som Facebook gjør.

I stedet for å ta i bruk den løsningen, har Apple bygget noe helt annet – og de endelige resultatene er et åpent og bekymringsfullt spørsmål for personvernhauker. For andre er det en velkommen radikal endring.

Apples utvidede beskyttelse for barn er en game changer, sa John Clark, president for NCMEC, i en uttalelse. Realiteten er at personvern og barnevern kan eksistere side om side.

Høy innsats

An optimist vil si at det å aktivere full kryptering av iCloud-kontoer mens man fortsatt oppdager materiale om overgrep mot barn, er både en seier mot misbruk og personvern – og kanskje til og med et dyktig politisk grep som avslører antikrypteringsretorikken fra amerikanske, europeiske, indiske og kinesiske tjenestemenn.

En realist vil bekymre seg for hva som kommer videre fra verdens mektigste land. Det er en virtuell garanti for at Apple vil få – og sannsynligvis allerede har mottatt – oppringninger fra hovedstader når myndighetspersoner begynner å forestille seg overvåkingsmulighetene til denne skanneteknologien. Politisk press er én ting, regulering og autoritær kontroll er en annen. Men den trusselen er ikke ny og er heller ikke spesifikk for dette systemet. Som et selskap med en merittliste for stille, men lønnsomme kompromisser med Kina , har Apple mye arbeid å gjøre for å overtale brukere om deres evne til å motstå drakoniske regjeringer.

Alt det ovennevnte kan være sant. Det som kommer neste vil til slutt definere Apples nye teknologi. Hvis denne funksjonen er bevæpnet av regjeringer for å utvide overvåkingen, så klarer selskapet tydeligvis ikke å oppfylle sine personvernløfter.

gjemme seg