211service.com
Hvordan Apple tilpasser Siri uten å samle dataene dine
En kvinne bruker stemmeassistenten på telefonen. Kyonntra/Getty Images
Hvis du har en iPhone, har du kanskje lagt merke til en endring i Siris oppførsel det siste året. Stemmeassistenten på telefonen våkner når du sier Hei Siri, men ikke når den samme frasen kommer fra venner eller familie.
Grunnen til at Apple gjorde dette var fornuftig: de ønsket en måte å forhindre at alle iPhone-ene i et rom reagerer når én person uttaler våknefrasen. Du tror kanskje at Apple må samle inn mye av lyddataene dine for å gjøre dette. Overraskende nok gjør det ikke det.
I stedet er den først og fremst avhengig av en teknikk som kalles federated learning, fortalte Apples personvernsjef Julien Freudiger til et publikum på Neural Processing Information Systems-konferansen 8. desember. Federated learning er en personvernbevarende maskinlæringsmetode som var først introdusert av Google i 2017 . Den lar Apple trene forskjellige kopier av en høyttalergjenkjenningsmodell på tvers av alle brukernes enheter, kun ved å bruke lyddata som er tilgjengelig lokalt. Den sender deretter bare de oppdaterte modellene tilbake til en sentral server for å kombineres til en hovedmodell. På denne måten forlater aldri rålyd av brukernes Siri-forespørsler deres iPhones og iPads, men assistenten blir stadig bedre til å identifisere den rette høyttaleren.
I tillegg til føderert læring, bruker Apple også noe som kalles differensielt personvern for å legge til et ytterligere beskyttelseslag. Teknikken injiserer en liten mengde støy i alle rådata før de mates inn i en lokal maskinlæringsmodell. Det ekstra trinnet gjør det ekstremt vanskelig for ondsinnede aktører å reversere de originale lydfilene fra den trente modellen.
Selv om Apple har vært det ved hjelp av forskjellig personvern siden 2017 har det blitt kombinert med føderert læring kun fra iOS 13, som ble lansert for publikum i september i år. I tillegg til å tilpasse Siri, blir begge teknikkene nå også brukt for noen få andre applikasjoner, inkludert QuickType (Apples personlige tastatur) og Funnet i apper-funksjonen, som skanner kalenderen og e-postappene dine for navn på tekstbehandlere og innringere med nummer ikke er i telefonen din. Freudiger sa at selskapet planlegger å rulle ut personvernmetodene til flere apper og funksjoner snart.
Det siste året har føderert læring blitt stadig mer populært i AI-forskningsmiljøet ettersom bekymringene for personvernet har vokst. I mars, Google utgitt et nytt sett med verktøy for å gjøre det enklere for utviklere å implementere sine egne fødererende læringsmodeller. Blant mange andre bruksområder håper forskerne at det vil bidra til å overvinne personvernutfordringer i bruken av AI i helsevesenet. Selskaper inkludert Owkin, Doc.ai og Nvidia er interessert i å bruke det på denne måten.
Mens teknikken fortsatt er relativt ny og trenger ytterligere foredling, tilbyr Apples siste adopsjon en annen casestudie for hvordan den kan brukes i stor skala. Det markerer også et grunnleggende skifte i avveiningen teknologiindustrien tradisjonelt har antatt mellom personvern og nytte: faktisk er det nå mulig å oppnå begge deler. La oss håpe at andre selskaper raskt tar tak.
For å få flere historier som dette levert direkte til innboksen din, meld deg på vårt Webby-nominerte AI-nyhetsbrev The Algorithm. Det er gratis.