IBMs fotoskrapningsskandale viser hvilken merkelig boble AI-forskere lever i

Kategori: Kunstig intelligens Lagt ut 15. mars

Tirsdag publiserte NBC en historie med en gripende overskrift: Ansiktsgjenkjenningens 'skitne lille hemmelighet': Millioner av nettbilder skrapet uten samtykke. Jeg koblet til det i vår siste algoritme-utgave, men det er verdt et besøk i dag.

Historien fremhever et nylig datasett utgitt av IBM med 1 million bilder av ansikter, ment å bidra til å utvikle mer rettferdige ansiktsgjenkjenningsalgoritmer. (Jeg skrev om nyhetene den gangen også.) Det viser seg, NBC fant, at disse ansiktene ble skrapet direkte fra nettsiden for fotovert Flickr, uten tillatelse fra motivene eller fotografene.

For noen av dere vil denne praksisen umiddelbart føles skummel og rar. For andre vil det virke helt normalt. Hva denne historien avslørte var ikke så mye en skitten liten hemmelighet, men snarere den kulturelle kløften mellom publikum og AI-fellesskapet.

Virkelig, for industriinnsidere gjorde IBM ingenting utenom det vanlige. AI-forskere samler data fra forskjellige hjørner av internett hele tiden for å mate de evig sultne maskinlæringsalgoritmene som krever enorme mengder av det å trene. Instagram-bilder er for eksempel en vanlig kilde til bildedata; hashtaggene samsvarer ofte praktisk med innholdet i bildene, noe som gjør det ekstra enkelt å generere merkede data. New York Times og Wall Street Journal-artikler er også en vanlig datakilde for velskrevne, kopiredigerte setninger. Enda bedre at de er kategorisert etter emne: teknologi, business, sport.

Faktisk er skraping av data fra offentlig tilgjengelige kilder så mye av en bransjestandard at det undervises som en grunnleggende ferdighet (sans etikk) i de fleste datavitenskap og maskinlæringsopplæring. I mellomtiden er de fleste teknologiske plattformer designet for å invitere til slik skraping ved å tilby APIer med direkte tilgang til dataene deres. Inntil nylig ble dette gjort uten ettertanke. (Hei, Facebook.)

Alt dette betyr ikke at skraping av data er riktig eller galt. Det er noen fullstendig godartede eller legitime måter praksisen kan brukes på (se Vi analyserte 16 625 artikler for å finne ut hvor AI er på vei videre); det kommer veldig an på konteksten. Snarere fremhever denne historien behovet for at teknologiindustrien tilpasser sine kulturelle normer og standardpraksis for å holde tritt med den raske utviklingen av selve teknologien, så vel som publikums bevissthet om hvordan dataene deres brukes.

Det er måter å bruke dataene våre på i dag som vi ikke var klar over for fem, 10 år siden, sier Rumman Chowdhury, den globale lederen for ansvarlig AI hos Accenture Applied Intelligence. Hvordan kunne vi [offentligheten] muligens ha gått med på en evne som ikke eksisterte?

Med andre ord kan det en gang ha vært en levedyktig praksis å skrape folks data med glede, og det kan en gang ha vært samtykke nok til at nevnte data ble brukt så lenge de var offentlig tilgjengelige, men fremkomsten av AI og den enestående omfanget av Silicon Valleys datamonopolisering og inntektsgenerering har alle endret ligningen. Teknologer har ansvaret for å endre seg med det og sørge for at det er en bred, informert samfunnsenighet for deres praksis.

Chowdhurys tips til de som sliter med å navigere i de grå områdene av personvern? Tenk på om måten du bruker data på er i den ånden de opprinnelig ble generert og delt i. Hvis du bruker det på en helt tangentiell måte, er det på tide å ta en pause og revurdere.

Denne historien dukket opprinnelig opp i vårt AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, registrer deg her gratis.