Dette er hvordan Facebooks AI ser etter dårlige ting

Kategori: Kunstig intelligens Lagt ut 29. nov

Sammenhengen: Det store flertallet av Facebooks moderering gjøres nå automatisk av selskapets maskinlæringssystemer, noe som reduserer mengden rystende innhold moderatorene må vurdere. I sin siste rapport om håndhevelse av fellesskapsstandarder , publisert tidligere denne måneden, hevdet selskapet at 98 % av terroristvideoer og bilder fjernes før noen har sjansen til å se dem, enn si rapportere dem.

Så, hva ser vi her? Selskapet har trent maskinlæringssystemene sine til å identifisere og merke objekter i videoer – fra det dagligdagse, som vaser eller mennesker – til det farlige, som våpen eller kniver. Facebooks AI bruker to hovedtilnærminger for å lete etter farlig innhold. Den ene er å bruke nevrale nettverk som ser etter funksjoner og oppførsel til kjente objekter og merke dem med varierende prosentandeler av tillit (som vi kan se i videoen ovenfor).

Trening pågår: Disse nevrale nettverkene er trent på en kombinasjon av forhåndsmerkede videoer fra menneskelige anmeldere, rapporter fra brukere og snart fra videoer tatt av Londons Metropolitan Police. De nevrale nettene er i stand til å bruke denne informasjonen til å gjette hva hele scenen kan vise, og om den inneholder noen atferd eller bilder som bør flagges. Den ga flere detaljer om hvordan systemene fungerer på en pressekonferanse denne uken.

Hva så? Hvis systemet bestemmer at en videofil inneholder problematiske bilder eller atferd, kan det fjerne den automatisk eller sende den til en menneskelig innholdskontroller. Hvis det bryter reglene, kan Facebook deretter lage en hash - en unik tallstreng - for å angi den og spre det gjennom hele systemet slik at annet samsvarende innhold automatisk slettes hvis noen prøver å laste det opp på nytt. Disse hashene kan deles med andre sosiale medier-firmaer, slik at de også kan ta ned kopier av den fornærmende filen.

Disse [Metropolitan Police] videoene er utrolig nyttige for oss. Terrorhendelser er sjeldne, heldigvis, men det betyr at mengden treningsdata er så liten, sa ingeniørsjef Nicola Bortignon under en samtale.

Et svakt punkt: Facebook sliter fortsatt med å automatisere forståelsen av språkets mening, nyanser og kontekst. Det er derfor selskapet er avhengig av at folk rapporterer det overveldende flertallet av mobbings- og trakasseringsinnlegg som bryter reglene: bare 16 % av disse innleggene identifiseres av dets automatiserte systemer. Etter hvert som teknologien utvikler seg, kan vi forvente å se dette tallet øke. Men å få AI til å virkelig forstå språk er fortsatt en av feltets største utfordringer.

Det større bildet: I mars drepte en terrorist 49 mennesker ved to moskeer i Christchurch, New Zealand. Han direktesendte massakren på Facebook, og videoer av den sirkulerte rundt på nettstedet i flere måneder etterpå. Det var en vekker for bransjen. Hvis det skjedde igjen nå, er det større sjanse for at det ville bli fanget opp og fjernet raskere.