Facebook bruker roboter for å simulere hva brukerne kan gjøre

Kategori: Kunstig intelligens Lagt ut 15. april

Facebook har utviklet en ny metode for å spille ut konsekvensene av koden sin.

Sammenhengen: Som ethvert programvareselskap, må teknologigiganten teste produktet sitt hver gang det sender oppdateringer. Men den slags feilsøkingsmetoder som bedrifter i normal størrelse bruker er egentlig ikke nok når du har 2,5 milliarder brukere. Slike metoder fokuserer vanligvis på å sjekke hvordan en enkelt bruker kan oppleve plattformen og om programvaren reagerer på de individuelle brukernes handlinger som forventet. Derimot dukker så mange som 25 % av Facebooks store problemer opp bare når brukere begynner å samhandle med hverandre. Det kan være vanskelig å se hvordan introduksjonen av en funksjon eller oppdateringer av en personverninnstilling kan spille ut på tvers av milliarder av brukerinteraksjoner.

SimCity: Som svar, Facebook bygget en nedskalert versjon av plattformen sin å simulere brukeratferd. Kalt WW, hjelper det ingeniører med å identifisere og fikse de uønskede konsekvensene av nye oppdateringer før de distribueres. Den anbefaler også automatisk endringer som kan gjøres på plattformen for å forbedre fellesskapsopplevelsen.

Bot dobbeltgjengere: Facebook simulerer hundrevis til tusenvis av brukerne sine samtidig med en blanding av hardkodede og maskinlæringsbaserte roboter. Sistnevnte trenes ved hjelp av en forsterkningslæringsalgoritme, som lærer gjennom prøving og feiling å optimalisere oppførselen deres i lys av et eller annet mål. Robotene blir deretter laget for å spille ut forskjellige scenarier, for eksempel en svindler som prøver å utnytte andre brukere eller en hacker som prøver å få tilgang til noens private bilder. I et svindelscenario, for eksempel, får svindlerrobotene målet om å finne de beste målene å svindle. Målrobotene, derimot, er hardkodet med den vanligste sårbare atferden som vises av brukere. Hvert scenario kan ha bare noen få roboter som spiller dem ut, men systemet er designet for å ha tusenvis av forskjellige scenarier som kjører parallelt.

Automatisk design: Mens scenariene spiller ut, justerer systemet automatisk forskjellige parametere i simuleringen, for eksempel robotenes personverninnstillinger eller begrensningene for handlingene deres. Med hver justering evaluerer den hvilken kombinasjon av parametere som oppnår den mest ønskede fellesskapsatferden, og anbefaler deretter den beste versjonen til Facebooks plattformutviklere.

Skjult for syne: For å lage en så realistisk simulering som mulig, er WW faktisk bygget direkte på live-plattformen i stedet for en separat testversjon – en annen viktig forskjell fra de fleste testopplegg. Robotene holder seg imidlertid bak kulissene. Mens en typisk bruker samhandler med Facebook gjennom et front-end-brukergrensesnitt, for eksempel en profil og andre nettstedsfunksjoner, kan falske bot-brukere samhandle direkte med back-end-koden. Dette lar dem sameksistere med ekte brukere og mer nøyaktig simulere forskjellige scenarier på plattformen uten at disse brukerne feilaktig samhandler med dem også.

Fremtidens perfekt: Akkurat nå bruker selskapet det til å teste og forbedre funksjoner som vil gjøre det mye vanskeligere for dårlige skuespillere å bryte plattformens retningslinjer for fellesskapet. Men den ser også andre potensielle applikasjoner for systemet, for eksempel å teste hvordan plattformoppdateringer kan påvirke engasjement og andre beregninger.