En AI-alliert for å bekjempe mobbing i virtuelle verdener

Saiman Chow

I ethvert fiksjonalisert univers kan skillet mellom leken motsetning og alvorlig trakassering være vanskelig å skjønne. Å kalle navn mellom venner som spiller et videospill sammen er ofte en form for kameratskap. Mellom fremmede antar imidlertid lignende ord en annen, mer plagsom kvalitet. Å kunne skille mellom de to er avgjørende for enhver videospillprodusent som ønsker å fremme et innbydende fellesskap.

Spirit AI håper å hjelpe utviklere med å støtte spillere og motvirke mobbeatferd med et misbruksdeteksjons- og intervensjonssystem kalt Ally. Programvaren overvåker interaksjoner mellom spillere – hva folk sier til hverandre og hvordan de oppfører seg – gjennom tilgjengelige handlinger i et spill eller en sosial plattform. Den er i stand til å oppdage verbal trakassering og også ikke-verbal provokasjon – for eksempel at en spiller forfølger en annens avatar eller misbruker rapporteringsverktøy.

Vi ser på interaksjonsmønstre, kombinert med klassifiseringer for naturlig språk, i stedet for å stole på en liste med individuelle nøkkelord, forklarer Ruxandra Dariescu, en av Allys utviklere. Trakassering er et nyansert problem.

Når Ally identifiserer potensielt fornærmende atferd, sjekker den om den potensielle overgriperen og den andre spilleren har hatt tidligere interaksjoner. Der Ally skiller seg fra eksisterende modereringsprogramvare er at i stedet for bare å sende et varsel til spillets utviklere, er det i stand til å sende en datastyrt virtuell karakter for å sjekke inn med spilleren – en som gjennom Spirit AIs naturlige språkverktøy er i stand til å samtale i spillets tone og stil (se A Video-Game Algorithm to Solve Online Abuse ).

Relatert historie

Les Neste Hvordan et team av psykologer og forskere ved Riot Games låser opp hemmeligheten bak å eliminere misbruk i et nettbasert videospill.

Allys bot kan si: Jeg la merke til at du og Player 42 ser ut til å være fremmede. De kan ha sagt noe upassende til deg, så jeg ville bare sjekke om du har det bra? Spilleren kan da svare på boten, sier Dariescu. Hvis interaksjonen avvises som vennlighet, registrerer systemet dette og oppdaterer reglene slik at det ikke vil gripe inn over lignende oppførsel i fremtiden. Hvis brukeren føler seg misbrukt, griper systemet inn overfor den skyldige.

Ally er kompatibel med alle nettspill, og Spirit AI jobber med å legge til muligheter til politiets oppførsel i virtuelle virkelighetsspill (se The War on the Disturbingly Real Trolls in Virtual Reality ). Verktøyet kan konfigureres på en rekke måter for å samhandle med spillere og utføre ulike typer handlinger. Spirit AI ser på Ally som en måte å utvide et spills fellesskapsledelse, som kan overvåke aktivitet i et dashbord.

Selskapet, som ble offisielt dannet i 2016 og for tiden har en stab på 15, vil ikke avsløre hvilke spillutviklere det jobber med, men programvaren har vakt oppmerksomhet i spillverdenen. På det enkleste nivået kan AI-støttede fellesskapsadministrasjonsverktøy utvide teamets rekkevidde, sier Imre Jele, en veterandesigner av store online flerspillerspill som RuneScape. Men det jeg er mest begeistret for er AI-systemer som går utover å identifisere og straffe regelbrytende atferd. Til syvende og sist bør målet for disse AI-teammedlemmene være å komme seg ut av politiarbeidet og inn i å forme positive interaksjoner og bygge sunnere samfunn.

Relatert historie

Les Neste Når du føler at du virkelig er inne i en virtuell kropp, er det viktig å beskytte ditt personlige rom.

Spirit har absolutt til hensikt at programvaren skal tilby mer enn bare en digitalisert politistyrke som kan kalles inn i nettspill. Vi har identifisert potensialet for at denne teknologien ikke bare forhindrer dårlig oppførsel, men også oppmuntrer til god, prososial oppførsel, sier Dariescu. Programvaren kan også bruke ambient avlytting for å identifisere bredere problemer som spillere kan ha med et spills design, og gi innsikt til utvikleren om hvordan den generelle spilleropplevelsen kan forbedres.

Det er imidlertid begrensninger når det gjelder AI-intervensjoner i tilfeller av trakassering, ifølge Jele. Mange interaksjoner mellom fellesskapsledelse og spillerstøtteteam krever dyp empati og sympati, sier han: Spillerne støttet utviklerne med pengene sine og fortjener best mulig omsorg, som bare mennesker kan gi for øyeblikket.

gjemme seg