Oppfattende algoritmer kjemper for å oppdage mer av nettets giftige innhold

Kategori: Ukategorisert Lagt ut 20. desember

En ny konkurranse kan bidra til å rydde opp på Internett. Kaggle, et nettsted som lar organisasjoner kjøre datavitenskapskonkurranser, avslørte nettopp sitt siste prosjekt, som ber konkurrenter om å bygge AI-er som oppdager giftige kommentarer .

Konkurrenter blir bedt om å bygge et system som kan takle ulike typer toksisitet som trusler, uanstendighet, fornærmelser og identitetsbasert hat. Støtter konkurransen er Jigsaw, en del av Alphabet, som driver et forskningsinitiativ kalt Conversation AI for å forbedre nettbasert diskurs. For å vinne $35 000-premien på Kaggle, må en påmelding slå resultatene av et system bygget av Jigsaw, kalt Perspective API. Siden den ble lansert på tirsdag har 199 lag blitt med i konkurransen.

Internett kunne absolutt gjøre med flere og bedre verktøy for å rydde opp i trusler og hatefulle ytringer. Facebook, YouTube og Twitter har alle slitt med å kontrollere slikt innhold tidligere, og de fleste store teknologifirmaer insisterer på at AI kan hjelpe dem med å rydde opp i det i fremtiden. Men ingen av dem har foreløpig klart det, og myndighetene er misfornøyde med feil med å få hatefulle ytringer fjernet raskt.

Store teknologifirmaer prøver imidlertid. Facebook lanserte et verktøy kalt Deeptext i 2016 for å oppdage følelser i kommentarer for å utrydde upassende innhold. Det tar ned ca 66 000 kommentarer en uke, men har fortsatt tusenvis av mennesker som overvåker feeds. Twitter, i mellomtiden, annonsert denne uken at det blir forbud mot kontoer som sender truende tweets og meldinger.

Kanskje Kaggle-konkurransen vil hjelpe til å endelig løse problemet.