Logan Pauls video er en advarende historie for plattformer som håper AI vil redde dem fra støtende innhold

Kategori: Teknisk politikk Lagt ut januar 03

YouTube-stjernen Logan Paul (hvis du ikke er kjent, har han 15 million abonnenter) lastet opp en video på plattformen i helgen der han så ut til å lage vitser foran en kropp som henger i et tre under et besøk i skog i Japan hvor folk har vært kjent for å begå selvmord. Opptaket samlet over seks millioner visninger før Paul tok det ned.

Hvorfor det er viktig: Pauls video var ikke fanget av YouTubes programvare eller menneskelige filtre , noe som gjør det til et ypperlig eksempel på innhold som aldri burde vært tillatt i bred distribusjon, men som likevel unngikk toppmoderne kunstig intelligens-systemer. Det som er uanstendig er å ha vist og vært respektløs overfor kroppen til et selvmordsoffer, Tarleton Gillespie, hovedforsker ved Microsoft Research, fortalte Buzzfeed . Dette er den typen kontekstuell og etisk subtilitet som automatiserte verktøy sannsynligvis aldri vil kunne tilnærme seg.

Fremover: Hendelsen viser at til tross for anstrengelser fra Facebook og YouTube for å bruke AI for å bekjempe støtende innhold, vil ikke innholdsmodereringsproblemet løses ved å bruke litt programvare.