Google har gitt ut et verktøy for å oppdage falske og manipulerte bilder

Kategori: Kunstig intelligens Lagt ut 05 februar

Jigsaw, en teknologiinkubator hos Google, har sluppet en eksperimentell plattform kalt Assembler for å hjelpe journalister og faktasjekkere i frontlinjen med å raskt bekrefte bilder.

Hvordan det fungerer: Assembler kombinerer flere eksisterende teknikker i akademia for å oppdage vanlige manipulasjonsteknikker, inkludert å endre bildelysstyrke og lime inn kopierte piksler andre steder for å dekke over noe og samtidig beholde den samme visuelle teksturen. Den inkluderer også en detektor som oppdager deepfakes av typen som er laget med StyleGAN, en algoritme som kan generere realistiske imaginære ansikter. Disse deteksjonsteknikkene inngår i en hovedmodell som forteller brukerne hvor sannsynlig det er at et bilde har blitt manipulert.

Hvorfor det er viktig: Falske bilder er blant de vanskeligste tingene å verifisere, spesielt med økningen av manipulasjon av kunstig intelligens. Mulighetene for journalister og faktasjekkere til å reagere krymper også raskt, ettersom desinformasjon sprer seg i hastighet og omfang.

Ikke et universalmiddel: Assembler er et godt skritt i kampen mot manipulerte medier – men den dekker ikke mange andre eksisterende manipulasjonsteknikker, inkludert de som brukes for video, som teamet må legge til og oppdatere etter hvert som økosystemet fortsetter å utvikle seg. Den eksisterer også fortsatt som en egen plattform fra kanalene der det vanligvis distribueres manipulerte bilder. Eksperter har anbefalt at teknologigiganter som Facebook og Google inkorporerer denne typen deteksjonsfunksjoner direkte på plattformene sine. På den måten kan slike kontroller utføres i nær sanntid ettersom bilder og videoer lastes opp og deles.

Det er også andre tilnærminger å vurdere. Noen startups forfølger for eksempel verifikasjonsteknologi , som husker posisjonene til piksler i et bilde i øyeblikket de fanges - men dette kommer også med utfordringer .

Utover teknologi: Til syvende og sist vil ikke tekniske reparasjoner være nok. En av de vanskeligste aspektene ved digital forfalskning er ikke selve de falske bildene. Snarere er det ideen om at de eksisterer, som lett kan påberopes for å tvile på sannheten til ekte medier. Dette er den typen utfordringer som også vil kreve sosiale og politiske løsninger.