Google har gitt ut en gigantisk database med dype forfalskninger for å bekjempe deepfakes

Kategori: Kunstig intelligens Lagt ut 25. september

Den inkluderer 3000 AI-genererte videoer som ble laget ved hjelp av ulike offentlig tilgjengelige algoritmer.

Sammenhengen: I løpet av det siste året har generative algoritmer blitt så gode til å syntetisere medier at det de produserer snart kan bli umulig å skille fra virkeligheten. Eksperter raser nå for å finne bedre metoder for å oppdage disse såkalte deepfakes, spesielt når det amerikanske presidentvalget i 2020 nærmer seg.

Deepfake drop: På tirsdag, Google utgitt en åpen kildekodedatabase som inneholder 3000 originale manipulerte videoer som en del av arbeidet med å akselerere utviklingen av deepfake-deteksjonsverktøy. Det jobbet med 28 skuespillere for å spille inn videoer av dem som snakket, kom med vanlige uttrykk og gjorde hverdagslige oppgaver. Den brukte deretter offentlig tilgjengelige dypfalske algoritmer for å endre ansiktene deres.

State of the art: Tidligere denne måneden kunngjorde Facebook at de ville gi ut en lignende database mot slutten av året. I januar opprettet et akademisk team ledet av en forsker fra det tekniske universitetet i München en kalt FaceForensics++ ved å utføre fire vanlige ansiktsmanipuleringsmetoder på nesten 1000 kompilerte YouTube-videoer. Med hvert av disse datasettene er ideen den samme: å lage et stort korpus av eksempler som kan hjelpe med å trene og teste automatiserte deteksjonsverktøy.

Katt-og-mus-spill: Men når en deteksjonsmetode er utviklet for å utnytte en feil i en bestemt generasjonsalgoritme, kan algoritmen enkelt oppdateres for å korrigere for den. Som et resultat prøver noen eksperter nå å finne ut påvisningsmetoder som forutsetter perfeksjon av syntetiske bilder. Andre argumentere at tøyling av dype forfalskninger ikke vil bli oppnådd med tekniske midler alene: i stedet vil det også kreve sosiale, politiske og juridiske løsninger for å endre insentivene som oppmuntrer til å skape dem.

For å få flere historier som dette levert direkte til innboksen din, meld deg på vårt Webby-nominerte AI-nyhetsbrev The Algorithm. Det er gratis.