211service.com
Å lage deepfake-verktøy trenger ikke å være uansvarlig. Dette er hvordan.
Et eksempel sirkulert av Facebook på to kvinner som lager kaffe: den ene er en deepfake. Facebook
Syntetiske medieteknologier – populært kjent som deepfakes – har et reelt potensial for positiv innvirkning. Stemmesyntese, for eksempel, vil tillate oss å snakke på hundrevis av språk med vår egen stemme. Videosyntese kan hjelpe oss å simulere selvkjørende bilulykker for å unngå feil i fremtiden. Og tekstsyntese kan akselerere vår evne til å skrive både programmer og prosa.
Men disse fremskrittene kan komme til en gigantisk pris hvis vi ikke er forsiktige: de samme underliggende teknologiene kan også muliggjøre bedrag med globale konsekvenser.
Heldigvis kan vi både aktivere teknologiens løfte og redusere faren. Det vil bare kreve litt hardt arbeid.
Det jeg argumenterer for her er ment å være en oppfordring til handling for å gjøre det arbeidet – og en veiledning for å støtte de av oss som lager slik teknologi, enten vi driver med banebrytende forskning, utvikler nye produkter eller bare åpner- kildesystemer for moro skyld. Dette er også for de som investerer i eller finansierer slikt arbeid, journalistene som kan bidra til å sikre at teknologiskapere tar deres innvirkning på alvor, og vennene eller familien til de som lager denne teknologien.
Vi kan lenger frata oss ansvar ved å si at det ikke er noe vi kan gjøre hvis folk misbruker verktøyene våre. For det er ting vi kan gjøre; det er bare det at vi ofte ikke gidder. Et annet argument, denne teknologien vil bli fremsatt uansett, er ikke helt feil – men hvordan og når betyr betydelig, og kan endres som et resultat av våre valg. (For mer om dette, inkludert noen trusselmodellering, sjekk ut vår fullt papir , spesielt avsnitt 2 om hva som fører til skade.) Til slutt kan vi ikke gjemme oss bak den banale erkjennelsen av at det alltid har vært bedrag mens vi ignorerer de betydelige forskjellene i grad og virkning.
Kostnadene ved deepfake-teknologi er ikke bare teoretiske. Syntetiske videoer med ansiktsbytte trakassere journalister til taushet ; syntetiske stemmer blir brukt til store uredelige transaksjoner , og syntetiske ansikter har angivelig støttet spionasje . Alt dette er til tross for dagens utfordringer med å bruke hacket sammen beta-kvalitet programvare. Hindringene for bruk av syntetiske medier er fortsatt for høye til at teknologien kan være overbevisende for de fleste ondsinnede aktører – men når den beveger seg fra buggy-betaer og over i hendene på milliarder av mennesker, har vi et ansvar for å unngå verste tilfelle scenarier ved å gjøre det så vanskelig som mulig å bruke deepfakes for ondskap. Hvordan?
Tilnærming 1: Begrense hvem som kan bruke et verktøy ... og hvordan
Det er flere ting vi kan gjøre som gjør ondsinnet bruk mye mindre sannsynlig. En åpenbar, enkel og effektiv tilnærming er å nøye veterinær de som kan bruke et verktøy. Dette er hva selskaper liker Syntese gjør – i hovedsak jobber bare med godkjente bedriftskunder.
Et alternativ er å begrense bruken : for å begrense hva brukere kan syntetisere eller manipulere. For eksempel er det mulig å bygge verktøy for å sikre at kun bestemte forhåndsvalgte stemmer eller ansikter kan manipuleres. Dette er hva Humen , for eksempel, gjør – gir et begrenset sett med bevegelser som personen i en generert video kan gjøre.
Disse er kanskje ikke et alternativ for mange systemer. Så hva annet kan man gjøre?
Tilnærming 2: Å motvirke ondsinnet bruk
For syntetiske medieverktøy som er generelle og kan gjøres allment tilgjengelige, er det fortsatt mange mulige måter å redusere ondsinnet bruk på. Her er noen eksempler.
- Tydelig avsløring: Be om at syntetiserte medier tydelig angis som sådan – spesielt materiale som kan brukes til å villede. Verktøy kan være i stand til å støtte dette ved å inkludere klare visuelle eller hørbare merknader i utdatafiler, for eksempel synlige advarsler eller muntlige avsløringer. Metadata bør som et minimum indikere hvordan media ble syntetisert eller manipulert.
- Samtykkebeskyttelse: Krev samtykke fra de som blir etterlignet. Verktøyet for stemmekloning Lyrebird krever at brukere snakker bestemte fraser for å modellere stemmen sin. Dette gjør det vanskeligere å utgi seg for noen uten samtykke, noe som ville være svært mulig hvis det bare genererte stemmer ved å bruke et gitt datasett. Dette gjelder selvfølgelig bare for verktøy som muliggjør etterligning.
- Deteksjonsvennlighet: Sørg for at det syntetiserte mediet ikke er overdrevent vanskelig å oppdage; holde detektorverktøy oppdatert; samarbeide med de som jobber med deteksjon for å holde dem oppdatert på nye utviklinger.
- Skjulte vannmerker: Bygg inn kontekst om syntese – eller til og med originalmediet – gjennom robuste vannmerker, både ved å bruke metoder som er tilgjengelige for alle med de riktige verktøyene, og gjennom tilnærminger som er hemmelige og vanskelige å fjerne. (For eksempel, Modulate.ai vannmerker lyd som den genererer, mens produkter som Imatag og deres åpen kildekode-ekvivalenter muliggjør vannmerking for bilder.)
- Brukslogger: Lagre informasjon om bruk og medieutdata på en måte som forskere og journalister kan få tilgang til for å identifisere om for eksempel en video sannsynligvis ble syntetisert ved hjelp av et bestemt verktøy. Dette kan inkludere lagring av tidsstempler for syntese med en robust hash eller medieinnbygging.
- Bruksbegrensninger: Gi og håndhev kontraktsmessige bruksvilkår som forbyr og straffer uønskede handlinger, for eksempel forsøk på å fjerne avsløringer eller vannmerker, eller brudd på samtykke fra andre personer. En sterkere versjon av denne tilnærmingen innebærer eksplisitt å utarbeide tillatt bruk av teknologien eller resulterende utdata.
Ikke alle disse strategiene er anvendelige for alle systemer. Noen kan ha sine risikoer, og ingen er perfekte – eller tilstrekkelig alene. De er alle en del av et forsvar i dybden, hvor mer er mer. Selv om vi har kontroll eller begrensninger, gjør disse tilnærmingene fortsatt et system mer robust mot motstandere. Og selv om det å følge disse reglene kanskje fungerer best for software as a service-systemer, som leveres uten å avsløre noen kildekode, kan de fortsatt gi en viss verdi for verktøy og modeller med åpen kildekode: mange dårlige aktører vil ikke ha den tekniske muligheten til å få rundt disse beskyttelsestiltakene. ( Hele papiret utforsker når du skal publisere kildekoden i utgangspunktet).
Støtter etiske deepfake-verktøy
Å gjøre ekstra arbeid for å beskytte folk mot skade kan være vanskelig å rettferdiggjøre i dagens konkurranseutsatte forretningsmiljø – inntil en irreversibel katastrofe inntreffer. Så hvordan bidrar vi til å sikre at disse tilnærmingene blir implementert før det er for sent? Her er fire ting finansiører, regjeringer, journalister og publikum kan gjøre nå for å støtte de som lager etiske syntetiske medieverktøy.
Gjør det enkelt å gjøre det rette
Det betyr at vi må investere i forskning på alle disse områdene slik at vi har allment tilgjengelige, godt finansierte, åpen kildekodeverktøy for å implementere disse tilnærmingene. Historien om informasjonssikkerhet viser at når brukervennlige verktøy med åpen kildekode kan brukes til å holde ting sikkert, ender mange flere ting sikre. Den samme logikken gjelder her: i det minste må vi raskt gjøre det enkelt å gi standardiserte metadata, vannmerker og logging. Vi trenger også forskning for å undersøke om det er mulig å bygge inn detekterbarhet i trente modeller før distribusjon. Uten denne typen infrastruktur og forskning vil vi se mange velmenende nye verktøy bli brukt på grufulle måter.
Fremme ekspertise på å redusere misbruk
Akkurat som innen personvern og sikkerhet, må vi støtte lokalsamfunn som fokuserer på å herde systemer og adressere dårlige aktører, og bedrifter må betale folk for å gjøre dette arbeidet, enten som konsulenter eller internt.
Unngå å finansiere, bygge og distribuere uansvarlige verktøy
Hvis et selskap eller verktøy ikke i det minste forsøker å redusere sjansen for misbruk, bør ikke finansierere og utviklere støtte det. Verktøyprodusenter som ikke implementerer de beste fremgangsmåtene som er oppført ovenfor, må ha svært gode grunner, og appbutikker bør kreve dem som standard.
Skap normer ved å holde folk ansvarlige
Hvis de er uaktsomme, bør vi kalle dem ut – selv om de er våre investerte, kollegaer, venner eller familie. Vi kan skape etiske normer ved å rose de som gjør det rette, og presse de som ikke gjør det til å gjøre det bedre.
Organisasjoner som fremmer deepfake-teknologi, som Nvidia, Adobe, Facebook og Google, bør investere tungt i alt det ovennevnte. Risikokapitalister og stiftelser bør også gjøre sitt for å støtte dette arbeidet og være forsiktige med hvem de støtter.
Dette er bare ett stykke av et mye bredere sett med innsats som er nødvendig, og i mange tilfeller kan de kjøpe oss bare litt mer tid. Det betyr at det er viktig å sikre at plattformer og beslutningstakere bruker den tiden klokt til å gjøre informasjonsøkosystemet vårt mer robust.
Vår fortid er strødd med de som skulle ønske de hadde introdusert oppfinnelsene deres mer nøye – og vi har bare én fremtid. La oss ikke ødelegge det.
—Aviv Ovadya er grunnleggeren av Gjennomtenkt teknologiprosjekt og en ikke-bosatt stipendiat ved German Marshall Fund's Alliance for Securing Democracy. Se hele artikkelen om å redusere negative virkninger av forskning på syntetiske medier, skrevet sammen med Jess Whittlestone, her .