211service.com
Deepfakes har fått kongressen i panikk. Dette er hva den må gjøre.
En fotoillustrasjon av president Trump, den ene halvparten i svart-hvitt og den andre halvparten veldig mettet Ms. Tech; Originalbilde av WIN MCNAMEE; GETTY BILDER
Den nylige raske spredningen av en bearbeidet video av Nancy Pelosi har skremt lovgivere i Washington. Videoen – redigert for å få henne til å virke full – er bare ett av en rekke eksempler det siste året på at manipulerte medier har gjort det til mainstream offentlig diskurs. I januar, en annen doktorert video rettet mot president Donald Trump endte opp på TV i Seattle. Denne uken ble en AI-generert video av Mark Zuckerberg lastet opp til Instagram. (Facebook har lovet å ikke ta den ned.)
Med det amerikanske valget i 2020 nærmer seg, har den amerikanske kongressen blitt stadig mer bekymret for at den raske og enkle muligheten til å forfalske medier kan gjøre valgkamper sårbare for målretting fra utenlandske operatører og kompromittere velgernes tillit.
Som svar vil Representantenes hus holde sin første dedikerte høring i morgen om deepfakes, klassen av syntetiske medier generert av AI. Parallelt vil representanten Yvette Clarke fremme et lovforslag om samme tema. En ny forskningsrapport utgitt av en ideell organisasjon denne uken fremhever også en strategi for å takle når deepfakes og andre forfalskede medier sprer seg.
Det er ikke første gang amerikanske politikere har forsøkt å iverksette tiltak på dette problemet. I desember 2018 introduserte senator Ben Sasse en annen regning forsøk på å forby ondsinnede deepfakes. Senator Marco Rubio har også gjentatte ganger slo alarm på teknologien gjennom årene. Men det er første gang vi har sett en så samlet innsats fra amerikanske lovgivere.
Den dypfalske regningen
Lovforslaget, et produkt av flere måneders diskusjon med informatikere, desinformasjonseksperter og menneskerettighetsforkjempere, vil inneholde tre bestemmelser. Den første vil kreve at selskaper og forskere som lager verktøy som kan brukes til å lage dype forfalskninger, automatisk legger til vannmerker til forfalskede kreasjoner.
Det andre vil kreve at sosiale medier-selskaper bygger bedre manipulasjonsdeteksjon direkte på plattformene sine. Til slutt vil den tredje bestemmelsen skape sanksjoner, som bøter eller til og med fengselsstraff, for å straffe lovbrytere for å lage ondsinnede deepfakes som skader enkeltpersoner eller truer nasjonal sikkerhet. Spesielt vil den forsøke å innføre en ny mekanisme for rettslig klage dersom folks omdømme blir skadet av syntetiske medier.
Dette problemet berører ikke bare politikere, sier Mutale Nkonde, stipendiat ved Data & Society Research Institute og rådgiver for lovforslaget. Det er mye mer sannsynlig at dypfalske videoer blir distribuert mot kvinner, minoriteter, mennesker fra LHBT-miljøet, fattige mennesker. Og disse menneskene kommer ikke til å ha ressursene til å kjempe tilbake mot omdømmerisiko.
Målet med å innføre lovforslaget er ikke å sende det gjennom Kongressen som det er, sier Nkonde. I stedet er det ment å utløse en mer nyansert samtale om hvordan man skal håndtere spørsmålet i loven ved å foreslå konkrete anbefalinger som kan kritiseres og foredles. Det vi virkelig ønsker å gjøre er å skrive inn i kongressprotokollen ideen om at audiovisuell manipulasjon er uakseptabel, sier hun.
Den nåværende tilstanden til deepfakes
Ved en tilfeldighet ga den menneskerettighetsorganisasjonen Witness ut en ny forskningsrapport denne uken dokumenterer den nåværende tilstanden til deepfake-teknologi. Deepfakes er for tiden ikke mainstream: de krever fortsatt spesialiserte ferdigheter for å produsere, og de etterlater ofte gjenstander i videoen, som glitches og pikselering, som gjør forfalskningen åpenbar.
Men teknologien har avansert i et raskt tempo, og mengden data som kreves for å forfalske en video har falt dramatisk. For to uker siden, Samsung demonstrert at det var mulig å lage en hel video av et enkelt bilde; denne uken universitets- og industriforskere demonstrerte et nytt verktøy som lar brukere redigere noens ord ved å skrive det de vil at emnet skal si.
Det er derfor bare et spørsmål om tid før deepfakes sprer seg, sier Sam Gregory, programdirektør for Witness. Mange av måtene folk vil vurdere å bruke dype forfalskninger – å angripe journalister, å antyde korrupsjon fra politikere, å manipulere bevis – er helt klart utviklinger av eksisterende problemer, så vi bør forvente at folk prøver de nyeste måtene å gjøre det effektivt på, sier han .
Rapporten skisserer en strategi for hvordan man kan forberede seg på en slik forestående fremtid. Mange av anbefalingene og mye av støttebeviset stemmer også overens med forslagene som vil vises i husregningen.
Rapporten fant at nåværende investeringer fra forskere og teknologiselskaper i deepfake-generering langt oppveier investeringene i deepfake-deteksjon. Adobe har for eksempel produsert mange verktøy for å gjøre medieendringer enklere, inkludert en nylig funksjon for å fjerne objekter i videoer; den har imidlertid ikke gitt dem en folie.
Resultatet er et misforhold mellom den virkelige naturen til mediemanipulasjon og verktøyene som er tilgjengelige for å bekjempe den. Hvis du lager et verktøy for syntese eller forfalskning som er sømløst for det menneskelige øyet eller det menneskelige øret, bør du lage verktøy som er spesielt utviklet for å oppdage den forfalskningen, sier Gregory. Spørsmålet er hvordan man kan få verktøymakere til å rette opp den ubalansen.
I likhet med husregningen, anbefaler rapporten også at sosiale medier og søkeselskaper gjør en bedre jobb med å integrere manipulasjonsdeteksjonsfunksjoner i plattformene sine. Facebook kan investere i gjenkjenning av gjenstandsfjerning, for eksempel for å motvirke Adobes funksjon så vel som andre useriøse redigeringsteknikker.
Den bør da tydelig merke videoer og bilder i brukernes nyhetsstrømmer for å ringe ut når de har blitt redigert på måter som er usynlige for det menneskelige øyet. Google, som et annet eksempel, bør investere i omvendt videosøk for å hjelpe journalister og seere raskt å finne den opprinnelige kilden til et klipp.
Utover kongressen
Til tross for rapportens nære tilpasning til lovforslaget, advarer Gregory om at den amerikanske kongressen bør tenke seg om to ganger om å vedta lover om dypforfalskninger når som helst snart. Det er tidlig å regulere dype forfalskninger og syntetiske medier, sier han, selv om han gjør unntak for svært smale applikasjoner, for eksempel bruken av dem til å produsere seksuelle bilder uten samtykke. Jeg tror ikke vi har en god nok følelse av hvordan samfunn og plattformer vil håndtere deepfakes og syntetiske medier for å sette reguleringer på plass, legger han til.
Gregory bekymrer seg for at den nåværende diskusjonen i Washington kan føre til beslutninger som får negative konsekvenser senere. Amerikanske reguleringer kan i stor grad prege hva andre land gjør, for eksempel. Og det er lett å se hvordan i land med mer autoritære regjeringer, kan politikerbeskyttende forskrifter brukes til å rettferdiggjøre fjerning av innhold som er kontroversielt eller som kritiserer politiske ledere.
Nkonde er enig i at kongressen bør ta en målt og gjennomtenkt tilnærming til saken, og vurdere enn bare dens innvirkning på politikken. Jeg håper virkelig de vil snakke [under høringen] om hvor mange mennesker denne teknologien påvirker, sier hun, og den psykologiske virkningen av å ikke være i stand til å tro det du kan se og høre.