211service.com
Tre trusler fra deepfakes som teknologien ikke vil løse
Skjermbilde fra Putin dypfalske video MIT Technology Review
Se for deg dette: En perfekt nøyaktig deepfake-detektor eksisterer endelig. Den legger umiddelbart til en stor rød DEEPFAKE-etikett til hver video som har blitt manipulert med AI, uansett hvor sømløst realistisk videoen kan se ut.
Det kan høres ut som akkurat det vi trenger for å bekjempe deepfakes, som folk er bekymret for kan bringe slutten på sannheten og demokratiets død . Helt ekte manipulerte videoer kan være her om så lite som seks måneder , som antyder at den amerikanske presidentvalgkampen i 2020 kan bli en slagmark for falske videoer: Donald Trump innrømmet å ha korrupte avtaler med Russland, Elizabeth Warren forfektet et totalt forbud mot våpen, Kamala Harris nedsettende hvite mennesker.
Teknologer har svart med mer teknologi. De Amerikanske myndigheter har finansiert et prosjekt om medieetterforskning. Facebook og Microsoft kunngjorde nylig en deepfake deteksjonsutfordring, og Google ga ut en gigantisk database med dype forfalskninger for å bekjempe deepfakes. Men selv om teknikken for å lage deepfakes er ny, er mye av den faktiske skaden de representerer – desinformasjon og trakassering – ikke, ifølge Britt Paris, en informasjonsforsker ved Rutgers University og medforfatter av en nylig rapport om data og samfunn på deepfakes. En perfekt nøyaktig deepfake-detektor kan ikke løse disse skadene. Det er derfor.
1) Problem: Deepfake-detektorer kan ikke fortelle oss hva som bør – og ikke bør – fjernes
Husker du den langsommere videoen av Nancy Pelosi? Det var ikke en deepfake. Den spredte fortsatt usannheter, og Facebook bestemte seg for ikke å ta den ned. En deepfake-detektor ville ikke ha hjulpet med den dommen. Jo mer du går mot automatisert bruk, jo mer sannsynlig er det at du har unøyaktigheter eller sensur, sier Kate Klonick, professor ved St. John’s University og ekspert på plattformstyring. Å definere satire, definere falske nyheter, definere fiksjon – alt dette er enorme filosofiske spørsmål.
Idé: Bedre moderasjon
Samfunnet må jobbe gjennom disse problemene. Inntil da kan en løsning være å gi mer makt til de som er i stand til å foreta dømmekraft: moderatorer av menneskelig innhold. For det formål kan moderatorer få mer betalt, trent bedre og verdsatt som en viktig del av å opprettholde et trygt internett, sier Sarah T. Roberts, en informasjonsforsker ved UCLA. Spesialiserte team av kontrollerte moderatorer kan vurdere konteksten til en video, faktasjekke den og bestemme om den skal forbli på en plattform. De har kanskje ikke det perfekte svaret for den Pelosi-videoen, men de vil fortsatt ha en følelse av den sosiale og politiske virkningen av en rekke dypforfalskninger og deres mål. Det kunne de fortelle parodi deepfakes av Nicolas Cage er fine og falsk porno er ikke.
Noen andre som kan være kvalifisert til å dømme en deepfake? Offeret for en. Selskaper bør gjøre det lettere å rapportere dypfalsk trakassering, sier Danielle Citron, en ekspert på nettlov ved Boston University. Alle brukere bør læres om deres rettigheter, og trinnene for rapportering bør være åpenbare og tilgjengelige, ikke begravd i en personvernpolicy.
2) Problem: Deepfake-busting-teknologi hjelper kanskje ikke menneskene som trenger beskyttelse mest
Historien har vist at ny teknologi brukes mot marginaliserte grupper – som kvinner, fargede personer, LHBT-personer og aktivister – før det blir en mainstream-trussel, sier Paris. På 1990-tallet, for eksempel, var det allerede grove photoshop-bilder av kvinners hoder på kroppen til voksne filmskuespillerinner. De som hadde makten brydde seg ikke nok til å gjøre noe med det. Hvis vi hadde tatt hensyn til problemet med seksuell utnyttelse av kvinner uten deres samtykke da, ville vi vært i en mye bedre posisjon til å håndtere det sosialt, juridisk og kulturelt nå, sier Mary Anne Franks, juridisk stipendiat ved universitetet. av Miami.
Historien gjentar seg. Forskere sier at den største risikoen for deepfakes ikke er at de svinger et valg, men det de er vant til å mobbe private borgere.
Idé: Ikke bygg noe uten å konsultere de mest berørte
Snakk med menneskene som er mest sårbare for deepfakes, sier Sam Gregory, programdirektør i Witness, en ideell organisasjon som studerer syntetiske medier. Selv om målet er å lage en deepfake-detektor, er det mange sosiale spørsmål involvert. Vil det være tilgjengelig for folk i andre land? Vil den bli opplært til å oppdage politiske forfalskninger eller kjønn og seksuell vold? Når infrastrukturen er satt, er det virkelig marginaliserte mennesker og befolkninger som er ekskludert, fordi de ikke har byrået til å endre den infrastrukturen, sier Gregory.
3) Problem: Deepfake-deteksjon er for sent til å hjelpe ofre
Med deepfakes er det lite reell utvei etter at video eller lyd er ute, sier Franks, forsker ved University of Miami.
Eksisterende lover er utilstrekkelige. Lover som straffer deling av legitim privat informasjon som medisinske journaler, gjelder ikke for falske, men skadelige videoer. Lover mot etterligning er merkelig begrenset, sier Franks - de fokuserer på å gjøre det ulovlig å etterligne en lege eller myndighetsperson. Lover om ærekrenkelse tar bare for seg falske representasjoner som fremstiller emnet negativt, men Franks sier at vi også bør være bekymret for dype forfalskninger som feilaktig fremstiller mennesker i et positivt lys.
Idé: Nye lover
Texas nylig vedtatt et lovforslag om å forby deepfakes . TIL California deepfake regning vedtatt i begge hus og nå venter guvernør Gavin Newsoms underskrift. I mellomtiden introduserte representant Yvette Clarke, en amerikansk kongresskvinne fra New York, nylig føderal lovgivning kalt DEEPFAKES Accountability Act . Det ville tvinge sosiale medier-selskaper til å bygge bedre deteksjonsverktøy på plattformene sine og gjøre det mulig å straffe eller fengsle personer som legger ut ondsinnede deepfakes.
På sin side jobber Franks og Citron med et føderalt lovforslag for å kriminalisere ondsinnede deepfakes, som de kaller digitale forfalskninger. For deres tenkning er en digital forfalskning noe som en fornuftig person ville tro er ekte. Det må også være sannsynlig å forårsake skade på en bestemt person eller den offentlige orden – for eksempel hvis en video feilaktig viser en muslimsk person som begår en forbrytelse.
For at en slik lov skal fungere i USA, ville den ideelt sett vært på føderalt nivå, ikke på statlig nivå. På grunn av en lov kalt Section 230, er ikke plattformselskaper juridisk ansvarlige for å være vertskap for skadelig tredjepartsinnhold med mindre det bryter føderal straffelov. Hvis det å legge ut skadelige videoer ble en forbrytelse, ville det ikke bare avskrekke folk fra å legge dem ut; plattformer som Facebook må jobbe hardere for å holde dem unna. Disse selskapene ville ikke være i stand til å heve seksjon 230 til forsvar, sier Franks. De ville ha et hvilket som helst antall forsvar, men den spesielle veien til dem ville bli blokkert.