Facebook, Google, Twitter er ikke forberedt på presidentens dype forfalskninger

Kategori: Kunstig intelligens Lagt ut august 06

Ingen av de tre store internettåkehornene – Facebook, Google eller Twitter – ser ut til å ha en klar plan for å håndtere AI-genererte falske videoer, eller deepfakes, før neste års presidentvalg, ifølge lederen av House Intelligence Committee.

Statusoppdatering: Adam Schiff, en demokrat fra California, sa fredag ​​at de tre selskapene har begynt å tenke seriøst på utfordringene fra maskinmanipulerte medier, eller deepfakes, men at det er mye mer arbeid å gjøre hvis de skal være forberedt på det forstyrrende. effekten av denne teknologien i neste valg.

Ikke få panikk: Ingen grunn til å skremme ut. Det er faktisk noen nye teknikker for å se videoer som er laget med kunstig intelligens.

Face Off: Deepfake-videoer bruker nyere fremskritt innen maskinlæring for automatisk å bytte ansikter i en video eller utføre andre virkelighetsslørende triks. Enkle deepfake-verktøy kan lastes ned fra nettet, og du kan finne mange surrealistiske eksempler på resultatene over internett .

Bekymringen: Bildemanipulering har eksistert i lang tid, men AI gjør sofistikert forfalskning mer tilgjengelig. Under et valg kan en deepfake kanskje brukes til å påvirke velgerne i siste øyeblikk. I mai sirkulerte en video av Nancy Pelosi som hadde blitt behandlet for å få det til å se ut som om hun sludret talen sin raskt på sosiale medier.

Katt og mus: For øyeblikket er det noen få måter å oppdage dype falske. Uregelmessig blinking er for eksempel et avslørende tegn på en video. Men deteksjon er noe av et våpenkappløp, fordi en AI-algoritme vanligvis kan trenes til å løse en gitt feil.

Tok deg: Denne juni, et nytt papir fra flere digitale rettsmedisinske eksperter skisserte en mer idiotsikker tilnærming. Den er avhengig av å trene en deteksjonsalgoritme for å gjenkjenne ansikts- og hodebevegelsene til en bestemt person, og dermed vise når denne personens ansikt har blitt limt inn på hodet og kroppen til noen andre. Tilnærmingen fungerer bare når systemet har blitt opplært til å gjenkjenne noen, men det kan i det minste holde presidentkandidatene trygge fra angrep.

holde seg stille? Google ga faktisk en del midler til denne nye forskningen. Så kanskje disse selskapene holder kortene sine tett til brystet når det kommer til deepfake-deteksjon. Hvis du ønsker å ligge et skritt foran fakerne, vil det absolutt være et smart trekk.