Deepfakes kan være et nyttig verktøy for spioner

Kategori: Kunstig intelligens Lagt ut 14. juni

En spion kan ha brukt et AI-generert ansikt for å lure og få kontakt med mål på sosiale medier.

Nyhetene: En LinkedIn-profil under navnet Katie Jones har blitt identifisert av AP som en sannsynlig front for AI-aktivert spionasje. Personaen er knyttet til flere høyprofilerte skikkelser i Washington, inkludert en assisterende assisterende utenriksminister, en seniorassistent for en senator og en økonom som vurderes for et sete i Federal Reserve. Men det som er mest fascinerende er profilbildet: det demonstrerer alle kjennetegnene til en deepfake, ifølge flere eksperter som har vurdert det.

Enkelt mål: LinkedIn har lenge vært en magnet for spioner fordi det gir enkel tilgang til folk i mektige kretser. Agenter vil rutinemessig sende ut titusenvis av tilkoblingsforespørsler, og utgi seg for å være forskjellige mennesker. Bare forrige måned ble en pensjonert CIA-offiser dømt til 20 års fengsel for å ha lekket hemmeligstemplet informasjon til en kinesisk agent som tok kontakt ved å utgi seg for å være rekrutterer på plattformen.

Svak forsvar: Så hvorfor utnyttet Katie Jones AI? Fordi det fjerner en viktig forsvarslinje for å oppdage bedragere: å gjøre et omvendt bildesøk på profilbildet. Det er enda en måte deepfakes eroderer vår tillit til sannheten når de raskt avanserer til mainstream.

For å få flere historier som dette levert direkte til innboksen din, meld deg på vårt Webby-nominerte AI-nyhetsbrev The Algorithm. Det er gratis.