En indisk politiker bruker deepfake-teknologi for å vinne nye velgere

Kategori: Kunstig intelligens Lagt ut 19. februar

Nyhetene: En dyp forfalskning av presidenten for Indias regjerende Bharatiya Janata Party (BJP), Manoj Tiwari, gikk viralt på WhatsApp i landet tidligere denne måneden, i forkant av valget til lovgivende forsamling i Delhi, ifølge Vice . Det er første gang et politisk parti noe sted har brukt en deepfake til kampanjeformål. I den originale videoen snakker Tiwari på engelsk, kritiserer sin politiske motstander Arvind Kejriwal og oppmuntrer velgerne til å stemme på BJP. Den andre videoen har blitt manipulert ved hjelp av dypfalsk teknologi, slik at munnen hans beveger seg overbevisende mens han snakker på Haryanvi, den hindi-dialekten som snakkes av målvelgerne for BJP.

Formålet: BJP har inngått samarbeid med det politiske kommunikasjonsfirmaet The Ideaz Factory for å lage dype forfalskninger som lar det målrette mot velgere på tvers av de over 20 forskjellige språkene som brukes i India. Partiet fortalte Vice at Tiwari deepfake nådde omtrent 15 millioner mennesker i 5800 WhatsApp-grupper.

Forårsaker alarm: Dette er ikke første gang deepfakes dukker opp under en politisk kampanje. For eksempel i desember i fjor, forskere laget en falsk video av de to kandidatene i Storbritannias stortingsvalg støtter hverandre. Det var imidlertid ikke ment å påvirke avstemningen - bare for å øke bevisstheten om dypfalsk teknologi. Denne saken i India ser ut til å være første gang deepfakes har blitt brukt til en politisk kampanje. Den store risikoen er at vi når et punkt der folk ikke lenger kan stole på det de ser eller hører. I det scenariet trenger ikke en video engang å endres digitalt for at folk skal fordømme den som falsk. Det er ikke vanskelig å forestille seg den korrosive virkningen som ville ha på et allerede skjørt politisk landskap.

Registrer deg her for vårt daglige nyhetsbrev The Last ned for å få din dose av de siste må-lese nyhetene fra verden av fremvoksende teknologi.