Hvordan skjule fra AI-overvåkingstilstanden med en fargeutskrift

Kategori: Kunstig intelligens Lagt ut 23. april

AI-drevet videoteknologi blir allestedsnærværende og sporer ansiktene og kroppene våre gjennom butikker, kontorer og offentlige rom. I noen land utgjør teknologien et kraftig nytt lag med politiarbeid og myndighetsovervåking.

Heldigvis, som noen forskere fra det belgiske universitetet KU Leuven har nettopp vist , kan du ofte skjule fra et AI-videosystem ved hjelp av en enkel fargeutskrift.

Hvem sa det? Forskerne viste at bildet de designet kan skjule en hel person fra et AI-drevet datasynssystem. De demonstrerte det på et populært åpen kildekode-objektgjenkjenningssystem kalt YoLo(v2) .

Gjemsel: Trikset kan tenkes å la skurker gjemme seg for sikkerhetskameraer, eller tilby dissidenter en måte å unngå myndighetenes gransking. Det arbeidet vårt viser er at det er mulig å omgå kameraovervåkingssystemer ved å bruke motstridende patcher, sier Wiebe Van Ranst , en av forfatterne.

Forsvinn: Van Ranst sier at det ikke burde være for vanskelig å tilpasse tilnærmingen til hyllevare videoovervåkingssystemer. For øyeblikket må vi også vite hvilken detektor som er i bruk. Det vi ønsker å gjøre i fremtiden er å generere en oppdatering som fungerer på flere detektorer samtidig, sa han til MIT Technology Review. Hvis dette fungerer, er sjansen stor for at lappen også fungerer på detektoren som er i bruk i overvåkingssystemet.

Idiots ærend: Bedraget demonstrert av det belgiske teamet utnytter det som er kjent som kontradiktorisk maskinlæring. De fleste datasyn er avhengige av å trene et (konvolusjonelt) nevralt nettverk til å gjenkjenne forskjellige ting ved å mate det med eksempler og justere parametrene til det klassifiserer objekter riktig. Ved å mate eksempler inn i et trent dypt nevralt nett og overvåke utdataene, er det mulig å utlede hvilke typer bilder som forvirrer eller lurer systemet.

Øyne overalt: Arbeidet er betydelig fordi AI i økende grad finnes i dagligdagse overvåkingskameraer og programvare. Den brukes til og med for å unngå behovet for en kasselinje i noen eksperimentelle butikker, inkludert de som drives av Amazon. Og i Kina dukker teknologien opp som et kraftig nytt middel for å fange kriminelle og, mer problematisk, sporing av visse etniske grupper .