Ansiktsgjenkjenning blir utrolig kraftig – og stadig mer kontroversiell

Kategori: Kunstig intelligens Lagt ut 08 sep

Et kamera trent i ansiktet ditt kan avsløre utrolig mye om deg. Vi har nylig skrevet mye om hvordan programvare for ansiktsgjenkjenning har nådd en utrolig høy standard de siste par årene. Faktisk så høy at teknologien er robust nok til å brukes over hele Kina for å godkjenne betalinger og ta tog.

Men noen nylige teknologisk imponerende fremskritt skaper mer oppsikt. Tidligere denne uken, Michal Kosinski og Yilun Wang fra Stanford University la ut et papir på PsyArxiv forhåndstrykkservere , snart publisert av Journal of Personality and Social Psychology , som viser at ansiktsgjenkjenning AI er mer nøyaktig enn mennesker til å oppdage seksuell legning fra bilder av mennesker.

Opplært på 130 741 bilder tatt fra datingsider der folk forklarer sin seksuelle legning, kan parets nevrale nettverk skille mellom homofile og heterofile menn i 81 prosent av tilfellene fra bare ett enkelt bilde. Det kan sammenlignes med en nøyaktighet på 61 prosent for et menneske. Gitt fem bilder, stiger AI-tallet til 91 prosent. (De samme tallene for kvinner er henholdsvis 71, 54 og 83.)

Tilnærmingen minner om arbeid beskrevet i fjor av forskere fra Shanghai Jiao Tong University i Kina, som trente nevrale nettverk ved å bruke fotografier av kjente kriminelle og ikke-kriminelle. De var da i stand til å korrekt identifisere kriminelle fra nye bilder med en nøyaktighet på 89,5 prosent.

De Økonom foreslår at samme tilnærming kan brukes for å prøve å identifisere andre kvaliteter, som IQ eller politisk tilbøyelighet. Fenomenet er helt klart urovekkende for de som holder personvernet høyt – spesielt hvis teknologien brukes av autoritære regimer der til og med antydninger om homofili eller kriminelle hensikter kan bli sett hardt på.

En naturlig konklusjon: kanskje vi bør skjule ansiktet vårt mens vi er ute på gata?

Dessverre kan en annen ny studie gjøre den ideen ganske meningsløs. Sent i forrige uke, Amarjot Singh fra Cambridge University og hans kolleger i India publiserte en studie om arXiv viser at det i mange tilfeller er mulig å identifisere en person ved hjelp av ansiktsgjenkjenning selv når ansiktet er skjult. Når folk har på seg lue, skjerf og briller for å dekke ansiktet, var algoritmene deres i stand til å identifisere personer med rundt 55 prosent nøyaktighet. Tallet steg til 69 prosent da bare briller ble fjernet.

Zeynep Tufekci fra Berkman Center for Internet and Society ved Harvard University kommenterte dette siste funnet på Twitter , beskrev forskningen som en del av en stadig økende ny evne som vil tjene autoritære godt. Hun har sannsynligvis et poeng.