211service.com
Jeg spurte en AI om å fortelle meg hvor vakker jeg er
Datamaskiner rangerer hvordan folk ser ut – og resultatene påvirker tingene vi gjør, innleggene vi ser og måten vi tenker på.
Joan Wong
5. mars 2021Jeg kom først over Qoves Studio gjennom sin populære YouTube-kanal, som tilbyr polerte videoer som Gir frisyren et pent ansikt?, Hva gjør Timothée Chalamet attraktiv? , og Hvordan kjevejustering påvirker sosiale oppfatninger til millioner av seere.
Qoves startet som et studio som skulle airbrush bilder for modellbyråer; nå er det et ansiktsestetisk konsulentfirma som lover svar på det eldgamle spørsmålet om hva som gjør et ansikt attraktivt. Det er nettsted , som har krittaktige skisser av parisisk utseende kvinner som har på seg leppestift og fargerike hatter, tilbyr en rekke tjenester knyttet til konsulentvirksomheten for plastisk kirurgi: råd om skjønnhetsprodukter, for eksempel, og tips om hvordan du kan forbedre bilder ved hjelp av datamaskinen. Men den mest overbevisende funksjonen er ansiktsvurderingsverktøyet: et AI-drevet system som lover å se på bilder av ansiktet ditt for å fortelle deg hvor vakker du er – eller ikke er – og deretter fortelle deg hva du kan gjøre med det.
Forrige uke bestemte jeg meg for å prøve det. Etter nettstedets instruksjoner vasket jeg av den lille sminken jeg hadde på meg og fant en nøytral vegg som ble opplyst av et lite vindu. Jeg ba kjæresten min ta noen nærbilder av ansiktet mitt i øyehøyde. Jeg prøvde hardt å ikke smile. Det var det motsatte av glamorøst.
Jeg lastet opp det mest utholdelige bildet, og i løpet av millisekunder returnerte Qoves et rapportkort med de 10 spådde feilene i ansiktet mitt. På toppen av listen var en 0,7 sannsynlighet for nasolabiale folder, etterfulgt av en 0,69 sannsynlighet for konturdepresjon under øynene, og en 0,66 sannsynlighet for periokulær misfarging. Med andre ord mistenkte den (korrekt) at jeg har mørke poser under øynene og smilerynker, som begge registreres som problematiske med AI.
Mine resultater fra Qoves ansiktsvurderingsverktøy
Rapporten ga hjelpsomt anbefalinger som jeg kan ta for å rette opp feilene mine. Først, en foreslått artikkel om smilelinjer informerte meg om at de kan trenge injiserbare eller kirurgiske inngrep. Hvis jeg ønsket, kunne jeg oppgradere til en fyldigere rapport med kirurgiske anbefalinger, skrevet av leger, på nivåer på $75, $150 og $250. Den foreslo også fem serum jeg kunne prøve først, hver med en annen hudpleieingrediens – retinol, nevropeptider, hyaluronsyre, EGF og TNS. Jeg hadde bare hørt om retinol. Før jeg la meg den kvelden så jeg gjennom ingrediensene til ansiktsfuktighetskremen min for å se hva den inneholdt.
Jeg var fascinert. Verktøyet hadde delt opp utseendet mitt i en liste over små problemer – en laser trent på hva den trodde var galt med utseendet mitt.
Qoves er imidlertid bare en liten startup med 20 ansatte i et hav av ansiktsanalyseselskaper og -tjenester. Det er en voksende industri av ansiktsanalyseverktøy drevet av AI, som hver hevder å analysere et bilde for egenskaper som følelser, alder eller attraktivitet. Selskaper som jobber med slike teknologier er en elskling av venturekapital, og slike algoritmer brukes i alt fra kosmetikksalg på nett til datingapper. Disse skjønnhetsscoringsverktøyene, som er lett tilgjengelige for kjøp på nettet, bruker ansiktsanalyse og datasyn for å evaluere ting som symmetri, øyestørrelse og neseform for å sortere gjennom og rangere millioner av visuelt innhold og vise frem de mest attraktive menneskene.
Disse algoritmene trener et slags maskinblikk på fotografier og videoer, og spytter ut numeriske verdier som ligner kredittvurderinger, der de høyeste poengsummene kan låse opp de beste online mulighetene for likes, visninger og kamper. Hvis det utsiktene ikke er bekymrende nok, forverrer teknologien også andre problemer, sier eksperter. De fleste skjønnhetsscoringsalgoritmer er fulle av unøyaktigheter, alderisme og rasisme – og den proprietære naturen til mange av disse systemene betyr at det er umulig å få innsikt i hvordan de virkelig fungerer, hvor mye de blir brukt eller hvordan de påvirker brukerne.
Qoves anbefalte visse handlinger for å fikse mine 'spådde feil'
Speil speil på veggen der …
Tester som de som er tilgjengelige fra Qoves er over hele internett. Den ene drives av verdens største åpne ansiktsgjenkjenningsplattform, Ansikt++ . Skjønnhetsscoringssystemet ble utviklet av det kinesiske bildeselskapet Megvii og bruker, i likhet med Qoves, AI for å undersøke ansiktet ditt. Men i stedet for å detaljere hva den ser på klinisk språk, koker den ned funnene sine til en prosentgrad av sannsynlig attraktivitet. Faktisk gir den to resultater: en poengsum som forutsier hvordan menn kan reagere på et bilde, og den andre som representerer et kvinnelig perspektiv. Ved å bruke tjenestens gratis demo og det samme uglamorøse bildet fikk jeg raskt resultatene mine. Menn synes generelt at denne personen er vakrere enn 69,62 % av personene, og kvinner synes generelt at denne personen er vakrere enn 73,877 %.
Det var antiklimaks, men bedre enn jeg hadde forventet. Et år inn i pandemien kan jeg se virkningen av stress, vekt og lukkede frisørsalonger på utseendet mitt. Jeg testet verktøyet på nytt med to andre bilder av meg selv fra Before, som jeg likte begge. Poengsummene mine ble bedre, og presset meg nær den øverste 25. persentilen.
Skjønnhet er ofte subjektiv og personlig: våre kjære virker attraktive for oss når de er friske og glade, og selv når de er triste. Andre ganger er det en kollektiv vurdering: rangeringssystemer som skjønnhetskonkurranser eller magasinlister over de vakreste menneskene viser hvor mye vi behandler attraktivitet som en premie. Denne vurderingen kan også være stygg og ubehagelig: Da jeg var tenåring, ropte guttene på videregående skole tall fra én til 10 til jenter som gikk forbi i gangen. Men det er noe skummelt med en maskin som vurderer skjønnheten i noens ansikt – den er like ubehagelig som rop på skolen, men matematikken i den føles urovekkende umenneskelig.
Skjønnhetspoengene mine er resultatet av Face++
Under panseret
Selv om konseptet med å rangere folks attraktivitet ikke er nytt, er måten disse spesielle systemene fungerer på en relativt fersk utvikling: Face++ lanserte sin skjønnhetsscoringsfunksjon i 2017.
På spørsmål om detaljer om hvordan algoritmen fungerer, ville en talsperson for Megvii bare si at den ble utviklet for omtrent tre år siden som svar på det lokale markedets interesse for underholdningsrelaterte apper. Selskapets nettsted indikerer at kinesiske og sørøstasiatiske ansikter ble brukt til å trene systemet, som tiltrakk seg 300 000 utviklere like etter at det ble lansert, men det er lite annen informasjon.
En talsperson for Megvii sier at Face++ er en åpen kildekodeplattform og at den ikke kan kontrollere måtene utviklere kan bruke den på, men nettstedet foreslår kosmetikksalg og matchmaking som to potensielle applikasjoner.
Selskapets kjente kunder inkluderer den kinesiske regjeringens overvåkingssystem , som dekker landet med CCTV-kameraer, samt Alibaba og Lenovo. Megvii søkte nylig om en børsnotering og er for tiden verdsatt til 4 milliarder dollar. Ifølge rapportering i New York Times er det ett av tre ansiktsgjenkjenningsselskaper som har hjulpet den kinesiske regjeringen ved å identifisere borgere som kan tilhøre den uiguriske etniske minoriteten.
Hvordan konvolusjonelle nevrale nettverk fungerer
-
Konvolusjonelle nevrale nettverk ser på bilder og videoer for å analysere og kategorisere objektene de skildrer på flere analysenivåer. Ett lag av nettverket kan identifisere for eksempel kantene på en menneskelig hånd; en annen kan finne fingre, andre hender, andre armer og andre mennesker.
-
Ytterligere lag reagerer på høyere abstraksjonsnivåer: hvis dette er et tre, hva har nettverket lært om trær? Hvis det er en gate, hva er tingene i en gate som den bør forvente å se? For eksempel kan et konvolusjonelt nevralt nettverk vurdere et bilde av et ansikt med en skarp kjevelinje som svært sannsynlig å være attraktivt fordi det bestemte at kjeveskarphet var en spesielt sterk indikator på den menneskelige skjønnhetsskåren den ble trent til å gjenskape.
Qoves var i mellomtiden mer åpen om hvordan ansiktsanalysen fungerer. Selskapet, som er basert i Australia, ble grunnlagt som et fotoretusjeringsfirma i 2019, men byttet til en kombinasjon av AI-drevet analyse og plastisk kirurgi i 2020. Systemet bruker en vanlig dyplæringsteknikk kjent som en konvolusjonelt nevralt nettverk eller CNN. CNN-ene som pleide å vurdere attraktivitet, trener vanligvis på et datasett med hundretusenvis av bilder som allerede har blitt scoret manuelt for attraktivitet av folk. Ved å se på bildene og de eksisterende vurderingene, utleder systemet hvilke faktorer folk anser som attraktive, slik at det kan komme med spådommer når de vises nye bilder.
Andre store selskaper har investert i skjønnhets-AIer de siste årene. De inkluderer den amerikanske kosmetikkforhandleren Ulta Beauty, verdsatt til 18 milliarder dollar, som utviklet en verktøy for hudanalyse . Nvidia og Microsoft støttet en robot skjønnhetskonkurranse i 2016, som utfordret deltakere til å utvikle den beste AI for å bestemme attraktivitet.
I følge Evan Nisselson, en partner i LDV Capital, er visjonsteknologi fortsatt i de tidlige stadiene, noe som skaper 'betydelige investeringsmuligheter og oppside.' LDV anslår at det vil være 45 milliarder kameraer i verden innen neste år, ikke inkludert de som brukes til produksjon eller logistikk, og hevder at visuelle data vil være nøkkeldata for AI-systemer i nær fremtid. Nisselson sier at ansiktsanalyse er 'et enormt marked' som over tid vil involvere 'gjenoppfinnelse av teknologistabelen for å komme til det samme eller nærmere eller enda bedre enn et menneskes øye.'
Qoves-grunnlegger Shafee Hassan hevder at skjønnhetsscoring kan være enda mer utbredt. Han sier at apper og plattformer for sosiale medier ofte bruker systemer som skanner folks ansikter, scorer dem for attraktivitet og gir mer oppmerksomhet til de som rangerer høyere. Det vi gjør er å gjøre noe som ligner på Snapchat, Instagram og TikTok, sier han. men vi gjør det mer oversiktlig.
Han legger til: De bruker det samme nevrale nettverket og de bruker de samme teknikkene, men de forteller deg ikke at [de har] identifisert at ansiktet ditt har disse nasolabiale foldene, det har en tynn vermilion, det har alle disse tingene, derfor [kommer de] til å straffe deg som et mindre attraktivt individ.
Jeg tok kontakt med en rekke selskaper – inkludert datingtjenester og sosiale medieplattformer – og spurte om skjønnhetsscoring er en del av deres anbefalingsalgoritmer. Instagram og Facebook har benektet å bruke slike algoritmer. TikTok og Snapchat nektet å kommentere posten.
JOAN WONGStore svarte bokser
Nylige fremskritt innen dyp læring har dramatisk endret nøyaktigheten til skjønnhets-AIer. Før dyp læring var ansiktsanalyse avhengig av funksjonsteknikk, der en vitenskapelig forståelse av ansiktstrekk ville veilede AI. Formelen for et attraktivt ansikt kan for eksempel være satt til å belønne store øyne og en skarp kjeve. Tenk deg å se på et menneskelig ansikt og se en Leonardo da Vinci-stil av alle proporsjonene og avstanden mellom øynene og den typen ting, sier Serge Belongie, professor i datasyn ved Cornell University. Med bruken av dyp læring handlet det om store data og store svarte bokser med nevrale nettberegninger som bare knaket på enorme mengder merkede data, sier han. Og til syvende og sist fungerer det bedre enn alle de andre tingene vi har slitt med i flere tiår.
Men det er en hake. Vi er fortsatt ikke helt sikre på hvordan det fungerer, sier Belongie. Industrien er fornøyd, men akademia er litt forvirret. Fordi skjønnhet er svært subjektivt, er det beste en dyptlærende skjønnhets-AI kan gjøre å nøyaktig gjenoppta preferansene til treningsdataene som brukes til å lære det. Selv om noen AI-systemer nå vurderer attraktivitet like nøyaktig som menneskene i et treningssett, betyr det at systemene også viser like mye skjevhet. Og viktigere, fordi systemet er uutgrunnelig, er det en vanskelig og beregningsmessig kostbar oppgave å plassere rekkverk på algoritmen som kan minimere skjevheten.
Belongie sier at det finnes applikasjoner av denne typen teknologi som er mer ugyldige og mindre problematiske enn å score et ansikt for attraktivitet – et verktøy som for eksempel kan anbefale det vakreste fotografiet av en solnedgang på telefonen din. Men skjønnhetsscoring er annerledes. Det er for meg et veldig skummelt forsøk, sier han.
Selv om treningsdata og kommersiell bruk er så objektive og trygge som mulig, har datasyn tekniske begrensninger når det kommer til menneskelige hudtoner. Bildebrikkene som finnes i kameraer er forhåndsinnstilt til å behandle et bestemt utvalg av dem. Historisk sett ble noen hudtoner ganske enkelt utelatt fra bordet, ifølge Belongie, noe som betyr at bildene i seg selv kanskje ikke en gang er utviklet med tanke på visse hudtoner. Selv de edleste ambisjoner når det gjelder å fange alle former for menneskelig skjønnhet har kanskje ikke en sjanse fordi lysstyrkeverdiene ikke engang er representert nøyaktig.
Og disse tekniske skjevhetene manifesterer seg som rasisme i kommersielle applikasjoner. I 2018 handlet Lauren Rhue, en økonom som er assisterende professor i informasjonssystemer ved University of Maryland, College Park, etter ansiktsgjenkjenningsverktøy som kan hjelpe henne med å studere digitale plattformer da hun snublet over dette settet med uvanlige produkter.
Jeg skjønte at det fantes scoringsalgoritmer for skjønnhet, sier hun. Og jeg tenkte at det virker umulig. Jeg mener, skjønnhet er helt i øyet til betrakteren. Hvordan kan du trene en algoritme for å finne ut om noen er vakker eller ikke? Å studere disse algoritmene ble snart et nytt fokus for forskningen hennes.
Når hun så på hvordan Face++ vurderte skjønnhet, fant hun ut at systemet konsekvent rangerte kvinner med mørkere hud som mindre attraktive enn hvite kvinner, og at ansikter med europeisk-lignende trekk som lysere hår og mindre neser skårer høyere enn de med andre trekk, uavhengig av hvor mørk huden deres var. Den eurosentriske skjevheten i AI gjenspeiler skjevheten til menneskene som scoret bildene som ble brukt til å trene systemet, kodifisere og forsterke det – uavhengig av hvem som ser på bildene. Kinesiske skjønnhetsstandarder prioriterer for eksempel lysere hud, store øyne og små neser.
En sammenligning av to bilder av Beyonce Knowles fra Lauren Rhues forskning ved hjelp av Face++. Dens AI spådde at bildet til venstre ville rangere til 74,776 % for menn og 77,914 % for kvinner. Bildet til høyre fikk i mellomtiden 87,468 % for menn og 91,14 % for kvinner i modellen. .
Skjønnhetsscore, sier hun, er en del av en urovekkende dynamikk mellom en allerede usunn skjønnhetskultur og anbefalingsalgoritmene vi møter hver dag på nettet. Når poengsum brukes til å avgjøre hvem sine innlegg dukker opp på sosiale medieplattformer, for eksempel, forsterker det definisjonen av hva som anses som attraktivt og tar oppmerksomheten bort fra de som ikke passer til maskinens strenge ideal. Vi begrenser typene bilder som er tilgjengelige for alle, sier Rhue.
Det er en ond sirkel: med flere øyne på innholdet med attraktive mennesker, kan disse bildene samle høyere engasjement, slik at de vises til enda flere mennesker. Til slutt, selv når en høy skjønnhetsscore ikke er en direkte grunn til at et innlegg vises til deg, er det en indirekte faktor.
I en studere publisert i 2019, så hun på hvordan to algoritmer, en for skjønnhetsscore og en for aldersspådommer, påvirket folks meninger. Deltakerne ble vist bilder av mennesker og bedt om å vurdere skjønnheten og alderen til forsøkspersonene. Noen av deltakerne ble vist poengsummen generert av en AI før de ga sitt svar, mens andre ikke ble vist AI-poengsummen i det hele tatt. Hun fant ut at deltakere uten kunnskap om AIs vurdering ikke viste ytterligere skjevhet; Men å vite hvordan AI rangerte folks attraktivitet fikk folk til å gi poeng nærmere det algoritmisk genererte resultatet. Rhue kaller dette forankringseffekten.
Anbefalingsalgoritmer endrer faktisk hva våre preferanser er, sier hun. Og utfordringen fra et teknologiperspektiv er selvfølgelig å ikke begrense dem for mye. Når det kommer til skjønnhet, ser vi mye mer av en innsnevring enn jeg hadde forventet.
'Jeg så ingen grunn til å ikke vurdere feilene dine, fordi det er måter du kan fikse det på.'
Shafee Hassan, Qoves Studio
Hos Qoves sier Hassan at han har prøvd å takle spørsmålet om løp på strak arm. Når han utfører en detaljert ansiktsanalyserapport – den typen klienter betaler for – forsøker studioet hans å bruke data til å kategorisere ansiktet etter etnisitet, slik at alle ikke bare blir vurdert mot et europeisk ideal. Du kan unnslippe denne eurosentriske skjevheten bare ved å bli den flotteste versjonen av deg selv, den flotteste versjonen av din etnisitet, den flotteste versjonen av rasen din, sier han.
Men Rhue sier at hun bekymrer seg for at denne typen etnisk kategorisering blir innebygd dypere i vår teknologiske infrastruktur. Problemet er at folk gjør det, uansett hvordan vi ser på det, og det er ingen type regulering eller tilsyn, sier hun. Hvis det er noen form for strid, vil folk prøve å finne ut hvem som hører til i hvilken kategori.
La oss bare si at jeg aldri har sett en kultursensitiv skjønnhets-AI, sier hun.
Anbefalingssystemer trenger ikke å være utformet for å evaluere attraktivitet for å ende opp med å gjøre det uansett. Forrige uke rapporterte den tyske kringkasteren BR at en AI som ble brukt til å evaluere potensielle ansatte viste skjevheter basert på utseende. Og i mars 2020 kom morselskapet til TikTok, ByteDance, under kritikk for et notat som instruerte innholdsmoderatorer å undertrykke videoer som viste stygge ansiktsutseende, folk som var lubne, de med et deformert ansikt eller mangel på fortenner, eldre mennesker med for mange rynker, og mer. Twitter lanserte nylig et autobeskjæringsverktøy for fotografier som så ut til å prioritere hvite mennesker . Når den ble testet på bilder av Barack Obama og Mitch McConnell, beskjærte autobeskjæringen AI konsekvent den tidligere presidenten.
Hvem er den vakreste av dem alle?
Da jeg først snakket med Qoves-grunnlegger Hassan via videosamtale i januar, fortalte han meg at jeg alltid har trodd at attraktive mennesker er en egen rase.
Da han startet opp i 2019, sier han, var venner og familie svært kritiske til forretningssatsingen hans. Men Hassan mener han hjelper folk til å bli den best mulige versjonen av seg selv. Inspirasjonen henter han fra filmen fra 1997 Gattaca , som finner sted i en ikke altfor fjern fremtid der genteknologi er standard unnfangelsesmiddel. Genetisk diskriminering segmenterer samfunnet, og Ethan Hawkes karakter, som ble unnfanget naturlig, må stjele identiteten til en genetisk perfeksjonert person for å komme seg rundt i systemet.
Den regnes vanligvis som en dypt dystopisk film, men Hassan sier at den satte et uventet spor.
Relatert historie
Aktivisten demonterer rasistiske politialgoritmer Hamid Khan vinner kampen for avskaffelse av overvåkingsteknologi som brukes av LAPDDet var veldig interessant for meg, fordi hele ideen var at en person kan bestemme sin skjebne. Slik de vil se ut er en del av skjebnen deres, sier han. Med hvor langt moderne medisin har kommet, så jeg ingen grunn til ikke å vurdere feilene dine, fordi det er måter du kan fikse det på.
Kundene hans ser ut til å være enige. Han hevder at mange av dem er skuespillere og skuespillerinner, og at selskapet mottar alt fra 50 til 100 bestillinger for detaljerte medisinske rapporter hver dag – så mange at det har problemer med å holde tritt med etterspørselen. For Hassan er kjernen i hans oppdrag å bekjempe den kommende klassismen mellom de som anses som vakre og de samfunnet synes er stygge. Det vi prøver å gjøre er å hjelpe den gjennomsnittlige personen, fortalte han meg.
Det er imidlertid andre måter å hjelpe den gjennomsnittlige personen på. Hver ekspert jeg snakket med sa at avsløring og åpenhet fra selskaper som bruker skjønnhetsscore er avgjørende. Belongie mener at å presse selskaper til å avsløre hvordan anbefalingsalgoritmene deres fungerer, vil bidra til å holde brukerne trygge. Selskapet bør eie det og si ja, vi bruker prediksjon for ansiktsskjønnhet, og her er modellen. Og her er et representativt galleri med ansikter som vi tror du finner attraktive basert på nettleseratferden din. Og jeg mener at brukeren bør være klar over det og kunne samhandle med det. Han sier at funksjoner som Facebooks annonsegjennomsiktighetsverktøy er en god start, men hvis selskapene ikke gjør det, og de gjør noe som Face++ der de bare tilfeldig antar at vi alle er enige om skjønnhet ... kan det være maktmeglere som tok rett og slett den avgjørelsen.
Selvfølgelig må industrien først innrømme at den bruker disse scoringsmodellene i utgangspunktet, og publikum må være klar over problemet. Og selv om det siste året har brakt oppmerksomhet og kritikk til ansiktsgjenkjenningsteknologi , sa flere forskere jeg snakket med at de var overrasket over mangelen på bevissthet rundt denne bruken av det. Rhue sier at det mest overraskende med skjønnhetsscoring har vært hvor få mennesker som undersøker det som et tema. Hun er ikke overbevist om at teknologien bør utvikles i det hele tatt.
Mens Hassan vurderte mine egne feil med meg, forsikret han meg om at en god fuktighetskrem og litt vekttap burde gjøre susen. Og selv om estetikken i ansiktet mitt ikke vil bestemme karrierebanen min, oppmuntret han meg til å ta resultatene mine på alvor.
Skjønnhet, minnet han meg om, er en valuta.