211service.com
Podcast: I AI of the Beholder
Ideer om hva som utgjør skjønnhet er komplekse, subjektive og på ingen måte begrenset til fysiske utseende. Selv om det er unnvikende, vil alle ha mer av det. Det betyr big business og i økende grad bruker folk algoritmer for å skape sitt ideelle jeg i den digitale og noen ganger fysiske verdener. I denne episoden utforsker vi populariteten til skjønnhetsfiltre, og setter oss ned med noen som er overbevist om at programvaren hans vil vise deg hvordan du napper og stikker deg til et bedre liv.
Vi møtes:
- Shafee Hassan, grunnlegger av Qoves Studio
- Lauren Rhue, assisterende professor i informasjonssystemer ved Robert H. Smith School of Business
Studiepoeng
Denne episoden ble rapportert av Tate Ryan-Mosley, og produsert av Jennifer Strong, Emma Cillekens, Karen Hao og Anthony Green. Vi er redigert av Michael Reilly og Bobbie Johnson.
Avskrift
[TR ID]
[Montage av sanger om skjønnhet]
Sterk: Skjønnhet har alltid vært en av samfunnets største besettelser. Og så lenge vi har tilbedt det... har vi også funnet måter å endre og forbedre det på. Fra sminke og klær ... til airbrushing-bilder ... eller et kirurgisk napp. Og nå? AI.
[Montage av nyhetsdekning om skjønnhetsfiltre]
[Lyd fra en Apple keynote med bildeforsterkning der kvinner får kvinner til å smile mer. Publikum jubler]
Sterk: Du er kanskje ikke klar over det ... men denne teknologien er rett ved fingertuppene. I skjønnhetsfiltrene på telefonen og sosiale medier. Teknologien har blitt så god til å oppdage hvor øynene, nesen og kjevelinjen er, at det er enklere enn noen gang å justere disse funksjonene. Med et enkelt sveip kan du finjustere øyenbrynsbuen, eller justere leppekurven og konstruere ditt 'ideelle bilde'.
Det er mulig det vil være 45 milliarder kameraer i verden innen neste år ... sammen med stadig flere måter å bruke AI til å analysere, merke, redigere og prioritere disse bildene. Selskaper som Microsoft, NVIDIA og Face++... har alle offentlig utgitte produkter ment å måle skjønnhet på en eller annen måte. Det er til og med AI-drevne systemer som lover å se på bilder av ansiktet ditt for å fortelle deg hvor vakker du er – (eller ikke er) – og hva du kan gjøre med det.
Hassan: Så vi viser deg hva algoritmen ser etter. Og hvis du ønsker å endre det, kan du, vet du, bruke disse, disse operasjonene.
Sterk: Men kan hvem som helst, eller noen ting , være virkelig objektiv om skjønnhet?
Rhue: La oss bare si at jeg aldri har sett en kultursensitiv skjønnhets-AI.
Sterk: Og vil denne nye bølgen av skjønnhetsforbedring etterlate vår neste generasjon med mer usikkerhet enn noen gang?
Veronica: Det er på en måte at filtrene på en måte er skadelige for folks mentale helse og kan være veldig ødeleggende for noen mennesker fordi de sammenligner seg med det.
Sterk: Jeg er Jennifer Strong, og denne episoden ser vi på maskinenes rolle i å forme våre skjønnhetsstandarder og hvordan disse standardene former oss.
[VIS ID]
Veronica: Når jeg skal bruke et ansiktsfilter er det fordi det er visse ting jeg vil se annerledes ut. Så hvis jeg ikke bruker sminke eller hvis jeg synes jeg ikke nødvendigvis ser best ut, endrer skjønnhetsfilteret på en måte visse ting ved utseendet ditt.
Veronica: Hei, jeg heter Veronica. Jeg er 19 år gammel og jeg er fra Minnesota.
Sophia: Jeg er Sophia, jeg er 15. Og jeg er også fra Minnesota.
Sterk: De er søstre ... og ivrige brukere av sosiale medier. De bruker skjønnhetsfiltre for å forbedre hvordan de ser ut på bilder. De viser produsenten min Tate Ryan-Mosley noen av favorittene deres.
Sophia: Ser jeg sånn ut? Nei. Ikke en bit.
Tate: Beskriv hva som får deg til å se annerledes ut på det bildet?
Sophia: Den har disse massive vippene som får øynene mine til å se vakre ut. Leppene mine tredobles i størrelse og nesen min mindre.
Veronica: Mitt ideelle filter. Det kalles Naomi-filteret på Snapchat. Det renser huden din og gjør øynene dine enorme.
Tate: Når begynte du å bruke dem? Husker du?
Veronica: Femte klasse? Jeg vet ikke. Det var mer morsomt i begynnelsen. Som om det var litt som en spøk, som om folk ikke prøvde å se bra ut når de bruker filtrene
Sophia: Det var jeg definitivt. Som 12 år gamle jenter, som å ha tilgang til noe som gjør at du ikke ser ut som om du er 12. Som om det er den kuleste tingen noensinne.
Sterk: Filtre er eksplosivt populære. Noen er morsomme ... som den som satte valpeører og en falsk nese i ansiktet ditt. Andre er merket, geotagget, og det er kunstneriske også. Men uten tvil den vanligste typen er skjønnhetsfiltre, som endrer utseendet til noen på et bilde i et forsøk på å gjøre dem mer attraktive – ofte ved å omforme og fargelegge funksjonene deres.
Og de største fansen er unge jenter.
I årevis har disse søstrene brukt filtre nesten hver dag, men de er fortsatt ikke sikre på hvordan de føler om dem.
Veronica: Med sosiale medier generelt. Det er umulig å ikke sammenligne seg med mennesker. Men jeg tror at når folk bruker slike filtre og de ikke avslører det. Jeg føler at det kan føre til at folk blir mer usikre eller mer påvirket av det enn de ville gjort på bare et vanlig bilde, fordi du setter mindre pris på deres naturlige skjønnhet sammenlignet med skjønnheten som på en måte var formulert for å gjøre dem se perfekt ut.
Sophia: Det er ikke normalt. Det er ikke en normal kropp. // Vi føler oss så pene i dem. Og det er som hvorfor..
Veronica: Er dette noe av en validering når du oppfyller den standarden? Selv om det bare er for å like et bilde...
[Lyd fra TEDx talk: Epidemic of Beauty Sickness]
Engeln: For omtrent 15 år siden var jeg en ivrig ung doktorgradsstudent. Og jeg brukte mye tid på å undervise.
Sterk: Dette er Renee Engeln, professor i psykologi ved Northwestern University, som holder en TEDx-tale.
Engeln: Og jo mer jeg lyttet til de kvinnelige studentene mine, jo mer fanget jeg opp noe urovekkende. Disse lyse, talentfulle unge kvinnene brukte alarmerende mengder tid på å tenke på å snakke om å prøve å endre sitt fysiske utseende.
Nå er vår oppfatning av skjønnhet komplisert. De har dype evolusjonære røtter. Fra et vitenskapelig perspektiv er skjønnhet ikke bare ønskelig, men også sjelden.
Sterk: Hun fortsatte med å studere dette problemet, og intervjuet kvinner om hvordan de ble påvirket av konstant å se bilder av urealistiske skjønnhetsstandarder ... og det hun fant var ... uventet.
Engeln: Kvinner vet at kvinnene de ser på disse bildene, ikke er representative for den generelle kvinnebefolkningen. De er veldig klar over at i den virkelige verden, ingen, ingen faktisk ser slik ut... Det ser ikke ut til å spille noen rolle. Å vite bedre er ikke nok. Den samme kvinnen som sa dette, for eksempel, denne kroppstypen er urealistisk mager og ribbeina hennes vises og du er liksom, ja, rett på. Hun fulgte det opp med, jeg føler at jeg vil være sånn.
Sterk: Engeln holdt sitt foredrag i 2013...godt før AI-skjønnhetsfiltre. Og i disse dager ser vi ikke bare modellerte modeller i magasiner ... men bilder av oss selv og vennene våre som har blitt retusjert av algoritmer.
Og ... det gir næring til en helt ny industri ...
Hassan: Vi innså at det er behov for å lære hvordan du redigerer ansikter på riktig måte. Og fra det innså vi at det også er behov for å vurdere ansikter for å forstå hva som gjør et ansikt attraktivt, eller for å bedre forstå hvilke endringer som vil få et ansikt til å se bedre ut.
Sterk: Shafee Hassan er grunnleggeren av Qoves Studio. Det er bare ett av en rekke nye selskaper som bruker nevrale nettverk for å gjenkjenne ting i folks ansikter som kan anses som lite attraktive. Han er bygningsingeniør av utdannelse ... som han sier forteller arbeidet hans.
Hassan: Og disse feilene dukker opp gang på gang. Og de er veldig vanlige i visse etnisiteter og mindre vanlige i andre, og en datamaskin kan oppdage det veldig nøyaktig fordi pikselverdiene, fargeverdiene er veldig like uavhengig av hvor du ser på det eller hvilken del av ansiktet det er fra .
Sterk: Forskere mener sosiale medier-giganter som Facebook, Instagram og Tik Tok alle bruker algoritmer som måler attraktiviteten til et ansikt.
Hassan: ...avgjøre eller forhåndsbestemme om et innhold skal lykkes eller ikke, og deretter skyve innholdet videre til en større populasjon av brukere.
Sterk: Til dags dato har ingen bekreftet dette. Det vi vet (fra rapportering fra The Intercept) er at TikTok ba innholdsmoderatorene deres om å undertrykke videoer med personer de anså som uattraktive, dårlige eller som har en funksjonshemming. En TikTok-talsperson sa at disse reglene var et tidlig, sløvt forsøk på å forhindre mobbing og ikke lenger på plass.
Og det er her selskaper som Hassans kommer inn. Fra hans perspektiv er det å krangle om hvorvidt det er rett eller galt å promotere og undertrykke bilder av mennesker basert på deres utseende?... litt ved siden av poenget. Han sier at dette systemet er virkeligheten og ansiktstrekk påvirker sosial status, profesjonelle utsikter og inntekt. Men han tror selskapet hans kan gjøre den prosessen mer oversiktlig.
Hassan: Så vi viser deg hva algoritmen ser etter. Og hvis du ønsker å endre det, kan du, vet du, bruke disse, disse operasjonene. Og det er også noe vi tilbyr. Vi tilbyr måter, løsninger, og det trenger ikke engang å være kosmetisk. Søvn kan forbedre konturene under øynene dine, som en skjønnhetsalgoritme kan straffe deg med 0,5 av et merke.
Sterk: Uh-he. Du hørte rett. Operasjoner for å hjelpe folk legemliggjøre det de tror maskinene leter etter. YouTube-kanalen hans fokuserer på nettopp det – med videoer som får mer enn en million visninger. Som denne:
[Lyd fra YouTube-video med Hassan]
Hassan: Velkommen til den første episoden av å definere skjønnhet... Hvor jeg prøver å utforske hva som gjør et ansikt attraktivt på en mest mulig objektiv måte.
Sterk: Og de tilbyr detaljerte rapporter om disse opplevde feilene.
Hassan: Ideelt sett bør menneskelige øyne være én øyebredde fra hverandre … her er en artikkel skrevet om et eksperiment fra 2008 om spesifikt interpupillær avstand mellom øynene og hvordan de påvirker attraktiviteten.
Sterk: Han ser på kirurgi som en større del av fremtiden vår, spesielt ettersom viktigheten av vårt online image øker.
Hassan: Hele poenget er at vi ønsker å klargjøre hvordan folk ser på kirurgi som et mer positivt verktøy for sosial mobilitet, fordi utseendet ditt påvirker måten du blir behandlet på, hvor mye penger du tjener, hvordan din sosioøkonomiske status kan bevege seg opp eller ned. Hvis du har en deformert kjeve, skal jeg ikke fortelle deg at du er vakker, akkurat slik du er. Og jeg tror du bør få korrigert det fordi forskning har vist at en kjeve-cervikal vinkeldeformitet på f.eks. 130 grader eller mer er svært strengt vurdert som svært lite attraktiv av som flertallet av lekperson-bedømmere. Så, akkurat som ideen om denne politisk korrekte måten å skjønnhet på, skjønnhet er noe jeg ønsker å ta på meg, selv om det er kontroversielt. Jeg føler at mange er enige i det jeg sier. Og det er åpenbart derfor jeg har en plattform.
Sterk: Jeg spurte Hassan om han har fått mye kritikk for dette arbeidet.
Hassan: Morsomt nok var den hardeste kritikken jeg fikk fra venner og familie da jeg startet, og aldri kritikk fra noe sted på internett, eh, folk var veldig nysgjerrige på teknologien. Det vekker noen bekymringer om personvernet, men vi gjør selvsagt vårt beste for å holde alt så sikkert som mulig. Det vekker noen bekymringer om, um, jeg antar, en overordnet følelse av kontroll, du vet, å fortelle folk at dette er galt med ansiktet ditt, bla, bla, bla.
Sterk: Men skjønnhetsalgoritmer ha komme under alvorlig kritikk for å opprettholde rasisme og alderisme. For eksempel, i 2016, arrangerte Microsoft og NVIDIA en skjønnhetskonkurranse med en AI-dommer. Og av 6-tusen påmeldte var nesten alle de 44 vinnerne hvite.
Hassan: Vel, et av de store problemene med skjønnhetsalgoritmer er at de vanligvis trender med kaukasiske ansikter. Og så straffer de ansikter med ikke-eurosentriske trekk veldig hardt fordi de ikke er trent med den typen funksjoner. Nå, en av tingene, da vi utviklet algoritmen vår, er å trene den med så mange forskjellige ansikter som mulig. Jeg har alltid trodd at attraktive mennesker er en egen rase. Så deres attraktive egenskaper overskrider på en måte en eurosentrisk eller en kaukasisk eller en afrosentrisk eller hva sentrisk du vil se på. Skarpe kjever, skarpe kinnben, magert ansiktsfett, som dette er ikke en eurosentrisk ting. Dette er bare en biologisak.
Sterk: Og Hassan henter sin «inspirasjon» fra den dypt dystopiske 90-tallsfilmen Gattaca .
[Lyder fra teatertraileren til Gattaca]
Hassan: Så Gattaca er veldig virkningsfull fordi mange mennesker ikke er født de mest genetisk begavede. Og dette går tilbake til ideen om at kjendisene på toppen, de pene attraktive menneskene på toppen er der bare fordi de er genetisk begavet. Jeg tror ikke helt at det var slik de kom dit. Jeg tror mye av det har å gjøre med litt hjelp fra kirurgi, litt hjelp fra kosthold, litt hjelp fra trenere i verdensklasse. Dette er ting som de aldri vil snakke om, men det er, det er en del av illusjonen av å være uoppnåelig og bli opphøyet fra hverdagsmennesket. Så Gattaca er det beste symbolet, den beste representasjonen av i bunn og grunn hva selskapet vårt handler om.
Sterk: Mens han rapporterte denne historien... bestemte produsenten min Tate seg for å prøve ut verktøyet for ansiktsvurdering. Og å se hva som utfolder seg neste gang gjør meg ekstremt ukomfortabel.
Jeg hadde denne opplevelsen på en messe for noen år tilbake ... og selv om jeg visste at det var en gimmick ... plantet det fortsatt frykt i hodet mitt. Og nå på denne zoomskjermen? Det går utover skremmetaktikker og overpriset ansiktskrem ... dette verktøyet anbefaler nåler og kniver ...
Hassan: Så, vi er på nettsiden Og så langt så bra, vi ruller nedover. Så dette er ditt, um, bilde. Vi kan laste den opp. Jeg er ikke en robot... Her. Her. Ok, og dette er feilene som datamaskinen oppdager.
Hassan: Utdypet nasolabiale folder. Dette er disse linjene her, og det er fordi du smiler...Under øyekonturdepresjon, som definitivt er her...regionen synker bare øyeblikkelig. Og så går den opp igjen når den kommer mot kinnbeina. Så generelt for attraktive ansikter, er konturen inline. Det er i flukt med øynene, så lette, lette mørke ringer. hovne nedre øyelokk, noe jeg er enig i. Dette øyelokket er definitivt veldig hovne uansett grunn, men dette er det ikke. Så det er det den har plukket opp i stedet for 0,5 eller 0,58, som er anstendig sterkt. en nasal Jugal fettpute, eh, det er denne puten her, den er veldig liten. Og så på denne 0,3, som er, tror jeg nøyaktig, er det ikke noe jeg bekymrer meg veldig over om datamaskinen tror at du har en epikantisk fold som er et asiatisk monolid som de kaller det ... og det er sannsynligvis fordi fettet på øvre øyelokk dekker opp mye av det øvre øyelokket ditt. Så det ser i grunnen på det som hele greia, å være ett øyelokk.
Sterk: La oss trykke på pauseknappen her for en eller annen kontekst ... hvor rart det er for meg å beskrive min venn og kollega på denne måten ... du kan ikke se Tate. Så, med hennes tillatelse ... her går vi: hun er høy, blond, har disse store blå øynene, sterke kinnbein og et gigantisk smil ... hun er også ung, som tosifret yngre enn meg ... og så langt som disse genetikkene går? Hun er datteren til en profesjonell idrettsutøver.
Men vi hører anbefalinger om hva hun kan gjøre for å fikse de antatte feilene hennes ... inkludert forskjellige typer plastisk kirurgi ... og jeg kan ikke la være å tenke på hvor hardt dette verktøyet kan dømme resten av oss ... spesielt noen som ikke er unge og hvit.
Sterk: Vi skal ta en kort pause, men først … Vennene våre på Financial Times har relansert podcasten deres, Tech Tonic. Finn ut hvordan en enhet som din fitbit kan være den første som vet at du har covid ... eller hva antitrustlover betyr for en spesialist på røkt fisk ... innovasjonsredaktør John Thornhill tar oss med inn på akuttmottak, cruiseskip og klasserom for å utforske hvordan teknologi har omformet vår verden ... og hva det betyr for oss.
Alle fem episodene er tilgjengelige nå uansett hvor du får podcastene dine... bare søk etter tech tonic.
Vi kommer tilbake ... rett etter dette.
[MIDROLL]
Sterk: Hva betyr det å ta allerede mangelfulle standarder for skjønnhet ... i stor grad pålagt oss av oss selv ... og i stedet? Gi bort dette rotet til algoritmer som er enda mer mangelfulle, fulle av skjevheter, og som ytterligere forsterker eurosentriske funksjoner som de definisjon av hva som er vakkert...
Enten det er et Instagram-filter som gjør øynene større ... huden jevnere og kjevelinjene skarpere ... Eller programvare som viser hvordan funksjonene dine savner det standardiserte merket ...
...og derfor ringte vi en forsker som undersøker hvordan teknologi påvirker valgene vi tar.
Rhue: Og jeg så på ansiktsgjenkjenningsverktøyene som var der ute for å prøve å forstå bildene bedre. Og det var da jeg skjønte at det fantes scoringsalgoritmer for skjønnhet.
Sterk: Lauren Rhue er professor ved University of Maryland School of Business.
Rhue: Og jeg trodde det virket umulig. Skjønnhet er helt i øyet til betrakteren. Det er alle disse forskjellige kulturelle standardene som har med skjønnhet å gjøre. Hvordan kan du trene en algoritme for å finne ut om noen er vakker eller ikke?
Sterk: Denne typen scoring er forskjellig fra hva Hassan gjør... men begge bruker samme teknologi.
Rhue: Vel, du laster opp et bilde og de, med en poengsum på null til 100, vil fortelle deg hvor vakker denne personen er. De faktisk, papiret jeg skriver, ser på Face Plus Plus, og de deler det inn i en mannlig partitur og en kvinnelig partitur. Så kvinner synes denne personen er vakker, 85 av hundre, mens menn tror kanskje hun er 90 av hundre.
Sterk: Det er stort sett uklart hvilke selskaper som bruker skjønnhetsscoringsalgoritmer ... men for de som ønsker det, er de lett tilgjengelige for salg. For eksempel, en av de største aktørene i dette – Face Plus Plus, eid av kinesisk teknologisk enhjørning, Megvii – Skjønnhetsscoringsfunksjonen deres er tilgjengelig som en del av ansiktsgjenkjenningssystemet deres. Instagram og Facebook har benektet å bruke slike algoritmer. TikTok og Snapchat nektet å kommentere ... men Rhue sier at bare anbefalingsalgoritmene i seg selv ofte ender opp med å måle attraktivitet ... uavhengig av om de er ment å gjøre det.
Rhue: Vel, hvis du ser på hva Instagram vil ha, kommer det i hovedsak til å være modeller, ikke sant? Du kommer ikke til å se mange forskjellige typer ansiktstrekk og uttrykk. Og, og det kommer til å opprettholde denne ideen om skjønnhet fordi, um, på grunn av mangelen på mangfold i det du ser på Instagram, og det som er ekstremt populært på Instagram
Sterk: Med andre ord, bildene som er bedømt til å være vakrest av brukere får flest likes ... og det er det som blir anbefalt til andre ...
Rhue: Vi begrenser typen bilder som er tilgjengelige for alle.
Sterk: Når du kombinerer det med at folk gjennomgripende bruker disse skjønnhetsfiltrene på bildene sine ... det har ført til noe som kalles instagram-ansiktet ... som er en spesiell estetikk som er prioritert og belønnet på sosiale medier. Og det har skapt et nytt idealisert utseende som dominerer plattformen.
Rhue: Jeg forstår at det er mer en underholdningsverdi for hvorfor vi har skjønnhetsfiltre, men vårt valg av skjønnhetsfiltre er definitivt basert på kulturen, ikke sant? Informert om hva skjønnhetsstandardene er. Og mange ganger er det eurosentriske skjønnhetsstandarder, og du kan se det med noen av ansiktsgjenkjenningsproblemene som har fortsatt å dukke opp. Så det faktum at på zoom kan folk med veldig mørk hud, bokstavelig talt, huden gå tapt. For asiatiske ansikter at øynene deres opprinnelig ikke ble sett av kameraer. Ikke sant? Og så på det faktum at mange av skjønnhetsfiltrene er der for å få øynene til å se større ut. Og noe av det er at det er det folk vil ha. Og det er der jeg tror kyllingen og egget kommer inn. Er det, hvordan skal du utvide dette, ideen om skjønnhet bort fra bare eurosentriske skjønnhetsstandarder hvis vi ser disse skjønnhetsfiltrene som opprettholder visse egenskaper som mer attraktive enn andre .
Sterk: Sosiale medier er velkjent for å være ekskluderende, det samme er skjønnhetsindustrien. Men det er AI også.
Rhue: Jeg ble selvfølgelig interessert for å se om du kunne se disse kulturelle skjevhetene i algoritmene. Og selvfølgelig kan du det. La oss bare si at jeg aldri har sett en kultursensitiv skjønnhets-AI.
Sterk: Rhues forskning fant at kvinner med lysere hud og hår konsekvent ble vurdert som mer attraktive enn kvinner med mørkere hud og hår. Og også filtre, som bruker ansiktsdeteksjon, vil sannsynligvis ha en viss rasemessig skjevhet innebygd. Og konsekvensene går langt utover den digitale verden.
Rhue: Jeg synes vi bør være veldig forsiktige når vi tenker på valg i det digitale rom. Jeg mener, det har vært omfattende studier som har vist at rekkefølgen du anbefaler noe til noen endrer deres faktiske preferanser. Så siden vi har alle disse, eh, anbefalingsalgoritmene og disse beslutningsstøtteverktøyene som hjelper oss å finne ut hva vi skal kjøpe eller hvordan vi skal posisjonere oss i sosiale medier, endrer det det vi tror vi ønsker.
Sterk: Og hun mener bruken av A-I i skjønnhet i stor grad blir oversett av teknologimiljøet.
Rhue: Det er bare ikke noe vi egentlig snakker om. Og jeg tror det taler om viktigheten av mangfold i dette rommet. Mange sier: Å, vel, skjønnhet er bare ikke viktig fordi vi er teknologiske mennesker og er objektive. Men selvfølgelig, jeg mener, skjønnhet er denne enorme industrien... den har en slik innvirkning på mennesker. Og ideen om at det ikke er mer forskning er, er veldig interessant for meg.
Sterk: Neste episode... vi ser på fremtiden for digitale betalinger.
Omar Farooq: Vi tror at det er en vei fremover der penger kan bli smartere selv. Så du kan faktisk programmere mynten og den kan kontrollere hvem den går til. Så det er egentlig ikke mulig i dagens sentraliserte systemer. Det kan bare gjøres i et desentralisert, smart pengeaktivert system.
Sterk: Denne episoden ble rapportert av Tate Ryan-Mosley, og produsert av meg, Emma Cillekens, Karen Hao og Anthony Green. Vi er redigert av Michael Reilly og Bobbie Johnson.
Takk for at du lyttet, jeg heter Jennifer Strong.
[TR ID]