Hvordan digitale skjønnhetsfiltre opprettholder kolorisme

En eldgammel form for fordommer om hudfarge blomstrer i den moderne internettalderen.

Joan Wong

av

• Tate Ryan-Mosley arkivside

15. august 2021

Da Lise var en ung tenåring i Georgia, mobbet klassekameratene henne nådeløst. Hun hadde flyttet med familien fra Haiti noen år tidligere, og hun passet ikke inn med de andre studentene. De ertet henne med aksenten hennes, hevdet at hun luktet rart, og kritiserte maten hun spiste. Men oftest angrep de henne med bemerkninger om hennes mørke hudfarge. Noen ganger sendte lærere henne hjem fra skolen fordi hun ikke klarte å slutte å gråte. Jeg husker at jeg gikk hjem og tok de kobbertrådstingene som man skrubber oppvasken med, sier hun. Jeg gikk på do og tok morens blekekrem og skrubbet huden min med den.

Og det var ikke bare hvite klassekamerater. Svarte studenter trakasserte henne også - for å være en outsider, for å være for annerledes. Hun husker at de spurte: Hvorfor er hun så mørk?

Hør historien her

Akkurat da hun trodde det ikke kunne bli verre, ble telefonen i håndflaten hennes en endeløs strøm av bilder av vakre, lysere kvinner som fikk dusinvis, hundrevis eller til og med tusenvis av likes og bekreftende kommentarer. Hun begynte sakte å legge merke til at verden ville ha deler av henne – som kurvene og leppene hennes – men ikke ting som den mørke huden hennes eller håret. Ikke hele henne selv, alle sammen.

Mens hun slet med å takle overgrepene, overbeviste Lise seg selv om at mørket i huden hennes hadde skylden. Og sosiale medieplattformer og den visuelle kulturen på internett antydet det samme.

Selv blant de nærmeste ble det uønskede i mørket hennes forsterket. Hun begynte å innse at moren, tantene og vennene hennes alle brukte de hudlysende kremene hun hadde lånt etter skolen, mange av dem inneholder giftstoffer og til og med kreftfremkallende stoffer. Det var forvirrende: Samfunnet hennes kjempet hardt mot rasisme, men noen av fordommene hun opplevde kom fra svarte selv.

Og sosiale medier gjorde det bare verre.

Fordommen Lise opplevde – kolorisme – har en lang historie, drevet av europeiske skjønnhetsidealer som forbinder lysere hud med renhet og rikdom, mørkere toner med synd og fattigdom. Selv om det er relatert til rasisme, er det distinkt ved at det kan påvirke mennesker uavhengig av rase, og kan ha forskjellige effekter på mennesker med samme bakgrunn.

Relatert historie

Jeg spurte en AI om å fortelle meg hvor vakker jeg er

Datamaskiner rangerer hvordan folk ser ut – og resultatene påvirker tingene vi gjør, innleggene vi ser og måten vi tenker på.

Kolorisme finnes i mange land. I India ble mennesker med mørkere hud tradisjonelt rangert lavere i kastesystemet. I Kina er lys hud knyttet til skjønnhet og adel. I USA opplever folk på tvers av mange raser kolorisme ettersom det er fordommer som først og fremst er forankret i hudfarge snarere rase. Historisk sett, da afroamerikanere ble slavebundet, fikk de med lysere hud ofte flere huslige oppgaver der de med mørkere hud var mer sannsynlig å jobbe i felten.

Disse fordommene har vært en del av det sosiale og medielandskapet i lang tid, men bruken av digitale bilder og Photoshop skapte nye måter for kolorisme å manifestere seg. I juni 1994, notorisk, kjørte både Newsweek og Time forsidebilder av O.J. Simpsons krus ble skutt under drapsrettssaken hans - men på forsiden av Time var huden hans markant mørkere. Forskjellen utløste forargelse: Tiden hadde formørket bildet i det magasinet er fotoillustratøren hevdet var et forsøk på å fremkalle en mer dramatisk tone. Men redigeringen reflekterte at jo mørkere mannen er, jo mer kriminell antar den amerikanske offentligheten at han er.

Denne assosiasjonen har svært reelle konsekvenser. En studie fra 2011 fra Villanova University fant en direkte sammenheng mellom alvorlighetsgraden av straffer for 12 000 fengslede kvinner og mørket i huden deres .

Og i dag, takket være utbredelsen av selfies og ansiktsfiltre, har digital kolorisme spredt seg. Med Snapchat, Instagram, TikTok og Facebook en del av milliarder av menneskers hverdag, opplever mange av oss at folk ser langt flere bilder av oss enn noen gang før. Men det er skjevheter innebygd i disse systemene. På et grunnleggende nivå er bildebrikker som finnes i de fleste personlige kameraer har forhåndsinnstilte områder for hudtoner , gjør det teknisk umulig for nøyaktig å fange den virkelige variasjonen av hudfarger.

Over 200 millioner mennesker bruker Snapchat-linser hver dag, noen av dem for å lysne hudtonen. Andre filtre og automatiske forbedringsfunksjoner kan gjøre det samme på Instagram og TikTok.

Og bildene som blir tatt er ofte gjenstand for endringer. Det melder Snapchat over 200 millioner mennesker bruker filterproduktet, linser, hver dag. S noen av dem bruker det for å lysne hudtonen deres ; andre filtre og automatiske forbedringsfunksjoner kan gjøre det samme på Instagram og TikTok . Fototeknologier og bildefiltre kan gjøre dette på måter som er nesten umerkelige. I mellomtiden forsterker sosiale medier-algoritmer populariteten til personer med lysere hud til skade for de med mørkere hud. Bare denne uken ble Twitters bildebeskjæringsalgoritme funnet til foretrekker ansikter som er lysere, tynnere og yngre.

Selfie-aktelse

Vi har tidligere rapportert om måtene digital teknologier begrenser skjønnhetsstandarder. Fenomenet har ført til konseptet med Instagram-ansiktet, et spesielt utseende som er lett tilgjengelig gjennom spredningen av redigeringsverktøy. Bilder som gjenspeiler dette utseendet, med en liten nese, store øyne og fyldigere lepper, tiltrekker seg flere kommentarer og likes, noe som leder anbefalingsalgoritmer for å prioritere dem. Vi har også intervjuet forskere som sier at skjønnhetsidealer blir smalere enda mer dramatisk og raskere enn de forventet – med spesielt dype effekter på måten unge jenter, spesielt, ser seg selv og former sin identitet.

Men det kan være spesielt katastrofalt for kvinner med mørkere hudfarge, sier Ronald Hall, professor ved Michigan State University og ekspert på kolorisme. Ettersom flere europeiske utseende i økende grad blir holdt frem som et ideal, imiterer disse unge jentene denne oppførselen, og de som er supermørke, ser ingen vei utenom, sier han. Det er de som har størst risiko for å skade seg selv.

Relatert historie

Skjønnhetsfiltre endrer måten unge jenter ser på seg selv

Den mest utbredte bruken av utvidet virkelighet er ikke i spill: det er ansiktsfiltrene på sosiale medier. Resultatet? Et masseeksperiment på jenter og unge kvinner.

Denne skaden kan innebære bleking eller andre risikable kroppsbehandlinger: hudbelysningsindustrien har vokst raskt og er nå verdt mer enn $ 8 milliarder over hele verden hvert år. Men utover fysisk risiko, har forskere og aktivister også begynt å dokumentere urovekkende emosjonelle og psykologiske effekter av online-kolorisme.

Amy Niu forsker på selfie-redigeringsatferd som en del av doktorgraden i psykologi ved University of Wisconsin, Madison. I 2019 gjennomførte hun en studie for å bestemme effekten av skjønnhetsfiltre på selvbilde for amerikanske og kinesiske kvinner. Hun tok bilder av 325 kvinner i college-alderen, og uten å fortelle dem brukte hun et filter på noen bilder. Hun undersøkte deretter kvinnene for å måle følelsene og selvtilliten deres når de så redigerte eller uredigerte bilder. Resultatene hennes, som ennå ikke er publisert, fant at kinesiske kvinner som så på redigerte bilder følte seg bedre med seg selv, mens amerikanske kvinner (hvorav 87 % var hvite) følte omtrent det samme om bildene deres ble redigert eller ikke.

Niu mener at resultatene viser at det er store forskjeller mellom kulturer når det kommer til skjønnhetsstandarder og hvor mottakelige folk er for disse skjønnhetsfiltrene. Hun legger til at teknologiselskaper innser det, og de lager forskjellige versjoner [av filtrene deres] for å skreddersy til behovene til forskjellige grupper mennesker.

Dette har noen veldig åpenbare manifestasjoner. Niu, en kinesisk kvinne som bor i Amerika, bruker både TikTok og Douyin, den kinesiske versjonen (begge er laget av samme selskap, og deler mange av de samme funksjonene, men ikke det samme innholdet.) De to appene har begge forskjønnelsesmoduser, men de er forskjellige: Kinesiske brukere får mer ekstreme utjevnings- og hudfargeeffekter.

Hun sier at forskjellene ikke bare gjenspeiler kulturelle skjønnhetsstandarder - de opprettholder dem. Hvite amerikanere har en tendens til å foretrekke filtre som gjør huden brunere, tennene hvitere og øyevippene lengre, mens kinesiske kvinner foretrekker filtre som gjør huden lysere.

Niu bekymrer seg over at den enorme spredningen av filtrerte bilder gjør skjønnhetsstandardene mer enhetlige over tid, spesielt for kinesiske kvinner. I Kina er skjønnhetsstandarden mer homogen, sier hun og legger til at filtrene sletter mange forskjeller i ansiktene våre og forsterker ett spesielt utseende.

Det er virkelig ille

Amira Adawe har observert den samme dynamikken i måten fargede unge jenter bruker filtre på sosiale medier. Adawe er grunnlegger og administrerende direktør for Beautywell, en Minnesota-basert ideell organisasjon som tar sikte på å bekjempe kolorisme og hudlysende praksiser. Organisasjonen driver programmer for å utdanne fargede unge jenter om nettsikkerhet, sunn digital atferd og farene ved fysisk lysere hud.

Adawe sier at hun ofte må informere jentene i verkstedene hennes om at huden deres blir lysnet av sosiale medier-filtre. De tror det er normalt. De sier: 'Å, dette er ikke lysere hud, Amira. Dette er bare et filter, sier hun. Mange av disse unge jentene bruker disse filtrene og tenker: 'Herregud, jeg ser vakker ut.'

'De tror det er normalt ... [men] det bidrar til denne forestillingen om at du ikke er vakker nok.'

Amira Adawe, Beautywell

Det er så enkelt å gjøre – med noen få klikk kan brukerne gjøre utseendet mer likt alle andres ideal – at mange unge kvinner ender opp med å anta en lysere identitet på nettet. Dette gjør det lettere å finne aksept i den digitale verden, men det kan også gjøre det vanskeligere for dem å identifisere seg med sin virkelige hudfarge.

Når Adawe forklarer hvordan bruk av et ansiktsfilter kan være en del av en syklus av kolorisme, blir hun ofte møtt med motstand. Filtrene har blitt avgjørende for hvordan noen jenter ser seg selv.

Det er virkelig ille. hun sier. Og det bidrar til denne forestillingen om at du ikke er vakker nok.

Og det er komplisert uavhengig av hudtonen din.

Halle, en enslig biracial kvinne i midten av 20-årene, tenker mye på sin egen raseidentitet. Hun sier at de fleste ville brukt begrepet tvetydig for å beskrive utseendet hennes. Jeg har hvitere trekk, sier hun. Huden min er lysere enn noen andre jenter av blandet rase, og håret mitt er mindre krøllete. Hun pleide også å være en vanlig bruker av datingapper. Og fra samtaler med vennene hennes som har mørkere hudfarge, innså hun at hennes erfaring med dating-apper var veldig forskjellig fra deres.

Helt ærlig sammenligner vi kamper og antall kamper, sier hun. Det var der jeg begynte å innse: vent litt, det er noe som skjer her. Vennene mine som identifiserer seg som svarte eller afro-latina får ikke så mange treff.

Det er allerede kjent at skjønnhetsscorende algoritmer, som rangerer attraktiviteten til bilder, gi høyere score til hvitere kvinner . I mars rapporterte vi om hvordan verdens største ansiktsgjenkjenningsselskap, Face++, selger en rasistisk partisk skjønnhetsscoringsalgoritme som de markedsfører til digitale plattformer, og spesielt online datingsider.

Halle sier at erfaringen hennes med disse appene også gjenspeiler den bredere verden. Dette er dypt forankret i rasisme, kolorisme og alt som skjer i samfunnet vårt, sier hun. Opplevelsen ble så frustrerende for henne at hun slettet alle datingappene sine. MIT Technology Review har kontaktet mange datingsider for å spørre om de bruker skjønnhetsscorealgoritmer for kamper, men ingen vil bekrefte eller avkrefte.

Selv om de ikke bruker systemer som Face++, bruker de imidlertid anbefalingsalgoritmer for å lære brukerpreferanser over tid. Og dette er en annen måte som kolorisme og skjevhet kan snike seg inn og foreviges.

Anbefalinger basert på brukerpreferanser gjenspeiler ofte verdens skjevheter – i dette tilfellet mangfoldsproblemene som lenge har vært tydelige i media og modellering. Disse skjevhetene har igjen formet verden av online influencers, slik at mange av de mest populære bildene som standard er av personer med lysere hud. En algoritme som tolker oppførselen din inne i en slik filterboble kan anta at du misliker folk med mørkere hud. Og det blir verre: anbefalingsalgoritmer er også kjent for å ha en forankringseffekt , der produksjonen deres forsterker brukernes ubevisste skjevheter og til og med kan endre preferansene deres over tid.

I mellomtiden har plattformer inkludert TikTok blitt anklaget for bevisst skyggeforbud fra noen Black-skapere, spesielt de som diskuterer Black Lives Matter-bevegelsen eller rasisme generelt . Det reduserer rekkevidden deres, og syklusen forsterker seg selv ytterligere. (I en uttalelse sa en TikTok-talsperson 'Vi modererer utvetydig ikke innhold eller kontoer på grunnlag av rase.')

Michigan State Ronald Hall sier at han er ekstremt bekymret for innvirkningen på spesielt fargede kvinner: Fargede kvinner blir konstant bombardert med disse meldingene om at du må være lett for å være attraktiv.

Adawe, i mellomtiden, mener den eneste løsningen er et fullstendig forbud mot filtre som lysner ansikter. Hun sier at hun har sendt en e-post til Snapchat og spurt om nettopp det. Sosiale medieselskaper fortsetter å [skape] filtre fordi etterspørselen er så høy, sier hun. Men for meg tror jeg at de fremmer kolorisme, enten de innser det og om det er med vilje eller ikke.

Relatert historie

TikTok endret formen på noen menneskers ansikter uten å spørre

Brukere la merke til det som så ut til å være et skjønnhetsfilter de ikke hadde bedt om – og som de ikke kunne slå av.

En talsperson for Snap fortalte MIT Technology Review, Målet vårt er å bygge produkter som er fullt inkluderende for alle Snapchattere, og vi har satt i gang en rekke prosesser og initiativer for å hjelpe oss med det. Retningslinjene våre for alle Snapchattere – som også gjelder for linseinnsendinger – forbyr diskriminering og promotering av stereotypier, og vi har en omfattende gjennomgangsprosess på plass for linser, som inkluderer testing av dem på et bredt spekter av hudtoner.

Selskapet sier at det samarbeider med eksperter for råd, og tidligere i år det lanserte et initiativ for å bygge et inkluderende kamera , som er ment å være bedre til å fange et bredere spekter av hudtoner.

Et helt annet objektiv

Lise, som nå bor i Minnesota, slet med effektene av kolorisme i lang tid. Hun gikk i terapi, så endeløse YouTube-veiledninger om bilderedigering, og kjøpte til og med et kamera for 600 dollar som hun håpet ville få henne til å se mindre mørk ut på bilder. Etter hvert innså hun hvor skadelig det hadde vært.

Nå ser jeg bare alles sosiale medieside med en helt annen linse, sier hun.

I dag er hun nybakt mor: da vi snakket via Zoom, ble jeg møtt av den kurrende og vrikkelige babyen hennes. Jeg var henrykt, men Lise beklaget voldsomt mens hun justerte linsen.

Hun sier hun vil se flere rå bilder på nett som viser vakre kvinner som ligner henne. Hun redigerer ikke lenger hudfargen på bilder, og hun prøver hardt å stoppe de negative tankene i hodet hennes, selv om det kan være vanskelig. Å, jeg blir forbanna hvis jeg ser noen si noe til en vakker mørkhudet kvinne, sier hun. Jeg bryr meg ikke om det er online, jeg bryr meg ikke om det er personlig – jeg skal ringe deg ut. Jeg kan bare ikke være stille om det lenger, men det har tatt år. Jeg kommer til å bli mer bevisst på hva jeg lærer sønnen min.

Vi har tydeliggjort språk for å gjøre det klart at kolorisme påvirker mennesker av alle raser.