En ny plattform for sosiale medier ønsker å fremtvinge vennlighet. Kan det noen gang fungere?

Ms Tech | Pexels

På ungdomsskolen og videregående lastet Nora Tan ned de tre store av sosiale medier. Det var bare naturlig. Jeg vokste opp i en tidsalder da sosiale medier virkelig tok av, sier Tan, en produktsjef i Seattle. Jeg opprettet en Facebook-konto i 2009, en Instagram-konto i 2010, en Twitter-konto etter det da jeg gikk på videregående.

Da hun nådde college, stilte Tan spørsmål ved avgjørelsen hennes. Jeg tenkte på hvordan innhold skulle modereres og hvordan det ble brukt i politiske kampanjer og for å fremme agendaer, sier hun. Plaget av det hun lærte, slettet Tan Twitter, brukte Instagram kun til å følge naturkontoer og nære venner, og lastet ned en Chrome-utvidelse slik at når hun skrev inn Facebook på søkefeltet, fikk hun kun varsler fra vennene sine.

Så hun var ganske kynisk da en venn inviterte henne til å være en privat betatester for en ny plattform for sosiale medier, Telepat , i mars 2019. Hun var spesielt skeptisk som en farget kvinne innen teknologi. Atten måneder senere er det nå Tans kun form for sosiale medier.

Telepath ble medstiftet av tidligere Quora-sjef Marc Bodnick, og det viser at formatet på noen måter ligner Quoras. Appen kun for invitasjoner lar brukere følge personer eller emner. Tråder kombinerer det haster med Twitter med flyktigheten til Snapchat (innlegg forsvinner etter 30 dager).

Dette er ikke spesielt bemerkelsesverdig, men Telepaths store salgsargument er: et internt innholdsmodereringsteam fremtvinger vennlighet, og brukere er pålagt å vise deres virkelige navn.

Telepaths navnepolicy er ment å sørge for at innholdsmodereringsteamet kan fokusere fullt ut på å oppdage misbruk i stedet for å leke med brennerkontoer. Det er også en måte å menneskeliggjøre samtalen på. Vi krever unike telefonnumre og bekreftelse, så det kan ikke være et engangsnummer på Google Voice, sier Tatiana Estévez, leder for fellesskap og sikkerhet. Flere sokke-dukke-kontoer er hvor du får noe av det ekleste på andre plattformer.

Politikken har allerede invitert noen kritikk fra tilskuere som føler at det kan sette kvinner og marginaliserte samfunn i fare.

Det er en utbredt tro at hvis folk bruker deres juridiske navn vil de oppføre seg bedre i sosiale miljøer fordi andre mennesker kan identifisere dem og det kan få sosiale konsekvenser for handlingene deres, sier J. Nathan Matias , professor og grunnlegger av Citizens and Technology Lab ved Cornell University. Selv om det var noen tidlige bevis for dette på 1980-tallet, var disse bevisene ikke med en mangfoldig gruppe mennesker, og det redegjorde ikke for hva vi nå ser at internett har blitt.

Faktisk er mange mennesker som bruker pseudonymer fra mer marginaliserte eller sårbare grupper og gjør det for å beskytte seg mot trakassering og doxxing på nettet.

Doxxing – bruk av identifiserende informasjon på nettet for å trakassere og true – er et livstruende problem for mange marginaliserte mennesker og har forsuret dem på sosiale medier som Facebook og Twitter, som har kommet under ild for ikke å beskytte individer i faresonen (selv om både Twitter og Twitter). Facebook har forsøkt å bøte på det siste ved å fjerne tweets som fremmer feilinformasjon, for eksempel). Estévez sier at selv om hun er veldig empatisk i forhold til dette og at transpersoner kan identifisere seg med sine valgte navn og pronomen, var verifisering av telefonnavn og appens kun inviterende struktur nødvendig for å forhindre fornærmende oppførsel.

Gjenstand fra Telepath

Estévez, som tilbrakte mange år som frivillig moderator i Quora før han ledet modereringsteamet, importerte Quoras retningslinjer for fellesskapet for Vær hyggelig, vær respektfull til Telepath. Folk reagerer godt på å bli behandlet godt, sier hun. Folk er lykkeligere. Folk er virkelig tiltrukket av snille samfunn og steder hvor de kan si sin mening og ikke føle seg latterliggjort.

Telepaths team har vært veldig bevisste med sitt språk om dette konseptet. Vi tok avgjørelsen om å bruke ordet «vennlighet» i stedet for «sivil», sier Bodnick. Sivil innebærer en regel du kan komme til kanten av og ikke bryte, som at du 'bare var nysgjerrig' eller 'bare stilte spørsmål.' Vi tror vennlighet er en god måte å beskrive gode hensikter på, gi hverandre fordelen av tvilen , ikke delta i personlige angrep. Vi håper det er styrken til å gjøre disse vurderingene som tiltrekker folk.

Historisk sett har plattformer vært motvillige til å håndheve grunnleggende brukersikkerhet, enn si vennlighet, sier Danielle Citron, en jusprofessor ved Boston University Law School som har skrevet om innholdsmoderering og gitt råd til sosiale medieplattformer. Hyggelighet er ingen dårlig idé, sier Citron.

Det er også ekstremt vagt og subjektivt, spesielt når det å beskytte noen mennesker kan bety å kritisere andre. Å stille spørsmål ved et bestemt synspunkt – selv på en måte som virker kritisk eller uvennlig – kan noen ganger være nødvendig. De som begår mikroaggresjoner bør bli fortalt hva som er galt med handlingene deres. Noen som gjentar en sladder bør konfronteres og utdannes. I et flyktig amerikansk valgår som har sett en raseregning ulik noe annet siden 1970-tallet og en gang-i-en-generasjons pandemi forverret av feilinformasjon, er det kanskje ikke lenger nok å være snill.

Hvordan vil Telepath tre denne nålen? Det vil være ned til det interne innholdsmodererende teamet, hvis jobb det vil være å politivennlighet på plattformen.

Det vil ikke nødvendigvis være lett. Vi har først nylig begynt å forstå hvor traumatisk innhold moderering kan være takket være en serie av artikler fra Casey Newton, tidligere på The Verge, som avslørte de sweatshop-lignende forholdene som møter moderatorer som jobber på kontrakt til minstelønn. Selv om disse arbeiderne fikk bedre betalt, er innholdet mange driver med unektelig ødeleggende. Samfunnet er fortsatt i ferd med å finne ut hvordan man kan gjøre innholdsmoderering håndterlig for mennesker, sier Matias.

På spørsmål om disse problemene, understreker Estévez at ved Telepath vil innholdsmoderering være helhetlig og arbeidet er ment å være en karriere. Vi ønsker ikke at folk skal gjøre dette i noen måneder og gå, sier hun. Jeg har ikke store bekymringer.

Telepaths arrangører tror at modellen kun for invitasjoner vil hjelpe i denne forbindelse (plattformen støtter for tiden ca. 3000 personer). Ved å kvele veksten til en viss grad, skal vi gjøre det bedre for oss selv, sier Estévez.

Men modellen byr på et annet problem. Et av de gjennomgripende problemene mange sosiale plattformer som har lansert i USA har hatt, er et problem med mangfold, sier Matias. Hvis de starter med en gruppe brukere som ikke er mangfoldige, kan det bygges opp kulturer i nettverket som er uvelkomne og i noen tilfeller fiendtlige til marginaliserte mennesker.

Den frykten for en fiendtlig gruppekultur er velbegrunnet. Clubhouse, en lyd-første sosiale media-app brukt av mange med Silicon Valley-bånd, ble lansert til kritisk anerkjennelse tidligere i år, bare til gir det tilbake inn i typen kvinnefiendtlig vitriol som har sivet inn i hvert hjørne av internett. Bare forrige uke, den kom under ild for antisemittisme .

Så langt har Telepath vært dominert av Silicon Valley-typer, journalister og andre med innflytelsessfærer utenfor appen. Det er ikke et mangfoldig publikum, og Estévez sier at teamet anerkjenner det. Det handler ikke bare om å invitere folk; det handler ikke bare om å invitere kvinner og svarte mennesker, sier hun. Det er slik at de [kvinner og svarte] har en god opplevelse, så de ser andre kvinner og svarte mennesker og ikke blir forklart for eller får mikroaggresjoner.

Det er en vanskelig balansegang. På den ene siden, opprettholdelse av et invitasjonsfellesskap av likesinnede medlemmer lar Telepath kontrollere antall innlegg og medlemmer den må holde et øye med. Men den typen miljø kan også bli et ekkokammer som ikke utfordrer normer, som i utgangspunktet overvinner hensikten med samtale og potensielt tilbyr en fiendtlig mottakelse til utenforstående.

Tan, den tidlige adoptanten, sier at menneskene hun samhandler med absolutt faller inn i en type: de er venstreorienterte og teknologiske. De første menneskene som brukte det kom fra Marc [Bodnick] eller Richard [Henry]s nettverk, sier hun og refererer til medstifterne. Det pleier å være mange teknikere. Tan sier appens samtaler er omfattende, og hun har blitt positivt overrasket over dybden i diskusjonen.

Alle sosiale medier kan være et ekkokammer, avhengig av hvem du følger, legger hun til.

Telepath er til syvende og sist i en dragkamp: Er det mulig å oppmuntre til en livlig-men anstendig debatt på en plattform uten å se den gå over til trakassering? De fleste brukere antar at det å være på nett innebærer en viss grad av overgrep, spesielt hvis du er kvinne eller fra en marginalisert gruppe. Ideelt sett trenger det ikke være tilfelle.

De må være engasjerte, at dette ikke bare er leppeservice om å «være snill», sier Citron. Folk ruller ofte ut produkter i beta fra og tenker så på skade, men da er det for sent. Det er dessverre historien om internett. Så langt, men det trenger kanskje ikke være det.

gjemme seg