211service.com
Programvare som overvåker studenter under tester opprettholder ulikhet og krenker deres privatliv
Foto av Iris Wang på Unsplash
Koronaviruspandemien har vært en velsignelse for testproktørindustrien. Omtrent et halvt dusin selskaper i USA hevder at programvaren deres nøyaktig kan oppdage og forhindre juks i onlinetester. Eksamen , HonorLock , Proctorio , ProctorU , Svar og andre har vokst raskt siden høyskoler og universiteter gikk over til fjernklasser.
Selv om det ikke er noen offisiell oversikt, er det rimelig å si at millioner av algoritmisk testede tester skjer hver måned rundt om i verden. Proctorio fortalte New York Times i mai hadde virksomheten økt med 900 % i løpet av de første månedene av pandemien, til det punktet hvor selskapet gjennomførte 2,5 millioner tester over hele verden i april alene.
Jeg er en universitetsbibliotekar og har sett virkningene av disse systemene på nært hold. Min egen arbeidsgiver, University of Colorado Denver, har en kontrakt med Proctorio.
Det har blitt klart for meg at algoritmisk proctoring er en moderne overvåkingsteknologi som forsterker hvit overherredømme, sexisme, dyktighet og transfobi. Bruken av disse verktøyene er en invasjon av studentenes privatliv og ofte et brudd på borgerrettighetene.
Hvis du er en student som tar en algoritmisk testet, fungerer det slik: Når du begynner, begynner programvaren å ta opp datamaskinens kamera, lyd og nettstedene du besøker. Den måler kroppen din og overvåker deg under eksamen, sporer bevegelsene dine for å identifisere hva den anser som juksadferd. Hvis du gjør noe som programvaren anser som mistenkelig, vil den varsle professoren din om å se opptaket og gi dem en fargekodet sannsynlighet for din akademiske uredelighet.
Avhengig av hvilket selskap som har laget programvaren, vil den bruke en kombinasjon av maskinlæring, AI og biometri (inkludert ansiktsgjenkjenning, ansiktsgjenkjenning eller øyesporing) for å gjøre alt dette. Problemet er at ansiktsgjenkjenning og gjenkjenning har vist seg å være det rasist , kjønnsdiskriminerende , og transfobisk over , og over , og over en gang til.
Generelt har teknologi en mønster for å forsterke strukturell undertrykkelse som rasisme og sexisme . Nå dukker de samme skjevhetene opp i testprogramvare som skader marginaliserte studenter uforholdsmessig.
En svart kvinne ved universitetet mitt fortalte meg en gang at hver gang hun brukte Proctorios testproctoring-programvare, fikk det henne alltid til å skinne mer lys på ansiktet hennes. Programvaren kunne ikke validere identiteten hennes, og hun ble nektet tilgang til tester så ofte at hun måtte gå til professoren for å gjøre andre ordninger. Hennes hvite jevnaldrende hadde aldri dette problemet.
Lignende typer diskriminering kan skje hvis en student er trans eller ikke-binær. Men hvis du er en hvit cis-mann (som de fleste av utviklerne som lager programvare for ansiktsgjenkjenning), vil du sannsynligvis ha det bra.
Elever med barn blir også straffet av disse systemene. Hvis du noen gang har prøvd å svare på e-post mens du har tatt vare på barn, vet du hvor umulig det kan være å få til og med noen få minutter uten avbrudd foran datamaskinen. Men flere proctoring-programmer vil flagge støy i rommet eller noen som forlater kameraets syn som ondskapsfulle. Det betyr at studenter med medisinske tilstander som må bruke badet eller administrere medisiner ofte, vil bli ansett som like mistenkelige.
Utover alle måtene som proctoring-programvare kan diskriminere studenter, er algoritmisk proctoring også en betydelig invasjon av personvernet. Disse produktene filmer studenter i hjemmene deres og krever ofte at de fullfører romskanninger, som innebærer å bruke kameraet for å vise omgivelsene. I mange tilfeller kan professorer få tilgang til opptakene til studentene sine når som helst, og til og med laste ned disse opptakene til deres personlige maskiner. De kan også se hver elevs plassering basert på deres IP-adresse.
Personvern er avgjørende for bibliotekarer som meg fordi lånetakerne stoler på oss med dataene sine. Etter 9/11, da Patriot Act ga det amerikanske departementet for hjemmesikkerhet tillatelse til å få tilgang til bibliotekets beskytterposter i søket etter terrorister begynte mange bibliotekarer å bruke programvare som slettet en beskytters journal når en bok ble returnert. Produkter som krenker folks personvern og diskriminerer dem, går imot min faglig etos , og det er dypt bekymrende å se slike produkter ivrig adoptert av institusjoner for høyere utdanning.
Denne nidkjærheten ville vært litt mer forståelig hvis det var noen bevis på at disse programmene faktisk gjorde det de hevder. Så vidt jeg vet, er det ikke en eneste fagfellevurdert eller kontrollert studie som viser at proctoring-programvare effektivt oppdager eller forhindrer juks. Gitt at universiteter er stolte av å ta evidensbaserte beslutninger, er dette en åpenbar forglemmelse.
Heldigvis er det bevegelser på gang til forby proktørprogramvare og forby ansiktsgjenkjenningsteknologier på campus , i tillegg til kongressens lovforslag å forby den amerikanske føderale regjeringen å bruke ansiktsgjenkjenning. Men selv om ansiktsgjenkjenningsteknologi ble forbudt, kan prokteringsprogramvare fortsatt eksistere som et program som sporer bevegelsene til elevenes øyne og kropper. Selv om det kan være mindre rasistisk, ville det være det fortsatt diskriminere mot personer med nedsatt funksjonsevne, ammende foreldre og personer som er nevroatypiske. Disse produktene kan ikke reformeres; de bør forlates.
Juks er ikke trusselen mot samfunnet som testproktørselskaper vil få deg til å tro. Det utvanner ikke verdien av grader eller forringer institusjonelt rykte, og studentene prøver ikke å jukse seg til å bli din kirurg . Teknologien oppfant ikke betingelsene for juks, og det vil ikke være det som stopper det. Det beste vi i høyere utdanning kan gjøre er å starte med den radikale ideen om tillitsfulle studenter . La oss velge medfølelse fremfor overvåking.
Shea Swauger er en akademisk bibliotekar og forsker ved University of Colorado Denver.