Det vil være vanskeligere å etablere et AI-kodeks enn folk tror

Varoon Mathur / AI Now Institute

I løpet av de siste seks årene har politiavdelingen i New York samlet en massiv database som inneholder navn og personopplysninger til minst 17 500 personer den mener er involvert i kriminelle gjenger. Innsatsen har allerede blitt kritisert av borgerrettighetsaktivister som sier den er unøyaktig og rasediskriminerende.

«Forestill deg nå å gifte ansiktsgjenkjenningsteknologi med utviklingen av en database som teoretisk sett antar at du er i en gjeng,» sa Sherrilyn Ifill, president og direktør for NAACP Legal Defense Fund, på AI Now-symposium i New York sist tirsdag.

Advokater, aktivister og forskere understreker behovet for etikk og ansvarlighet i design og implementering av AI-systemer. Men dette ignorerer ofte et par vanskelige spørsmål: hvem får definere disse etikkene, og hvem skal håndheve dem?

Sherrilyn Ifill (NAACP Legal Defense Fund), Timnit Gebru (Google) og Nicole Ozer (ACLU) i samtale på AI Now 2018 Symposium. Andrew Federman for AI Now Institute

Ikke bare er ansiktsgjenkjenning ufullkommen, studier har vist at den ledende programvaren er mindre nøyaktig for personer med mørk hud og kvinner. Etter Ifills estimat er politidatabasen mellom 95 og 99 prosent afroamerikansk, latino og asiatisk amerikaner. «Vi snakker om å skape en klasse med […] mennesker som er merket med en slags kriminell merkelapp,» sa Ifill.

I mellomtiden har politiavdelinger over hele USA, Storbritannia og Kina begynt å ta i bruk ansiktsgjenkjenning som et verktøy for å finne kjente kriminelle. I juni, Sør-Wales-politiet utgitt en uttalelse som rettferdiggjør deres bruk av teknologien på grunn av 'allmennnytten' som den gir.

Faktisk fremhever teknologi ofte folks ulike etiske standarder – enten det er det sensurere hatytringer eller bruke risikovurderingsverktøy for å forbedre offentlig sikkerhet .

I et forsøk på å fremheve hvor divergerende folks prinsipper kan være, opprettet forskere ved MIT en plattform kalt Moralsk maskin å samle menneskelig mening om de moralske avgjørelsene som bør følges av selvkjørende biler. De ba millioner av mennesker fra hele verden om å veie inn varianter av klassikeren tralle problem ved å velge hvem en bil skal prøve å prioritere i en ulykke. Resultatene viser stor variasjon på tvers av ulike kulturer.

Etablering av etiske standarder endrer heller ikke nødvendigvis atferd. I juni, for eksempel etter Google avtalt for å avbryte arbeidet med Project Maven med Pentagon, etablerte det et nytt sett med etiske prinsipper å veilede sitt engasjement i fremtidige AI-prosjekter. Bare måneder senere føler mange Google-ansatte at disse prinsippene har blitt lagt i veien med et bud på en 10 milliarder dollar kontrakt med forsvarsdepartementet . TIL nylig studie fra North Carolina State University fant også ut at det å spørre programvareingeniører om å lese en etikkkode ikke gjør noe for å endre oppførselen deres.

Philip Alston, en internasjonal juridisk stipendiat ved NYUs School of Law, foreslår en løsning på etikkens tvetydige og uansvarlige natur: å omforme AI-drevne konsekvenser når det gjelder menneskerettigheter. '[Menneskerettigheter er] i grunnloven,' sa Alston på samme konferanse. «De er i rettighetserklæringen; de har blitt tolket av domstoler, sa han. Hvis et AI-system tar bort folks grunnleggende rettigheter, bør det ikke være akseptabelt, sa han.

Philip Alston (NYU School of Law), Virginia Eubanks (University at Albany, SUNY) og Vincent Southerland (Center on Race, Inequality, and the Law at NYU) på scenen på symposiet. Andrew Federman for AI Now Institute

Alston er ikke den eneste som har kommet opp med denne løsningen. Mindre enn en uke før symposiet publiserte Data & Society Research Institute en forslag for å bruke internasjonale menneskerettigheter til å styre AI. Rapporten inneholder anbefalinger for teknologiselskaper om å engasjere seg med sivile rettighetsgrupper og forskere, og å gjennomføre menneskerettighetskonsekvensvurderinger på livssyklusene til deres AI-systemer.

'Inntil vi begynner å bringe [menneskerettigheter] inn i AI-diskusjonen,' la Alston til, 'det er ikke noe hardt anker.'

gjemme seg