Farene ved Tech-Bro AI

Tabitha Goldstaub, en av grunnleggerne av CognitionX , som hjelper selskaper med å distribuere AI, sier at diversifisering av feltet er nødvendig for å sikre at produktene faktisk fungerer bra.
  • TR-ansatte arkivside
24. oktober 2017

Miguel Porlan





Hvis du tenker på kunstig intelligens og kjernekomponentene i det som gjør en AI, har du det faktum at den har gitt et mål og deretter vil finne en måte å nå det målet. Det er da ofte veldig ugjennomsiktig hvordan det nådde målet. Hvis du bygger inn en ubevisst skjevhet i en maskin, vet du kanskje ikke at den er der; resultatet kan være skadelig for kvinner, og det er veldig vanskelig å finne ut nøyaktig hvorfor det har skjedd.

I tradisjonell teknologi kan du se [hva som har skjedd]: kvinner som dør i bilulykker fordi kollisjonstestdukkene var formen av en mann snarere enn formen av en kvinne. [Med AI kan det være] lignende liv-eller-død-situasjoner, i narkotikaforsøk eller i autonome kjøretøy og slike ting.

Problemet med kunstig intelligens

Denne historien var en del av november 2017-utgaven vår



  • Se resten av saken
  • Abonnere

Det er noen eksempler på [kjønnsskjevhet i AI i dag]: Google-annonser som viser [jobb]-annonser med høyere inntekter til menn enn kvinner . Vi kan anta andre typer situasjoner som ville skje - hva om kvinner ikke var like i stand til å få lån eller boliglån eller forsikring?

Jeg har ikke et dystopisk syn på AI. Jeg ser ikke morderroboter. Jeg er så mye mer fokusert på de smale applikasjonene, og jeg tror at hvis du ser på hver enkelt av de smale applikasjonene, er det en sjanse for at det påvirker kvinner negativt. Jeg tror ikke kunstig intelligens er problemet her; det er tilleggsproblemet snarere enn årsaken. Vi snakker om risikoen for at vår ubevisste sexisme eller ubevisste rasisme siver inn i maskinene vi bygger.

Hvordan får vi alle som bygger AI til å tenke på disse tingene? Vi må få forbrukerne til å etterspørre etisk kunstig intelligens. Ikke nok mennesker ser på dette som mer enn bare et kjønnsproblem; dette er et faktisk, grunnleggende produktproblem.



— som fortalt til Rachel Metz

gjemme seg