211service.com
Tech Giants kjemper mot de etiske bekymringene som er reist av AI Boom
Med stor kraft følger stort ansvar – og teknologi med kunstig intelligens blir mye kraftigere. Bedrifter i fortroppen innen utvikling og distribusjon av maskinlæring og AI begynner nå å snakke åpent om etiske utfordringer som er reist av deres stadig smartere kreasjoner.
Vi er her ved et vendepunkt for AI, sa Eric Horvitz, administrerende direktør i Microsoft Research, ved MIT Technology Review sin EmTech-konferanse denne uken. Vi har et etisk imperativ for å utnytte AI for å beskytte og bevare over tid.
Horvitz snakket sammen med forskere fra IBM og Google og tenkte på lignende problemer. En delt bekymring var at nyere fremskritt fører til at selskaper setter programvare i posisjoner med svært direkte kontroll over mennesker – for eksempel i helsevesenet.
Francesca Rossi , en forsker ved IBM, ga eksemplet med en maskin som gir hjelp eller vennskap til eldre mennesker. Denne roboten må følge kulturelle normer som er kulturspesifikke og oppgavespesifikke, sa hun. [Og] hvis du skulle distribuere i USA eller Japan, ville den oppførselen vært veldig annerledes.
Slike roboter kan fortsatt være en vei unna, men etiske utfordringer reist av AI er allerede her. Ettersom bedrifter og myndigheter stoler mer på maskinlæringssystemer for å ta beslutninger, kan blindsoner eller skjevheter i teknologien effektivt føre til diskriminering av visse typer mennesker.
En ProPublica-undersøkelse i fjor fant for eksempel at et risikopoengsystem som ble brukt i enkelte stater for å informere om straffeutmålingen var partisk mot svarte . På samme måte beskrev Horvitz hvordan en følelsesgjenkjenningstjeneste utviklet hos Microsoft for bruk av bedrifter i utgangspunktet var unøyaktig for små barn fordi den ble opplært ved å bruke en pose med bilder som ikke var riktig kurert.
Maya Gupta, en forsker ved Google, ba industrien om å jobbe hardere med å utvikle prosesser for å sikre at data som brukes til å trene algoritmer ikke er skjev. Mange ganger blir disse datasettene opprettet på en noe automatisert måte, sa Gupta. Vi må tenke mer på, prøver vi nok fra minoritetsgrupper til å være sikre på at vi gjorde en god nok jobb?
Det siste året har det dukket opp mange anstrengelser for å forske på de etiske utfordringene ved maskinlæring og AI i akademia og industrien. University of California, Berkeley; Harvard; og universitetene i Oxford og Cambridge har alle startet programmer eller institutter for å jobbe med etikk og sikkerhet innen AI. I 2016 grunnla Amazon, Microsoft, Google, IBM og Facebook i fellesskap en ideell organisasjon kalt Partnerskap om AI å jobbe med problemet (Apple ble med i januar).
Bedrifter tar også individuelle tiltak for å bygge sikkerhetstiltak rundt teknologien deres. Gupta fremhevet forskning hos Google som tester måter å korrigere forutinntatte maskinlæringsmodeller på, eller forhindre at de blir skjeve i utgangspunktet. Horvitz beskrev Microsofts interne etikkstyre for AI, kalt AETHER, som vurderer ting som nye beslutningsalgoritmer utviklet for selskapets skytjenester. Selv om selskapet for tiden er befolket med Microsoft-ansatte, håper selskapet i fremtiden å legge til eksterne stemmer også. Google har startet sitt eget AI-etikkstyre.
Kanskje ikke overraskende, hevder selskapene som lager slike programmer generelt at de unngår behovet for nye former for statlig regulering av kunstig intelligens. Men hos EmTech oppmuntret Horvitz også til diskusjon om ekstreme utfall som kan få noen til å konkludere med det motsatte.
I februar innkalte han til en workshop der eksperter la ut i detalj hvordan AI kan skade samfunnet ved å gjøre ting som å rote med aksjemarkedet eller valgresultater. Hvis du er proaktiv, kan du komme opp med resultater som er gjennomførbare og sette på plass mekanismer for å forstyrre dem nå, sa Horvitz.
Den slags prat så ut til å forstyrre noen av dem han delte scene med i San Francisco. Gupta fra Google oppfordret folk til også å vurdere hvordan å ta noen avgjørelser ut av hendene på mennesker kan gjøre verden mer moralsk enn den er nå.
Maskinlæring er kontrollerbar og presis og målbar med statistikk, sa hun. Det er så mange muligheter for mer rettferdighet og mer etiske resultater.