211service.com
AI-forskere ønsker å studere AI på samme måte som samfunnsvitere studerer mennesker
En konseptuell illustrasjon av en forsker som studerer AI Tsjisse Talsma
Mye blekk har blitt sølt på black-box-naturen til AI-systemer – og hvordan det gjør oss ukomfortable at vi ofte ikke kan forstå hvorfor de tar de avgjørelsene de gjør. Etter hvert som algoritmer har kommet til å formidle alt fra våre sosiale og kulturelle til økonomiske og politiske interaksjoner, har informatikere forsøkt å svare på økende krav til deres forklarbarhet ved å utvikle tekniske metoder for å forstå deres atferd.
Men en gruppe forskere fra akademia og industri argumenterer nå for at vi ikke trenger å trenge gjennom disse svarte boksene for å forstå, og dermed kontrollere, deres effekt på livene våre. Tross alt er ikke dette de første uutgrunnelige svarte boksene vi har kommet over.
Vi har utviklet vitenskapelige metoder for å studere svarte bokser i hundrevis av år nå, men disse metodene har først og fremst blitt brukt på [levende vesener] frem til dette punktet, sier Nick Obradovich, en MIT Media Lab-forsker og medforfatter av en nytt papir publisert forrige uke i Natur . Vi kan bruke mange av de samme verktøyene for å studere de nye black box AI-systemene.
Avisens forfattere, en mangfoldig gruppe forskere fra industri og akademia, foreslår å lage en ny akademisk disiplin kalt maskinadferd. Den nærmer seg å studere AI-systemer på samme måte som vi alltid har studert dyr og mennesker: gjennom empirisk observasjon og eksperimentering.
På denne måten er en maskinbehavorist for en informatiker det en samfunnsviter er for en nevrovitenskapsmann. Førstnevnte forsøker å forstå hvordan en agent – enten den er kunstig eller biologisk – oppfører seg i sitt habitat, når den sameksisterer i grupper og når den samhandler med andre intelligente agenter. Sistnevnte søker å dissekere beslutningsmekanismen bak denne oppførselen.
Vi ser fremveksten av maskiner med byrå, maskiner som er aktører som tar beslutninger og tar handlinger autonomt, sa Iyad Rahwan, en annen Media Lab-forsker og hovedforfatter på papiret. blogg innlegg som følger med publikasjonen. Derfor må de studeres som en ny klasse av skuespillere med sine egne atferdsmønstre og økologi.
Dette betyr ikke å antyde at AI-systemer har utviklet en slags fri vilje. (Det har de absolutt ikke; de er bare glorifiserte matematiske modeller .) Men det er ment å gå bort fra å se på AI-systemer som passive verktøy som kan vurderes utelukkende gjennom deres tekniske arkitektur, ytelse og evner. De bør i stedet betraktes som aktive aktører som endrer og påvirker sine omgivelser og menneskene og maskinene rundt dem.
Så hvordan ville dette sett ut? En maskinadferdsforsker kan for eksempel forhøre seg om virkningen av stemmeassistenter på et barns personlighetsutvikling. Eller de kan undersøke hvordan online dating-algoritmer har endret hvordan folk møtes og blir forelsket. Til syvende og sist vil de studere de fremvoksende egenskapene som oppstår fra mange mennesker og maskiner som sameksisterer og samarbeider sammen.
Vi er alle ett gigantisk menneske-maskin-system, sier Obradovich. Vi må erkjenne det og begynne å studere det på den måten.
Det er viktig å merke seg at de fleste av disse ideene ikke er nye. Robotikere har for eksempel lenge studert interaksjon mellom mennesker og datamaskiner. Og feltet vitenskap, teknologi og samfunn har det som er kjent som aktør-nettverksteorien, et rammeverk for å beskrive alt i den sosiale og naturlige verdenen – både mennesker og algoritmer – som aktører som på en eller annen måte forholder seg til hverandre. Men for det meste har hver av disse anstrengelsene blitt forskjøvet i separate disipliner. Å bringe dem sammen under én paraply bidrar til å justere målene deres, formalisere et felles språk og fremme tverrfaglige samarbeid. Det vil hjelpe oss å finne hverandre, sier Obradovich.
Til tross for at de er i en distinkt disiplin fra AI-forskere, bør maskinadferdseksperter fortsatt jobbe tett med dem. Ettersom sistnevnte oppdager nye måter AI-systemer oppfører seg på og påvirker mennesker, kan førstnevnte bringe disse lærdommene til nytte for systemets design. Jo mer hver disiplin kan dra nytte av den andres ekspertise, jo mer vil de være i stand til å sikre at kunstige midler er til fordel for mennesker i stedet for å skade dem.
Vi trenger ekspertisen til forskere fra alle adferds- og beregningsdisipliner, sier Obradovich. Å finne ut hvordan man kan leve med maskiner er et problem som er for stort for en disiplin å løse alene.