Hva AI fortsatt ikke kan gjøre

Kunstig intelligens vil ikke være veldig smart hvis datamaskiner ikke forstår årsak og virkning. Det er noe selv mennesker har problemer med. Av

• Brian Bergstein arkivside

19. februar 2020

Saiman Chow

På mindre enn et tiår har datamaskiner blitt ekstremt gode til å diagnostisere sykdommer, oversette språk og transkribere tale. De kan utspille mennesker i kompliserte strategispill, lage fotorealistiske bilder og foreslå nyttige svar på e-postene dine.

Til tross for disse imponerende prestasjonene har kunstig intelligens store svakheter.

Denne historien var en del av mars 2020-utgaven vår

• Se resten av saken
• Abonnere

Maskinlæringssystemer kan bli lurt eller forvirret av situasjoner de ikke har sett før. En selvkjørende bil blir forvirret av et scenario som en menneskelig sjåfør lett kan håndtere. Et AI-system som er møysommelig trent til å utføre én oppgave (identifisering av katter, for eksempel) må læres opp på nytt for å gjøre noe annet (identifisering av hunder). I prosessen er det sannsynlig at den mister noe av ekspertisen den hadde i den opprinnelige oppgaven. Dataforskere kaller dette problemet katastrofal glemsel.

Disse manglene har noe til felles: de eksisterer fordi AI-systemer ikke forstår årsakssammenheng. De ser at noen hendelser er assosiert med andre hendelser, men de finner ikke ut hvilke ting som direkte får andre ting til å skje. Det er som om du visste at tilstedeværelsen av skyer gjorde regn mer sannsynlig, men du visste ikke at skyer forårsaket regn.

Elias Bareinboim: AI-systemer er uvitende når det kommer til årsakssammenheng.

Å forstå årsak og virkning er et stort aspekt av det vi kaller sunn fornuft, og det er et område hvor AI-systemer i dag er uvitende, sier Elias Bareinboim. Han burde vite: som direktør for det nye Causal Artificial Intelligence Lab ved Columbia University, er han i forkant av arbeidet med å fikse dette problemet.

Ideen hans er å tilføre forskning på kunstig intelligens innsikt fra den relativt nye vitenskapen om kausalitet, et felt formet i stor grad av Judea Pearl, en Turing-prisvinnende lærd som anser Bareinboim som sin protesjé.

Som Bareinboim og Pearl beskriver det, er AIs evne til å oppdage korrelasjoner – for eksempel at skyer gjør regn mer sannsynlig – bare det enkleste nivået av årsaksgrunnlag. Det er godt nok å ha drevet boomen i AI-teknikken kjent som dyp læring det siste tiåret. Gitt mye data om kjente situasjoner, kan denne metoden føre til svært gode spådommer. En datamaskin kan beregne sannsynligheten for at en pasient med visse symptomer har en bestemt sykdom, fordi den har lært hvor ofte tusenvis eller til og med millioner av andre mennesker med de samme symptomene hadde den sykdommen.

Men det er en økende konsensus om at fremgang i AI vil stoppe opp hvis datamaskiner ikke blir bedre til å kjempe med årsakssammenheng. Hvis maskiner kunne forstå at visse ting fører til andre ting, ville de ikke måtte lære alt på nytt hele tiden – de kunne ta det de hadde lært på ett domene og bruke det på et annet. Og hvis maskiner kunne bruke sunn fornuft, ville vi være i stand til å stole mer på dem for å ta handlinger på egen hånd, vel vitende om at de sannsynligvis ikke vil gjøre dumme feil.

Dagens AI har bare en begrenset evne til å utlede hva som vil følge av en gitt handling. I forsterkningslæring, en teknikk som har gjort det mulig for maskiner å mestre spill som sjakk og Go, bruker et system omfattende prøving og feiling for å finne ut hvilke trekk som i hovedsak vil få dem til å vinne. Men denne tilnærmingen fungerer ikke i mer rotete omgivelser i den virkelige verden. Det etterlater ikke engang en maskin med en generell forståelse av hvordan den kan spille andre spill.

Et enda høyere nivå av kausal tenkning ville være evnen til å resonnere om hvorfor ting skjedde og stille hva hvis-spørsmål. En pasient dør mens han er i en klinisk studie; var det den eksperimentelle medisinens feil eller noe annet? Skoleprøveresultatene faller; hvilke politiske endringer vil forbedre dem mest? Denne typen resonnement er langt utenfor dagens evne til kunstig intelligens.

Utføre mirakler

Drømmen om å gi datamaskiner kausal resonnement trakk Bareinboim fra Brasil til USA i 2008, etter at han fullførte en mastergrad i informatikk ved Federal University of Rio de Janeiro. Han grep muligheten til å studere under Judea Pearl, en informatiker og statistiker ved UCLA. Pearl, 83, er en gigant— de gigantisk – av kausal slutning, og karrieren hans hjelper til med å illustrere hvorfor det er vanskelig å lage AI som forstår kausalitet.

Selv veltrente forskere er tilbøyelige til å feiltolke sammenhenger som tegn på årsakssammenheng - eller til å feile i motsatt retning, og nøler med å kalle ut årsakssammenheng selv når det er berettiget. På 1950-tallet gjorde for eksempel noen få fremtredende statistikere vannet rundt om tobakk forårsaket kreft. De hevdet at uten et eksperiment som tilfeldig utpekte folk til å være røykere eller ikke-røykere, kunne ingen utelukke muligheten for at et ukjent – ​​kanskje stress, eller et eller annet gen – førte til at folk både røykte og fikk lungekreft.

Etter hvert ble det definitivt fastslått at røyking forårsaker kreft, men det trenger ikke ha tatt så lang tid. Siden den gang har Pearl og andre statistikere utviklet en matematisk tilnærming for å identifisere hvilke fakta som kreves for å støtte en årsakspåstand. Pearls metode viser at gitt utbredelsen av røyking og lungekreft, vil en uavhengig faktor som forårsaker begge være ekstremt usannsynlig.

Omvendt hjelper Pearls formler også å identifisere når korrelasjoner ikke kan brukes til å bestemme årsakssammenheng. Bernhard Schölkopf, som forsker på kausale AI-teknikker som direktør ved det tyske Max Planck-instituttet for intelligente systemer, påpeker at du kan forutsi et lands fødselsrate hvis du kjenner bestanden av storke. Det er ikke fordi storker føder babyer eller fordi babyer tiltrekker seg storker, men sannsynligvis fordi økonomisk utvikling fører til flere babyer og flere storker. Pearl har bidratt til å gi statistikere og informatikere måter å angripe slike problemer på, sier Schölkopf.

Judea Pearl: Hans teori om kausal resonnement har transformert vitenskapen.

Pearls arbeid har også ført til utviklingen av kausale Bayesianske nettverk - programvare som siler gjennom store mengder data for å oppdage hvilke variabler som ser ut til å ha mest innflytelse på andre variabler. For eksempel bruker GNS Healthcare, et selskap i Cambridge, Massachusetts, disse teknikkene for å gi råd til forskere om eksperimenter som ser lovende ut.

I ett prosjekt jobbet GNS med forskere som studerer myelomatose, en slags blodkreft. Forskerne ønsket å vite hvorfor noen pasienter med sykdommen lever lenger enn andre etter å ha fått stamcelletransplantasjoner, en vanlig behandlingsform. Programvaren churned gjennom data med 30 000 variabler og pekte på noen få som virket spesielt sannsynlig å være årsakssammenheng. Biostatistikere og eksperter på sykdommen nullte spesielt på én: nivået av et bestemt protein i pasientenes kropper. Forskere kunne deretter kjøre en målrettet klinisk studie for å se om pasienter med proteinet faktisk hadde mer nytte av behandlingen. Det er mye raskere enn å stikke her og der i laboratoriet, sier GNS-medgrunnlegger Iya Khalil.

Ikke desto mindre har forbedringene som Pearl og andre forskere har oppnådd i kausal teori ennå ikke gjort mange inngrep i dyp læring, som identifiserer korrelasjoner uten for mye bekymring for årsakssammenheng. Bareinboim jobber med å ta neste steg: å gjøre datamaskiner til mer nyttige verktøy for menneskelige årsaksutforskninger.

Pearl sier at AI ikke kan være virkelig intelligent før den har en rik forståelse av årsak og virkning, noe som vil muliggjøre introspeksjonen som er kjernen av kognisjon.

Et av systemene hans, som fortsatt er i beta, kan hjelpe forskere med å finne ut om de har nok data til å svare på et årsaksspørsmål. Richard McElreath, en antropolog ved Max Planck Institute for Evolutionary Anthropology, bruker programvaren til å lede forskning på hvorfor mennesker går gjennom overgangsalder (vi er de eneste apene som gjør det).

Hypotesen er at nedgangen i fruktbarhet hos eldre kvinner kom tidlige menneskelige samfunn til gode fordi kvinner som la mer innsats i å ta vare på barnebarn til slutt fikk flere etterkommere. Men hvilke bevis kan eksistere i dag for å støtte påstanden om at barn har det bedre med besteforeldre rundt? Antropologer kan ikke bare sammenligne de pedagogiske eller medisinske resultatene til barn som har bodd hos besteforeldre og de som ikke har det. Det er det statistikere kaller forvirrende faktorer: bestemødre kan være mer sannsynlig å bo med barnebarn som trenger mest hjelp. Bareinboims programvare kan hjelpe McElreath med å finne ut hvilke studier om barn som vokste opp hos besteforeldrene sine som er minst fulle av forvirrende faktorer og kan være verdifulle for å svare på hans årsaksspørsmål. Det er et stort skritt fremover, sier McElreath.

Den siste milen

Bareinboim snakker raskt og gestikulerer ofte med to hender i været, som om han prøver å balansere to sider av en mental ligning. Det var halvveis i semesteret da jeg besøkte ham på Columbia i oktober, men det virket som om han knapt hadde flyttet inn på kontoret sitt – knapt noe på veggene, ingen bøker i hyllene, bare en elegant Mac-datamaskin og en tavle så tett. med ligninger og diagrammer at det så ut som en detalj fra en tegneserie om en gal professor.

Han trakk på skuldrene fra den foreløpige tilstanden til rommet, og sa at han hadde vært veldig opptatt med å holde foredrag om begge sider av årsaksrevolusjonen. Bareinboim mener arbeid som hans gir muligheten til ikke bare å inkorporere kausal tenkning i maskiner, men også å forbedre den hos mennesker.

Å få folk til å tenke mer nøye over årsakssammenheng er ikke nødvendigvis mye enklere enn å lære det til maskiner, sier han. Forskere innen et bredt spekter av disipliner, fra molekylærbiologi til offentlig politikk, nøyer seg noen ganger med å avdekke sammenhenger som faktisk ikke er forankret i årsakssammenhenger. For eksempel tyder noen studier på at å drikke alkohol vil drepe deg tidlig, mens andre indikerer at moderat forbruk er greit og til og med fordelaktig, og fortsatt annen forskning har funnet ut at stordrikkere overlever ikke-drikkere. Dette fenomenet, kjent som reproduserbarhetskrisen, dukker opp ikke bare innen medisin og ernæring, men også innen psykologi og økonomi. Du kan se skjørheten i alle disse slutningene, sier Bareinboim. Vi snur resultatene hvert par år.

Han argumenterer for at alle som spør hva om – medisinske forskere som setter opp kliniske studier, samfunnsvitere som utvikler pilotprogrammer, til og med nettutgivere som forbereder A/B-tester – bør begynne ikke bare med å samle inn data, men ved å bruke Pearls årsakslogikk og programvare som Bareinboims for å avgjøre om tilgjengelige data kan muligens svare på en årsakshypotese. Til slutt ser han for seg at dette fører til automatisert vitenskapelig programvare: et menneske kan tenke seg et årsaksspørsmål å gå etter, og programvaren vil kombinere kausal slutningsteori med maskinlæringsteknikker for å utelukke eksperimenter som ikke ville svare på spørsmålet. Det kan redde forskere fra et stort antall kostbare blindveier.

Bareinboim beskrev denne visjonen mens vi satt i lobbyen til MITs Sloan School of Management, etter et foredrag han holdt i fjor høst. Vi har en bygning her på MIT med, jeg vet ikke, 200 mennesker, sa han. Hvordan bestemmer disse samfunnsviterne, eller noen vitenskapsmenn hvor som helst, hvilke eksperimenter de skal forfølge og hvilke datapunkter som skal samles? Ved å følge sin intuisjon: De prøver å se hvor ting vil føre, basert på deres nåværende forståelse.

Det er en iboende begrenset tilnærming, sa han, fordi menneskelige forskere som designer et eksperiment, kan vurdere bare en håndfull variabler i tankene deres på en gang. En datamaskin kan derimot se samspillet mellom hundrevis eller tusenvis av variabler. Kodet med de grunnleggende prinsippene for Pearls årsaksregning og i stand til å beregne hva som kan skje med nye sett med variabler, kan en automatisert vitenskapsmann foreslå nøyaktig hvilke eksperimenter menneskeforskerne bør bruke tiden sin på. Kanskje en offentlig politikk som har vist seg å fungere bare i Texas kunne fås til å fungere i California hvis noen få årsaksrelevante faktorer ble bedre verdsatt. Forskere ville ikke lenger gjøre eksperimenter i mørket, sa Bareinboim.

Han synes heller ikke det er så langt unna: Dette er siste mil før seieren.

Hva om?

Å fullføre den milen vil sannsynligvis kreve teknikker som så vidt begynner å bli utviklet. For eksempel prøver Yoshua Bengio, en informatiker ved University of Montreal som delte Turing-prisen 2018 for sitt arbeid med dyp læring, å få nevrale nettverk – programvaren i hjertet av dyp læring – til å gjøre meta-læring og legge merke til årsakene til ting.

Slik situasjonen er nå, hvis du ville ha et nevralt nettverk for å oppdage når folk danser, ville du vise det mange, mange bilder av dansere. Hvis du ville at den skulle identifisere når folk løper, ville du vise den mange, mange bilder av løpere. Systemet vil lære å skille løpere fra dansere ved å identifisere funksjoner som har en tendens til å være forskjellige i bildene, for eksempel posisjonen til en persons hender og armer. Men Bengio påpeker at grunnleggende kunnskap om verden kan hentes ved å analysere de tingene som er like eller invariante på tvers av datasett. Kanskje et nevralt nettverk kan lære at bevegelser av bena fysisk forårsaker både løping og dans. Kanskje etter å ha sett disse eksemplene og mange andre som viser folk bare noen få meter fra bakken, vil en maskin til slutt forstå noe om tyngdekraften og hvordan den begrenser menneskelig bevegelse. Over tid, med nok meta-læring om variabler som er konsistente på tvers av datasett, kan en datamaskin få årsakskunnskap som kan gjenbrukes i mange domener.

Pearl sier på sin side at AI ikke kan være virkelig intelligent før den har en rik forståelse av årsak og virkning. Selv om årsaksresonnement ikke ville være tilstrekkelig for en kunstig generell intelligens, er det nødvendig, sier han, fordi det ville muliggjøre introspeksjonen som er kjernen i erkjennelsen. Hva om spørsmål er byggesteinene til vitenskap, moralske holdninger, fri vilje, bevissthet, fortalte Pearl meg.

Du kan ikke trekke Pearl til å forutsi hvor lang tid det vil ta før datamaskiner får kraftige kausale resonnementevner. Jeg er ingen fremtidsforsker, sier han. Men uansett mener han det første grepet bør være å utvikle maskinlæringsverktøy som kombinerer data med tilgjengelig vitenskapelig kunnskap: Vi har mye kunnskap som ligger i menneskeskallen som ikke blir utnyttet.

Brian Bergstein, en tidligere redaktør ved MIT Technology Review, er assisterende meningsredaktør i Boston Globe.

gjemme seg