211service.com
Hvordan databehandling har forvandlet seg
Jeanette Wing mener pålitelig AI og årsaksresonnement kan hjelpe samfunnet med å løse problemer i den virkelige verden. Men det blir ikke lett.
27. oktober 2021
Peter Garritano
Det er på tide at vi begynte å fikse på data for å løse problemene våre, sier en av verdens ledende eksperter innen datavitenskap.
I 2006 publiserte Jeannette Wing, den gang lederen for informatikkavdelingen ved Carnegie Mellon University, et innflytelsesrikt essay med tittelen Beregningstenkning, argumenterer for at alle ville ha nytte av å bruke de konseptuelle verktøyene innen informatikk for å løse problemer på alle områder av menneskelig bestrebelse.
Denne historien var en del av november 2021-utgaven vår
- Se resten av saken
- Abonnere
Wing selv hadde aldri tenkt å studere informatikk. På midten av 1970-tallet begynte hun på MIT for å satse på elektroteknikk, inspirert av faren, en professor i det feltet. Da hun oppdaget interessen for informatikk, ringte hun ham for å spørre om det var en forbigående kjepphest. Tross alt hadde feltet ikke engang lærebøker. Han forsikret henne om at det ikke var det. Wing byttet hovedfag og så seg aldri tilbake.
Wing, tidligere konserndirektør for Microsoft Research og nå konserndirektør for forskning ved Columbia University, er en leder i å fremme datavitenskap i flere disipliner.
Anil Ananthaswamy spurte nylig Wing om hennes ambisiøse agenda for å fremme pålitelig AI, en av 10 forskningsutfordringer hun er identifisert i sitt forsøk på å gjøre AI-systemer mer rettferdige og mindre partiske.
Spørsmål: Vil du si at det er en transformasjon på gang i måten beregningen gjøres på?
A: Absolutt. Moores lov bar oss langt. Vi visste at vi skulle treffe taket for Moores lov, [så] parallell databehandling ble fremtredende. Men faseskiftet var cloud computing. Originale distribuerte filsystemer var en slags baby cloud computing, der filene dine ikke var lokale for maskinen din; de var et annet sted på serveren. Cloud computing tar det og forsterker det enda mer, der dataene ikke er i nærheten av deg; datamaskinen er ikke i nærheten av deg.
Neste skift handler om data. I det lengste har vi fiksert på sykluser, noe som fikk ting til å fungere raskere – prosessorene, CPUene, GPUene og flere parallelle servere. Vi ignorerte datadelen. Nå må vi fiksere på data.
Spørsmål: Det er datavitenskapens domene. Hvordan vil du definere det? Hva er utfordringene med å bruke dataene?
TIL: Jeg har en veldig kortfattet definisjon. Datavitenskap er studiet av å trekke ut verdi fra data.
Du kan ikke bare gi meg en haug med rådata og jeg trykker på en knapp og verdien kommer ut. Det starter med å samle inn, behandle, lagre, administrere, analysere og visualisere dataene, og deretter tolke resultatene. Jeg kaller det datalivssyklusen. Hvert trinn i den syklusen er mye arbeid.
Spørsmål: Når du bruker store data, dukker det ofte opp bekymringer om personvern, sikkerhet, rettferdighet og skjevheter. Hvordan løser man disse problemene, spesielt i AI?
TIL: Jeg har denne nye forskningsagendaen jeg promoterer. Jeg kaller det pålitelig AI, inspirert av tiårene med fremgang vi har gjort innen pålitelig databehandling. Med pålitelighet mener vi vanligvis sikkerhet, pålitelighet, tilgjengelighet, personvern og brukervennlighet. I løpet av de siste to tiårene har vi gjort store fremskritt. Vi har formelle metoder som kan sikre riktigheten av et stykke kode; vi har sikkerhetsprotokoller som øker sikkerheten til et bestemt system. Og vi har visse forestillinger om personvern som er formalisert.
Pålitelig AI øker føringen på to måter. Plutselig snakker vi om robusthet og rettferdighet – robusthet betyr at hvis du forstyrrer inngangen, blir ikke utgangen forstyrret av særlig mye. Og vi snakker om tolkbarhet. Dette er ting vi aldri pleide å snakke om når vi snakket om databehandling.
[Også] AI-systemer er sannsynlige i naturen. Datasystemene fra fortiden er i utgangspunktet deterministiske maskiner: de er på eller av, sanne eller usanne, ja eller nei, 0 eller en . Utdataene til våre AI-systemer er i utgangspunktet sannsynligheter. Hvis jeg forteller deg at røntgenbildet ditt sier at du har kreft, er det med for eksempel 0,75 sannsynlighet for at den lille hvite flekken jeg så er ondartet.
Så nå må vi leve i denne verden av sannsynligheter. Fra et matematisk synspunkt er det å bruke sannsynlighetslogikk og bringe inn mye statistikk og stokastisk resonnement og så videre. Som informatiker er du ikke opplært til å tenke på de måtene. Så AI-systemer har virkelig komplisert vårt formelle resonnement om disse systemene.
Spørsmål: Pålitelig AI er en av de 10 forskningsutfordringer du identifiserte for dataforskere. Kausalitet ser ut til å være en annen stor en.
A: Kausalitet tror jeg er den neste grensen for AI og maskinlæring. Akkurat nå er maskinlæringsalgoritmer og -modeller flinke til å finne mønstre og korrelasjoner og assosiasjoner. Men de kan ikke fortelle oss: Førte dette til det? Eller hvis jeg skulle gjøre dette, hva ville skje? Og så er det et helt annet aktivitetsområde på kausal slutning og årsaksresonnement innen informatikk. Statistikkmiljøet har sett på kausalitet i flere tiår. Noen ganger blir de litt irritert på informatikkmiljøet for å tro at Å, dette er en helt ny idé. Så jeg ønsker å kreditere statistikkmiljøet for deres grunnleggende bidrag til kausalitet. Kombinasjonen av big data og årsaksresonnement kan virkelig flytte feltet fremover.
Spørsmål: Er du spent på hva datavitenskap kan oppnå?
TIL: Alle går galt over datavitenskap, fordi de ser at feltene deres blir transformert ved bruk av datavitenskapelige metoder på de digitale dataene de nå genererer, produserer, samler inn og så videre. Det er en veldig spennende tid.