211service.com
En av fedrene til AI er bekymret for fremtiden
Bilde av Yoshua Bengio Polyteknisk skole | Flickr
Yoshua Bengio er en stormester innen moderne kunstig intelligens.
Ved siden av Geoff Hinton og Yann LeCun , er Bengio kjent for å forkjempe en teknikk kjent som dyp læring som de siste årene har gått fra en akademisk nysgjerrighet til en av de kraftigste teknologiene på planeten.
Dyp læring innebærer å mate data til store nevrale nettverk som grovt simulerer den menneskelige hjernen, og den har vist seg utrolig kraftig og effektiv for alle slags praktiske oppgaver, fra stemmegjenkjenning og bildeklassifisering til å kontrollere selvkjørende biler og automatisere forretningsbeslutninger.
Bengio har motstått lokket til ethvert stort teknologiselskap. Mens Hinton og LeCun ble med i henholdsvis Google og Facebook, er han fortsatt professor på heltid ved University of Montreal. (Han var imidlertid med på å grunnlegge Element AI i 2016, og det har bygget en svært vellykket virksomhet som hjelper store selskaper med å utforske kommersielle anvendelser av AI-forskning.)
Bengio møtte MIT Technology Reviews seniorredaktør for AI, Will Knight, på et MIT-arrangement nylig.
Hva mener du om ideen om at det er et AI-kappløp mellom forskjellige land?
Jeg liker det ikke. Jeg tror ikke det er den rette måten å gjøre det på.
Vi kunne deltatt i et løp kollektivt, men som vitenskapsmann og noen som ønsker å tenke på det felles beste, tror jeg vi er bedre å tenke på hvordan vi både kan bygge smartere maskiner og sørge for at AI blir brukt for velvære for så mange mennesker som mulig.
Finnes det måter å fremme mer samarbeid mellom land?
Vi kan gjøre det lettere for mennesker fra utviklingsland å komme hit. Det er et stort problem akkurat nå. I Europa eller USA eller Canada er det svært vanskelig for en afrikansk forsker å få visum. Det er et lotteri, og veldig ofte vil de bruke enhver unnskyldning for å nekte tilgang. Dette er helt urettferdig. Det er allerede vanskelig for dem å forske med lite ressurser, men hvis de ikke kan få tilgang til fellesskapet, synes jeg det er virkelig urettferdig. Som en måte å motvirke noe av det, skal vi ha ICLR-konferansen [en stor AI-konferanse] i 2020 i Afrika.
Inkludering må være mer enn et ord vi sier for å se bra ut. Potensialet for at AI kan være nyttig i utviklingsland er enda større. De trenger å forbedre teknologien enda mer enn oss, og de har andre behov.
Er du bekymret for at bare noen få AI-selskaper, i Vesten og kanskje Kina, dominerer AI-feltet?
Ja, det er en annen grunn til at vi må ha mer demokrati i AI-forskning. Det er at AI-forskning i seg selv vil ha en tendens til å føre til konsentrasjoner av makt, penger og forskere. De beste studentene ønsker å gå til de beste bedriftene. De har mye mer penger, de har mye mer data. Og dette er ikke sunt. Selv i et demokrati er det farlig å ha for mye makt konsentrert på noen få hender.
Det har vært mye kontrovers om militær bruk av AI. Hvor står du på det?
Jeg står veldig sterkt imot.
Selv ikke-dødelig bruk av AI?
Vel, jeg vil ikke forhindre det. Jeg tror vi må gjøre det umoralsk å ha morderroboter. Vi må endre kulturen, og det inkluderer å endre lover og traktater. Det kan gå langt.
Selvfølgelig vil du aldri helt forhindre det, og folk sier: Et eller annet useriøst land vil utvikle disse tingene. Mitt svar er at en, vi ønsker å få dem til å føle seg skyldige for å gjøre det, og to, det er ingenting som hindrer oss i å bygge defensiv teknologi. Det er en stor forskjell mellom defensive våpen som vil drepe droner, og offensive våpen som er rettet mot mennesker. Begge kan bruke AI.
Bør ikke AI-eksperter samarbeide med militæret for å sikre at dette skjer?
Hvis de hadde de riktige moralske verdiene, greit. Men jeg stoler ikke helt på militære organisasjoner, fordi de har en tendens til å sette plikt foran moral. Jeg skulle ønske det var annerledes.
Hva er du mest begeistret for når det gjelder ny AI-forskning?
Jeg tror vi må vurdere de harde utfordringene med AI og ikke være fornøyd med kortsiktige, inkrementelle fremskritt. Jeg sier ikke at jeg vil glemme dyp læring. Tvert imot vil jeg bygge videre på det. Men vi må være i stand til å utvide det til å gjøre ting som resonnement, lære kausalitet og utforske verden for å lære og tilegne oss informasjon.
Hvis vi virkelig ønsker å nærme oss AI på menneskelig nivå, er det et annet ballspill. Vi trenger langsiktige investeringer, og jeg tror akademia er det beste stedet å bære den fakkelen.
Du nevner kausalitet – med andre ord, å forstå ikke bare mønstre i data, men Hvorfor noe skjer. Hvorfor er det viktig, og hvorfor er det så vanskelig?
Hvis du har en god årsaksmodell av verden du har med å gjøre, kan du generalisere selv i ukjente situasjoner. Det er avgjørende. Vi mennesker er i stand til å projisere oss selv inn i situasjoner som er svært forskjellige fra vår daglige opplevelse. Maskiner er ikke det, fordi de ikke har disse årsaksmodellene.
Vi kan håndlage dem, men det er ikke nok. Vi trenger maskiner som kan oppdage årsaksmodeller. Til en viss grad kommer det aldri til å bli perfekt. Vi har ikke en perfekt årsaksmodell av virkeligheten; det er derfor vi gjør mange feil. Men vi er mye bedre til å gjøre dette enn andre dyr.
Akkurat nå har vi egentlig ikke gode algoritmer for dette, men jeg tror at hvis nok folk jobber med det og anser det som viktig, vil vi gjøre fremskritt.