211service.com
Andrew Ng: Glem å bygge en AI-første virksomhet. Start med et oppdrag.
Jeremy Portje
Andrew Ng har brukt mange hatter i livet sitt. Du kjenner ham kanskje som grunnleggeren av Google Brain-teamet eller den tidligere sjefforskeren ved Baidu . Du kjenner ham kanskje også som din egen instruktør. Han har lært utallige studenter, nysgjerrige lyttere og bedriftsledere om prinsippene for maskinlæring gjennom sine svært populære nettkurs.
Nå i sin siste satsning, Landing AI , som han startet i 2017, utforsker han hvordan virksomheter uten gigantiske datasett å trekke på fortsatt kan bli med i AI-revolusjonen.
23. mars ble Ng med i MIT Technology Reviews virtuelle EmTech Digital, vårt årlige AI-arrangement, for å dele leksjonene han har lært.
Dette intervjuet er fortettet og lett redigert for klarhet.
MIT Technology Review: Jeg er sikker på at folk ofte spør deg: Hvordan bygger jeg en AI-first-bedrift? Hva pleier du å si til det?
Andrew Ng: Jeg pleier å si, ikke gjør det. Hvis jeg går til et team og sier: Hei alle sammen, vær så snill å være AI først, som har en tendens til å fokusere teamet på teknologi, noe som kan være flott for et forskningslaboratorium. Men når det gjelder hvordan jeg utfører virksomheten, har jeg en tendens til å være kunde- eller oppdragsledet, nesten aldri teknologi-ledet.
Du har nå denne nye satsingen kalt Landing AI. Kan du fortelle oss litt om hva det er, og hvorfor du valgte å jobbe med det?
Etter å ha ledet AI-teamene hos Google og Baidu, innså jeg at AI har forvandlet programvare for forbrukerinternett, som nettsøk og nettannonsering. Men jeg ønsket å ta AI til alle de andre bransjene, som er en enda større del av økonomien. Så etter å ha sett på mange forskjellige bransjer, bestemte jeg meg for å fokusere på produksjon. Jeg tror at flere bransjer er AI-klare, men et av mønstrene for at en bransje er mer AI-klar er hvis den har gjennomgått en digital transformasjon så det er litt data. Det skaper en mulighet for AI-team til å komme inn for å bruke dataene til å skape verdi.
Så et av prosjektene jeg har vært begeistret for i det siste, er produksjon av visuell inspeksjon. Kan du se på et bilde av en smarttelefon som kommer ut av produksjonslinjen og se om det er en defekt i den? Eller se på en bilkomponent og se om det er en bulk i den? En stor forskjell er i forbrukerprogramvare på internett, kanskje du har en milliard brukere og en enorm mengde data. Men i produksjon har ingen fabrikk produsert en milliard eller til og med en million ripede smarttelefoner. Takk og lov for det. Så utfordringen er, kan du få en AI til å fungere med hundre bilder? Det viser seg ofte at du kan. Jeg har faktisk blitt overrasket ganske mange ganger med hvor mye du kan gjøre med selv beskjedne mengder data. Og selv om all hypen og spenningen og PR rundt AI er på de gigantiske datasettene, føler jeg at det er mye plass vi trenger for å vokse også for å bryte opp disse andre applikasjonene der utfordringene er ganske forskjellige.
Hvordan gjør du det?
En veldig hyppig feil jeg ser administrerende direktører og CIOer gjør: de sier til meg noe sånt som Hei, Andrew, vi har ikke så mye data – dataene mine er et rot. Så gi meg to år på å bygge en flott IT-infrastruktur. Da vil vi ha alle disse flotte dataene å bygge AI på. Jeg sier alltid: Det er en feil. Ikke gjør det. For det første tror jeg ikke noe selskap på planeten i dag – kanskje ikke engang teknologigigantene – tror dataene deres er helt rene og perfekte. Det er en reise. Å bruke to eller tre år på å bygge en vakker datainfrastruktur betyr at du mangler tilbakemelding fra AI-teamet for å hjelpe deg med å prioritere hvilken IT-infrastruktur som skal bygges.
Hvis du for eksempel har mange brukere, bør du prioritere å stille dem spørsmål i en undersøkelse for å få litt mer data? Eller bør du på en fabrikk prioritere å oppgradere sensoren fra noe som registrerer vibrasjonene 10 ganger i sekundet til kanskje 100 ganger i sekundet? Det er ofte å begynne å gjøre et AI-prosjekt med dataene du allerede har som gjør at et AI-team kan gi deg tilbakemelding for å hjelpe deg med å prioritere hvilke tilleggsdata som skal samles inn.
I bransjer der vi bare ikke har omfanget av internett for forbrukerprogramvare, føler jeg at vi må skifte tankesett fra stor data til god data. Hvis du har en million bilder, fortsett, bruk det – det er flott. Men det er mange problemer som kan bruke mye mindre datasett som er rent merket og nøye utvalgt.
Kan du gi et eksempel? Hva mener du med gode data?
La meg først gi et eksempel fra talegjenkjenning. Da jeg jobbet med talesøk, fikk du lydklipp der du hørte noen si: Um dagens vær. Spørsmålet er, hva er den riktige transkripsjonen for det lydklippet? Er det Um (komma) dagens vær, eller er det Um (prikk, prikk, prikk) dagens vær, eller er Um noe vi bare ikke transkriberer? Det viser seg at en av disse er bra, men det som ikke er greit er hvis forskjellige transkriberere bruker hver av de tre merkekonvensjonene. Da er dataene dine støyende, og det skader talegjenkjenningssystemet. Nå, når du har millioner eller en milliard brukere, kan du ha de støyende dataene og bare snitte dem – læringsalgoritmen vil fungere bra. Men hvis du er i en setting der du har et mindre datasett – for eksempel hundre eksempler – så har denne typen støyende data en enorm innvirkning på ytelsen.
Et annet eksempel fra produksjon: vi gjorde mye arbeid med stålinspeksjon. Hvis du kjører bil, var siden på bilen en gang laget av et stålplate. Noen ganger er det små rynker i stålet, eller små bulker eller flekker på det. Så du kan bruke et kamera og datasyn for å se om det er feil eller ikke. Men forskjellige etiketter vil merke dataene annerledes. Noen vil sette en gigantisk avgrensningsboks rundt hele regionen. Noen vil sette små grensebokser rundt de små partiklene. Når du har et beskjedent datasett, må du sørge for at de forskjellige kvalitetsinspektørene merker dataene konsekvent – det viser seg å være noe av det viktigste.
For mange AI-prosjekter er åpen kildekode-modellen du laster ned fra GitHub – det nevrale nettverket du kan få fra litteratur – god nok. Ikke for alle problemer, men hovedproblemene. Så jeg har gått til mange av teamene mine og sagt: Hei, alle sammen, det nevrale nettverket er godt nok. La oss ikke rote med koden lenger. Det eneste du skal gjøre nå er å bygge prosesser for å forbedre kvaliteten på dataene. Og det viser seg at ofte resulterer i raskere forbedringer av ytelsen til algoritmen.
Hva er datastørrelsen du tenker på når du sier mindre datasett? Snakker du om hundre eksempler? Ti eksempler?
Maskinlæring er så mangfoldig at det har blitt veldig vanskelig å gi svar som passer alle. Jeg har jobbet med problemer der jeg hadde rundt 200 til 300 millioner bilder. Jeg har også jobbet med problemer der jeg hadde 10 bilder, og alt i mellom. Når jeg ser på produksjonsapplikasjoner, tror jeg at noe som titalls eller kanskje hundre bilder for en defektklasse ikke er uvanlig, men det er veldig store variasjoner selv innenfor fabrikken.
Jeg opplever at AI-praksisen går over når størrelsen på treningssettene går under, la oss si, 10 000 eksempler, fordi det er på en måte terskelen der ingeniøren i utgangspunktet kan se på hvert eksempel og designe det selv og deretter ta en avgjørelse.
Nylig pratet jeg med en veldig flink ingeniør i et av de store teknologiselskapene. Og jeg spurte: Hei, hva gjør du hvis etikettene er inkonsekvente? Og han sa: Vel, vi har dette teamet på flere hundre mennesker i utlandet som gjør merkingen. Så jeg skal skrive merkeinstruksjonene, få tre personer til å merke hvert bilde, og så tar jeg et gjennomsnitt. Og jeg sa: Ja, det er den rette tingen å gjøre når du har et gigantisk datasett. Men når jeg jobber med et mindre team og etikettene er inkonsekvente, sporer jeg bare opp de to personene som er uenige med hverandre, får dem begge på en Zoom-samtale og får dem til å snakke med hverandre for å prøve å finne en løsning.
Jeg vil rette oppmerksomheten nå for å snakke om dine tanker om den generelle AI-industrien. Algoritmen er vårt AI-nyhetsbrev, og jeg ga leserne våre en mulighet til å sende inn noen spørsmål til deg på forhånd. En leser spør: AI-utvikling ser ut til for det meste å ha delt seg mot enten akademisk forskning eller storskala, ressurskrevende, store bedriftsprogrammer som OpenAI og DeepMind. Det gir egentlig ikke mye plass for små startups å bidra med. Hva tror du er noen praktiske problemer som mindre selskaper virkelig kan fokusere på for å bidra til reell kommersiell bruk av AI?
Jeg tror mye av medieoppmerksomheten har en tendens til å være på de store selskapene, og noen ganger på de store akademiske institusjonene. Men hvis du går på akademiske konferanser, er det mye arbeid utført av mindre forskningsgrupper og forskningslaboratorier. Og når jeg snakker med forskjellige mennesker i forskjellige selskaper og bransjer, føler jeg at det er så mange forretningsapplikasjoner de kan bruke AI til å takle. Jeg pleier å gå til bedriftsledere og spørre: Hva er dine største forretningsproblemer? Hva er de tingene som bekymrer deg mest? slik at jeg bedre kan forstå målene for virksomheten og deretter brainstorme om det finnes en AI-løsning eller ikke. Og noen ganger er det ikke det, og det er greit.
Kanskje jeg bare nevner et par hull som jeg synes er spennende. Jeg tror at det i dag fortsatt er veldig manuelt å bygge AI-systemer. Du har noen få briljante maskinlæringsingeniører og dataforskere som gjør ting i en datamaskin og deretter skyver ting til produksjon. Det er mange manuelle trinn i prosessen. Så jeg er begeistret for ML ops [maskinlæringsoperasjoner] som en ny disiplin for å bidra til å gjøre prosessen med å bygge og distribuere AI-systemer mer systematisk.
Dessuten, hvis du ser på mange av de typiske forretningsproblemene – alle funksjonene fra markedsføring til talent – er det mye rom for automatisering og effektivitetsforbedring.
Jeg håper også at AI-fellesskapet kan se på de største sosiale problemene – se hva vi kan gjøre for klimaendringer eller hjemløshet eller fattigdom. I tillegg til de noen ganger svært verdifulle forretningsproblemene, bør vi også jobbe med de største sosiale problemene.
Hvordan går du egentlig frem i prosessen med å identifisere om det er en mulighet for å drive med noe med maskinlæring for din bedrift?
Jeg skal prøve å lære litt om virksomheten selv og prøve å hjelpe bedriftslederne med å lære litt om AI. Deretter brainstormer vi vanligvis et sett med prosjekter, og for hver av ideene vil jeg gjøre både teknisk diligence og business diligence. Vi skal se på: Har du nok data? Hva er nøyaktigheten? Er det en lang hale når du distribuerer til produksjon? Hvordan fyller du dataene tilbake og lukker sløyfen for kontinuerlig læring? Så sørg for at problemet er teknisk mulig. Og så business diligence: vi sørger for at dette vil oppnå avkastningen vi håper på. Etter den prosessen har du det vanlige, som å estimere ressursene, milepæler og deretter forhåpentligvis gå til utførelse.
Et annet forslag: det er viktigere å starte raskt, og det er greit å begynne i det små. Min første meningsfulle forretningsapplikasjon hos Google var talegjenkjenning, ikke nettsøk eller annonsering. Men ved å hjelpe Googles taleteam med å gjøre talegjenkjenning mer nøyaktig, ga det Brain-teamet troverdighet og midler til å gå etter større og større partnerskap. Så Google Maps var det andre store partnerskapet der vi brukte datasyn – for å lese husnummer for å geolokalisere hus på Google maps. Og først etter de to første vellykkede prosjektene hadde jeg en mer seriøs samtale med reklameteamet. Så jeg tror jeg ser flere selskaper mislykkes ved å starte for stort enn feile ved å starte for lite. Det er greit å gjøre et mindre prosjekt for å komme i gang som en organisasjon for å lære hvordan det føles å bruke AI, og deretter fortsette å bygge større suksesser.
Hva er én ting publikum bør begynne å gjøre i morgen for å implementere AI i bedriftene deres?
Hopp inn. AI forårsaker et skifte i dynamikken i mange bransjer. Så hvis bedriften din ikke allerede gjør ganske aggressive og smarte investeringer, er dette et godt tidspunkt.