211service.com
Vår rare oppførsel under pandemien roter med AI-modeller
Getty
I uken 12.-18. april var de 10 beste søkeordene på Amazon.com: toalettpapir, ansiktsmaske, hånddesinfeksjon, papirhåndklær, Lysol-spray, Clorox-servietter, maske, Lysol, masker for bakteriebeskyttelse og N95-maske . Folk søkte ikke bare, de kjøpte også – og i bulk. De fleste som lette etter masker endte opp med å kjøpe ny Amazon #1 bestselger, ansiktsmaske, pakke med 50 stk .
Da covid-19 rammet, begynte vi å kjøpe ting vi aldri hadde kjøpt før. Skiftet var plutselig: bærebjelkene i Amazons topp ti – telefondeksler, telefonladere, Lego – ble slått av listene på bare noen få dager. Nozzle, et London-basert konsulentselskap som spesialiserer seg på algoritmisk annonsering for Amazon-selgere, fanget opp den raske endringen i denne enkle grafen.
Det tok mindre enn en uke i slutten av februar før de 10 beste Amazon-søkeordene i flere land ble fylt opp med produkter relatert til covid-19. Du kan spore spredningen av pandemien etter hva vi handlet for: varene toppet seg først i Italia, etterfulgt av Spania, Frankrike, Canada og USA. Storbritannia og Tyskland henger litt etter. Det er en utrolig overgang i løpet av fem dager, sier Rael Cline, administrerende direktør i Nozzle. Ringvirkningene har blitt sett på tvers av detaljhandelskjeder.
Men de har også påvirket kunstig intelligens, og forårsaket hikke for algoritmene som kjører bak kulissene innen lagerstyring, svindeloppdagelse, markedsføring og mer. Maskinlæringsmodeller som er trent på normal menneskelig atferd, finner nå ut at normalen har endret seg, og noen fungerer ikke lenger som de skal.
Hvor ille situasjonen er avhenger av hvem du snakker med. I følge Pactera Edge, et globalt AI-konsulentselskap, er automatisering på vei. Andre sier at de holder et forsiktig øye med automatiserte systemer som bare holder stand, og går inn med en manuell korreksjon når det er nødvendig.
Det som er klart er at pandemien har avslørt hvor sammenvevd livene våre er med AI, og avslører en delikat medavhengighet der endringer i atferden vår endrer hvordan AI fungerer, og endringer i hvordan AI fungerer endrer atferden vår. Dette er også en påminnelse om at menneskelig involvering i automatiserte systemer fortsatt er nøkkelen. Du kan aldri sitte og glemme når du er i slike ekstraordinære omstendigheter, sier Cline.
Mer om koronaviruset
Vår viktigste dekning av covid-19 er gratis, inkludert:
Hva er flokkimmunitet?
Hvordan fungerer koronaviruset?
Hva er potensielle behandlinger?
Hvilke medikamenter fungerer best?
Hva er den riktige måten å gjøre sosial distansering på?
Andre vanlige spørsmål om koronavirus
---
Nyhetsbrev: Coronavirus Tech Report
Zoomshow: Radio Corona
Se også:
All vår covid-19-dekning
Covid-19 spesialutgaven
Klikk her for å abonnere og støtte vår non-profit journalistikk.
Maskinlæringsmodeller er designet for å reagere på endringer. Men de fleste er også skjøre; de presterer dårlig når inndata avviker for mye fra dataene de ble trent på. Det er en feil å anta at du kan sette opp et AI-system og gå bort, sier Rajeev Sharma, global visepresident i Pactera Edge: AI er en levende, pustende motor.
Sharma har snakket med flere selskaper som sliter med egensindig AI. Et selskap som leverer sauser og krydder til forhandlere i India, trengte hjelp til å fikse det automatiske lagerstyringssystemet sitt når bulkbestillinger brøt prediktive algoritmer. Systemets salgsprognoser som selskapet stolte på for å bestille på nytt stemte ikke lenger med det som faktisk solgte. Det ble aldri trent på en pigg som dette, så systemet var ute av spill, sier Sharma.
Et annet firma bruker en AI for å vurdere følelsen av nyhetsartikler og gir daglige investeringsanbefalinger basert på resultatene. Men siden nyhetene for øyeblikket er dystrere enn vanlig, kommer rådene til å bli veldig skjeve, sier Sharma. Og et stort strømmefirma som har hatt en plutselig tilstrømning av innholdshungrige abonnenter har også problemer med sine anbefalingsalgoritmer, sier han. Selskapet bruker maskinlæring for å foreslå relevant og personlig tilpasset innhold til seerne slik at de stadig kommer tilbake. Men den plutselige endringen i abonnentdata gjorde systemets anbefalinger mindre nøyaktige.
Mange av disse problemene med modeller oppstår fordi flere bedrifter kjøper maskinlæringssystemer, men mangler den interne kunnskapen som trengs for å vedlikeholde dem. Omskolering av en modell kan kreve ekspert menneskelig inngripen.
Den nåværende krisen har også vist at ting kan bli verre enn de ganske vanilje-worst-case-scenarioene som er inkludert i treningssett. Sharma mener flere AI-er bør trenes ikke bare på oppturer og nedturer de siste årene, men også på freak hendelser som den store depresjonen på 1930-tallet, Black Monday-børskrakket i 1987 og finanskrisen 2007-2008. En pandemi som denne er en perfekt trigger for å bygge bedre maskinlæringsmodeller, sier han.
Likevel kan du ikke forberede deg på alt. Generelt, hvis et maskinlæringssystem ikke ser det det forventer å se, vil du få problemer, sier David Excell, grunnlegger av Featurespace, et atferdsanalyseselskap som bruker AI for å oppdage kredittkortsvindel. Kanskje overraskende nok har Featurespace ikke sett AI-en sin truffet for dårlig. Folk kjøper fortsatt ting på Amazon og abonnerer på Netflix slik de var før, men de kjøper ikke store billetter eller bruker nye steder, som er atferden som kan vekke mistanker. Folks forbruksatferd er en sammentrekning av deres gamle vaner, sier Excell.
Firmaets ingeniører måtte bare gå inn for å justere for en økning i folk som kjøper hageutstyr og elektroverktøy, sier Excell. Dette er den typen unormale kjøp i middels pris som algoritmer for oppdagelse av svindel kan fange opp. Jeg tror det absolutt er mer tilsyn, sier Excell. Verden har endret seg, og dataene har endret seg.
Får tonen riktig
London-baserte Phrasee er et annet AI-selskap som er praktisk. Den bruker naturlig språkbehandling og maskinlæring for å generere kopi av e-postmarkedsføring eller Facebook-annonser på vegne av kundene sine. Å sørge for at den får den rette tonen er en del av jobben. Dens AI fungerer ved å generere mange mulige fraser og deretter kjøre dem gjennom et nevralt nettverk som velger de beste. Men fordi generering av naturlig språk kan gå veldig galt, lar Phrasee alltid mennesker sjekke hva som går inn og kommer ut av AI-en.
Da covid-19 rammet, innså Phrasee at mer følsomhet enn vanlig kan være nødvendig og begynte å filtrere ut ytterligere språk. Selskapet har forbudt spesifikke fraser, for eksempel å gå viralt, og tillater ikke språk som refererer til motløse aktiviteter, for eksempel festklær. Den har til og med hentet ut emojier som kan leses som for glade eller for alarmerende. Og det har også droppet termer som kan vekke angst, for eksempel OMG, vær forberedt, fyll opp og spenn på deg selv. Folk vil ikke at markedsføring skal få dem til å føle seg engstelige og redde – du vet at denne avtalen er i ferd med å gå tom, presspress, sier Parry Malm, firmaets administrerende direktør.
Som et mikrokosmos for detaljhandelen som helhet, kan du imidlertid ikke slå Amazon. Det er også her noen av de mest subtile justeringene bak kulissene gjøres. Ettersom Amazon og de 2,5 millioner tredjepartselgerne den støtter sliter med å møte etterspørselen, gjør de små justeringer av algoritmene for å hjelpe til med å spre belastningen.
De fleste Amazon-selgere er avhengige av Amazon for å oppfylle bestillingene sine. Selgere lagrer varene sine i et Amazon-lager, og Amazon tar seg av all logistikken, leverer til folks hjem og håndterer returer. Den markedsfører deretter selgere hvis bestillinger den oppfyller selv. For eksempel, hvis du søker etter en bestemt vare, for eksempel en Nintendo Switch, er det mer sannsynlig at resultatet som vises øverst, ved siden av den fremtredende Legg i kurv-knappen, kommer fra en leverandør som bruker Amazons logistikk enn en som gjør det. 't.
Men de siste ukene har Amazon snudd på det, sier Cline. For å lette etterspørselen på sine egne varehus, ser det ut til at algoritmene nå er mer sannsynlige å markedsføre selgere som håndterer sine egne leveranser.
Volatile markeder
Denne typen justering ville være vanskelig å gjøre uten manuell inngripen. Situasjonen er så ustabil, sier Cline. Du prøver å optimalisere for toalettpapir forrige uke, og denne uken vil alle kjøpe puslespill eller treningsutstyr.
Tilpasningene Amazon gjør til sine algoritmer har deretter en avsmittende effekt på algoritmene som selgere bruker for å bestemme hva de skal bruke på annonsering på nettet. Hver gang en nettside med annonser lastes inn, finner en superrask auksjon sted der automatiserte budgivere bestemmer seg imellom hvem som skal fylle hver annonseboks. Beløpet disse algoritmene bestemmer seg for å bruke for en annonse avhenger av et utall variabler, men til syvende og sist er beslutningen basert på et estimat av hvor mye du, øyeeplene på siden, er verdt for dem. Det er mange måter å forutsi kundeadferd, inkludert ikke bare data om dine tidligere kjøp, men også luken som annonseselskaper har plassert deg i på grunnlag av din nettaktivitet.
Men nå er en av de beste prediktorene for om noen som klikker på en annonse vil kjøpe produktet ditt, hvor lang tid du sier det vil ta å levere det, sier Cline. Så Nozzle snakker med kunder om å justere algoritmene deres for å ta hensyn til dette. Hvis du for eksempel tror at du ikke kan levere raskere enn en konkurrent, er det kanskje ikke verdt å prøve å overby dem i en annonseauksjon. På den annen side, hvis du vet at konkurrenten din har gått tom for lager, kan du gå inn med billige pengespill som de ikke vil by.
Alt dette er bare mulig med et dedikert team som følger med på ting, sier Cline. Han tror den nåværende situasjonen er en øyeåpner for mange mennesker som antok at alle automatiserte systemer kunne kjøre seg selv. Du trenger et datavitenskapsteam som kan koble det som skjer i verden til det som skjer med algoritmene, sier han. En algoritme ville aldri plukke opp noen av disse tingene.
Med alt koblet sammen, har virkningen av en pandemi blitt følt vidt og bredt, rørende mekanismer som i mer typiske tider forblir skjult. Hvis vi ser etter en sølvfôr, er det nå på tide å ta en oversikt over de nylig eksponerte systemene og spørre hvordan de kan utformes bedre, gjøres mer motstandsdyktige. Skal maskiner være til å stole på, må vi passe på dem.