211service.com
AI er ekte nå: En samtale med Sophie Vandebroek
Hvorfor det aldri blir en ny AI-vinter, og hva IBM og MIT gjør sammen for å sikre det.
28. februar 2019
Sponset av Darktrace
Flere ganger enn nesten noe annet innovasjonsfelt har kunstig intelligens klart tilbakevendende sykluser av overoppblåst håp, etterfulgt av skuffelse, pessimisme og nedskjæringer i finansieringen. Men Sophie Vandebroek, IBMs visepresident for nye teknologipartnerskap, mener AI-vintrene virkelig hører fortiden til, takket være de enorme mengder datakraft og data som nå er tilgjengelig for å trene nevrale nettverk.
I denne episoden deler Vandebroek eksempler på virkelige applikasjoner aktivert av dette skiftet, fra bildegjenkjenning til chatbots. Og hun beskriver oppdraget til det nye MIT-IBM Watson AI Lab, et 10-årig samarbeid på 240 millioner dollar mellom IBM-forskere og MIT-fakultet og studenter for å fokusere på kjernefremskritt som vil gjøre AI mer nyttig og pålitelig på tvers av bransjer fra helsevesenet til finans til sikkerhet.
Denne episoden er brakt til deg av Darktrace, verdensledende innen AI-teknologi for cyberforsvar. Darktrace har hovedkontor i San Francisco og Cambridge, Storbritannia, og har nesten 2500 kunder over hele verden som bruker programvaren til å oppdage og svare på cybertrusler mot deres virksomheter, brukere og enheter. Darktrace har bygget innovativ maskinlæringsteknologi som kan oppdage uvanlig aktivitet ved å bruke en tilnærming basert på det menneskelige immunsystemet. I andre halvdel av showet forklarer administrerende direktør i Darktrace, Nicole Eagan, hvordan Darktraces teknologi fungerer og hvorfor selskaper trenger å bringe nytt forsvar til dagens cybervåpenkappløp.
VIS NOTER OG LENKER
FULL TRANSKRIPT
Elizabeth Bramson-Boudreau: Fra MIT Technology Review heter jeg Elizabeth Bramson-Boudreau, og dette er Business Lab, showet som hjelper bedriftsledere å forstå nye teknologier som kommer ut av laboratoriet og inn på markedet. Denne episoden er brakt til deg av Darktrace, verdensledende innen AI-teknologi for cyberforsvar. Senere i programmet skal jeg snakke med administrerende direktør i Darktrace, Nicole Eagan. Hun vil vise oss hvordan fremskritt innen AI og maskinlæring gir oss et nytt sett med måter å forsvare oss mot hackere og cyberkriminelle.
Elizabeth: Men vår første gjest kommer fra et av de nyeste sentrene for AI-forskning, MIT-IBM Watson AI .Lab, bare et par kvartaler fra kontoret vårt her i Cambridge, Massachusetts. Det er stedet for mer enn 50 nye prosjekter som involverer IBM-forskere og MIT-fakultetet, alle rettet mot å fremme de grunnleggende teknologiene bak kunstig intelligens. Og her for å snakke med oss er en av arkitektene bak dette arbeidet, Dr. Sophie Vandebroek.
Elizabeth: Sophie er for tiden IBMs visepresident for nye teknologipartnerskap, og hun er kjent i dataindustrien for sin utmerkede historie som driver innovasjon fremover – ikke bare hos IBM, men hos Xerox, hvor hun tilbrakte over et tiår som teknologisjef i Xerox. Hun var direktør for PARC Inc., det berømte laboratoriet tidligere kjent som Xerox PARC. I 2011 ble hun hentet inn i Women in Technology Hall of Fame. I tråd med temaene til MIT IBM Watson AI-laboratoriet begynte vi å snakke om hvordan AI utvikler seg og hvorfor det forandrer virksomheter på måter som de fleste ledere først begynner å forstå.
Elizabeth: Sophie, takk for at du kom hit for å snakke med oss og velkommen.
Sophie Vandebroek: Å, det er en stor glede for meg å være her. Jeg har vært en ivrig leser av journalen din, så jeg er veldig glad for å delta i podcasten.
Elizabeth : Jeg håper du kan snakke med ikke bare meg, men også folkene som hører på denne podcasten om hvor AI går, og stadiet vi er i i AI-utviklingen. Jeg vet at mange mennesker snakker om hvordan AI har vært på randen av transformasjonsarbeid, bare for på en måte å få disse håpene til å forsvinne. Kan vi muligens være i en annen av disse situasjonene der det forsvinner, eller er dette annerledes nå?
Sophie: Det er veldig annerledes nå AI er ekte. Og ja, ordet kunstig intelligens ble laget for nesten 70 år siden. Det er så mange tiår senere. Så hva skjedde? Hvorfor var det ikke ekte da, og hvorfor er det ekte nå? Det er to hovedgrunner til at det er ekte nå. Og det er begge på grunn av eksponentielle lover. Den første er Moores lov som vi alle kjenner og elsker veldig godt. Transistoren, den grunnleggende transistoren ble oppfunnet på 50-tallet. I 1975 var det 1000 transistorer på en kvadratcentimeterbrikke. I dag er det 10 milliarder transistorer på en kvadratcentimeterbrikke som IBM utvikler i dag, og den datakraften har resultert i de mobile enhetene vi har i lommene våre, den siste høyytelsesdatamaskinen, Summit, du vet, den IBM-datamaskinen som Oak Ridge National Lab kjøpt nylig. Den gjør 200 petaflops, som er 200 tusen trillioner beregninger per sekund. Jeg mener, superrask.
Sophie: Så vi har et volum, jeg mener en enorm mengde datakraft, som er avgjørende for at AI skal være ekte. I tillegg den andre loven, som er Metcalfes lov. Bob Metcalfe, som også var en del av Boston-samfunnet i lang tid, var på Xerox PARC, og som du vet før jeg begynte i IBM, var jeg noen tiår i Xerox og jobbet tett med PARC-teamet da han oppfant Ethernet. Og Ethernet-tilkoblet ... verdien av Ethernet, verdien av et nettverk er proporsjonal med 2 til den n-te med n, antall enheter på nettverket. Og så det kalles Metcalfes lov, og det refererte ikke bare til Ethernet, men åpenbart til World Wide Web, til sosiale nettverk, og det har skapt mange svært verdifulle selskaper som vi alle kjenner i dag.
Sophie: Men i tillegg har det skapt dette enorme datavolumet, ikke sant? Og så dataene på nettet sammen med de strukturerte digitale dataene som mange virksomheter har i dag, mange virksomheter har begynt å digitalisere alle arbeidsprosessene sine sammen med alle dataene kommer fra sensorer med tingenes internett og sensorer og produksjon og kameraer, allestedsnærværende kameraer, etc. Det er en enorm mengde data, faktisk har den økt eksponentielt i løpet av det siste tiåret eller mer nå. Og så 'AI-vintrene' skjedde fordi det faktisk ikke var datakraften og det var ikke dataene til å trene disse nevrale nettverkene. Og i dag har vi regnekraften. Vi har dataene. Og en enorm mengde fremskritt har blitt gjort i nevrale nettverk i løpet av de siste fem årene, siden det for første gang i 2012 var et dypt læringsnevralt nettverk som kjørte på en grafisk prosesseringsenhet, en GPU, som for første gang vant en konkurranse om bildegjenkjenning. Og faktisk er det i disse trange områdene at AI har overmenneskelig kvalitet og superhastighet. Og så av disse grunnene, disse to eksponentialene, er AI ekte. Og faktisk vil jeg si at kunstig intelligens i seg selv nå er i begynnelsen av en eksponentiell kurve, at vi skaper eksponentielt rask ny innsikt som enkeltpersoner, uansett hvilken bransje du er i, kan bruke til å ta raske sanntidsbeslutninger. I tillegg kan det akselerere oppdagelsesprosessen i biovitenskapelig forskning og utvikling generelt. Så det blir brukt. Og den har virkelig evne til å påvirke flere felt.
Elizabeth: Så det er en flott forklaring på hva som virkelig har muliggjort dette skiftet og hvorfor AI er et så allestedsnærværende tema for bedriftsledere i dag. Hva tillater det, hva lar AI virksomheter gjøre som kan ha vært vanskelig eller til og med umulig å gjøre for et tiår siden?
Sophie: Ja, så det har det, det lar bedrifter både øke effektiviteten og effektiviteten fra bunnlinjens synspunkt, fra et lønnsomhetssynspunkt. Men det lar dem også skape helt nye forretningsmodeller og nye inntektsmuligheter. La meg gi et eksempel på den første. For eksempel, virtuelle agenter som passer inn i denne kategorien smal AI som vi nettopp passerte den fasen, vi er i fasen med bred AI i dag, og vi kan snakke om det før vi kommer til generell kunstig intelligens. Men de virtuelle agentene eller chatbotene som mange av oss kjenner og samhandler med i dag som en del av kundeservere, eksisterte bare ikke for et tiår siden. Alt ble gjort av kundesenteragenter som måtte utnytte store databaser for å gi deg svar på spørsmålene dine, et cetera. Vel i dag, det meste av det, kan virtuelle agenter gjøre en veldig effektiv og effektiv måte. Faktisk vil noen av disse virtuelle agentene i dag veldig raskt vurdere om du er en ekstrovert eller introvert og justere språket deres i henhold til stilen din.
Sophie: Også automatisering. for eksempel hvis du kjører bilen din gjennom en bomstasjon i dag, er det helt automatisk registrering av skilt og avlesning av skiltene, slik at du faktisk blir belastet for å kjøre gjennom bomstasjonene i backend-prosessene. Igjen ble de fleste av disse prosessene alle gjort manuelt tidligere. Bilder vil bli tatt av bilskilt, vil bli sendt til India for å bli behandlet, og så vil fire av fem personer, hvis registreringsskiltet ditt er lagt inn i systemet, vil du bli fakturert. Dette er alle disse transaksjonelle, rutinemessige, veldig smale, veldig spesifikke prosessene som er automatisert i dag.
Elizabeth: Alt dette høres fantastisk ut. Og som bedriftsleder kan jeg tro at du vet hvorfor jeg ikke ønsker å se større effektivitet. Men er det ting jeg kanskje må tenke på rundt risikoen ved maskinlæringsbaserte verktøy?
Sophie: Ja, det er definitivt risikoer. Og mange bedrifter – hos IBM er det på topp. Vi lager verktøyene og mulighetene som en del av IBM OpenScale, eller vi har andre verktøysett jeg vil fremheve. En av dem er å hjelpe virksomheter med å håndtere risiko. Det begynner også å bli toppen av selskapenes styrer og direktører for å sikre at disse risikoene knyttet til distribusjon og omfavnelse av kunstig intelligens som en del av organisasjonen blir adressert. La meg bare fremheve noen. Nummer én er å sørge for at algoritmene, AI-algoritmene er rettferdige - at resultatet av AI-algoritmen, ettersom AI hjelper mennesker med å ta beslutninger, at avgjørelsene er rettferdige og etiske og ikke partiske. Så vi har nettopp lansert åpen kildekode, hvem som helst kan hjelpe oss med å forbedre den, så IBM-forskningen ga åpen kildekode for AI Fairness 360 Toolkit, hvor du kan hente inn algoritmen din og deretter sjekkes for alle slags skjevheter. I dag sjekker vi for kjønnsskjevhet, aldersskjevhet, raseskjevhet, ting som postnummerskjevhet. Noen av årsakene til skjevheten er at datasettet som argumentet trenes med, og spesielt i bedrifter – bedrifter ikke har store mengder data som i forbrukerverdenen, ikke sant, der det kan være store mengder kattebilder. å trene en bildealgoritme til å gjenkjenne en katt. Foretakene der en bedrift, la oss si et sykehus eller en skole eller en bedrift, har en begrenset mengde data for å trene algoritmene, slik at dataene kanskje ikke har tilstrekkelig mengde mangfold og inkludering i datasettet, slik at algoritmene faktisk blir forutinntatt.
Sophie: Et eksempel er for eksempel personalavdelinger som begynner å bruke kunstig intelligens for å hjelpe til med å skaffe nye ansatte. Og så hvis kilden din for programvareutviklere utnytter en AI-algoritme som kan trenes på dataene dine, vil algoritmen lære at de fleste av programvareutviklerne er menn, fordi det er det du ansatt tidligere. Så risikoen er at algoritmer da kan anbefale at din neste ansettelse, ser på alle CVene, kan proporsjonalt anbefale flere menn enn kvinner for programvareingeniørjobber. Vi vet alle at kjønn er irrelevant for en programvareingeniør. Det er tilfeldigvis at historiske data var partisk i dataene. Så verktøyene vil da anbefale å ha et mer variert datasett.
Elizabeth: Ok, så hva er noen av de andre risikoene?
Sophie: Greit. De andre risikoene er, det er mer jeg mener dagens algoritmer, spesielt dyp læring og nevrale nettverk, er som svarte bokser. Så risikoen er at algoritmen vil gi deg et svar. Ja, du får et lån, eller nei, du får ikke et lån, eller ja, du har hudkreft fordi smal AI er bedre enn mennesker til å identifisere hudkreft. Men det kan ikke forklares. Det forklarer ikke hvorfor eller hvordan det kom til det svaret. Og derfor er forklarbarhet veldig viktig. Så det er en risiko for at du i din virksomhet ikke vil være i stand til å forklare hvordan visse svar ble oppnådd. Og faktisk i EU, med GDPR, General Data Protection Regulations, er det et krav. Bedrifter kan ikke engang bruke AI hvis det ikke kan forklare seg selv. Alt skal kunne forklares.
Elizabeth: Så fortell oss litt om MIT-IBM Watson Lab og dets oppdrag.
Sophie: Ja. Takk for spørsmålet. Dette er et veldig spennende samarbeid mellom IBM research og MIT som vi etablerte for litt over et år siden. Så det er en forpliktelse på 240 millioner dollar fra IBM over 10 år, og det er et unikt laboratorium, et universitetsindustrielt samarbeidslaboratorium, i verden. Ingen annen av en slik art finnes. Faktisk begynte jeg selv og dekanen for ingeniørfag ved MIT, Anantha [Chandrakasan], idémyldring sommeren 2017, jeg tror det var...
Sophie: Du fortalte meg at alt skjedde ganske raskt.
Elizabeth: Det skjedde på tre uker. Kanskje fire uker hvis jeg hadde inkludert lunsjen som Anantha og jeg hadde før vår senior visepresident snakket med presidenten for MIT en mandag morgen og tre uker senere på en fredag, ble kontrakten signert. Og slik er det faktisk, visjonen var å skape dette felles laboratoriet med rundt 100 forskere, og forskerne inkluderte IBM-forskere, MIT-professorer og studenter, og vi feiret det første jubileet i september. Sist september 2018. Og vi har faktisk 49 fellesprosjekter som er aktive i dag, med rundt 100 personer eller tilsvarende 100 personer på disse prosjektene. Og det er de egentlig, de er forskningsprosjekter og ikke anvendt teknologi. Vi ønsket virkelig å forsikre oss om at disse 50 prosjektene tar for seg de vanskeligste problemene innen AI. Og de gjør akkurat det.
Sophie: Så det er fire søyler. Vi definerte fire pilarer. Den ene handler om kjerne AI-algoritmer, og det er nøyaktig hvor vi tar opp disse vanskelige problemene som AI som kan forklare seg selv. Eller lære av små data, forskjellige metoder for å lære av små data, som sykehus har et lite sett med pasienter, men et lite sett med data.
Elizabeth: For å løse problemet du nevnte før om hvordan det på bedriftssiden ikke er det, er det ofte ikke nok data til å virkelig trene algoritmene.
Sophie: Ikke slik det ble gjort i fortiden til høyre i den smale AI-fasen. Nå er vi i denne fasen av bred kunstig intelligens hvor systemene må lære av små data. Så flere av prosjektene i MIT-IBM Watson AI lab er også knyttet til det.
Sophie: Den andre pilaren er bruk av kunstig intelligens i næringer. Og i dag ser vi på tre bransjer: helsevesen og biovitenskap, fordi IBMs forretningsenhet Watson Health har hovedkontor her i Cambridge, Massachusetts. AI brukt på industrien er også sikkerhet, brukt på sikkerhetsbedrifter. Og selvfølgelig er sikkerhet relevant for alle bransjer. Og så er den tredje bransjen vi fokuserer på finansielle tjenester, så finans og økonomi. Så det er en andre søyle. Det er fire pilarer i MIT-IBM Watson AI Lab.
Sophie: Den tredje er, vi kaller det fysikken til AI. Hva er maskinvareutfordringene for å gjøre effektiv og effektiv trening i skyene så vel som på kanten. Og så er den fjerde kategorien, en som jeg er veldig begeistret for, en kategori vi kaller velstand aktivert av AI, eller delt velstand aktivert av AI. Den ser igjen på disse utfordringene med hvordan man lager AI-systemer og som har virkelig moralske verdier som kan ta etiske beslutninger. Hva er fremtiden til jobbene for eksempel, er et prosjekt vi har i den kategorien. Og så ja, dette er de fire pilarene: kjerne AI-algoritmer, AI-fysikk, AI for industrier og velstand aktivert av AI. Og nå som vi feiret vårt første jubileum, har vi nettopp blitt enige mellom MIT og IBM om at vi vil åpne dørene for andre store bedrifter som virkelig er interessert i å være i forkant av forskning innen kunstig intelligens for å bli med i laboratoriet vårt. Så det er det vi jobber med videre.
Elizabeth: To områder som vi i MIT Technology Review bruker mye tid på å rapportere på er kryptovalutaer eller blokkjede, og kvanteberegning. Jeg vil veldig gjerne høre hva dere alle gjør på disse områdene. Og kanskje vi kan begynne med krypto. Og jeg antar at spørsmålet jeg ville ha er og hvordan tenker vi på at blockchain er mer enn en kuriositet og faktisk noe som er pålitelig og stabilt og på en måte kan forbedre forretningskonteksten den brukes i?
Sophie: Ja, du sa det rette ordet der. Så alt handler om tillit. Når vi hos IBM snakker om blokkjede, faktisk blokkjede, foregikk det mye forskning innen blokkjede i flere år i forskningslaboratoriene, og IBM opprettet en virksomhet for to og et halvt år siden, en forretningsenhet for blokkjede. Jeg ser tre typer områder hvor blockchain brukes i dag eller hvor det er mange prototyper som eksperimenterer. En er faktisk i kryptovalutaer som Bitcoin. Og det er slik de fleste kjenner blockchain, de tenker på Bitcoin. Og det er et helt område med kryptovaluta. Hos IBM er vi ikke interessert i kryptovaluta, fordi kundene våre ikke er interessert i kryptovaluta. Vi er interessert i den underliggende blokkjedeplattformen. Og faktisk har mye av den underliggende plattformen vært åpen kildekode på Hyperledger, drevet av Linux Foundation, og IBM har bidratt betydelig til koden, og vi vil fortsette å gjøre det. Den neste er å ha blokkjede, denne underliggende plattformen, som brukes i verdikjeder for å spore verdifulle varer eller verdifulle digitale varer når de går fra der de kommer fra til der de blir brukt. Og jeg kan gi noen eksempler. Og det tredje området hvor det er verdifullt, spesielt i finansnæringen, er rundt digital identitet. Og jeg kan gi noen eksempler der. Men det bedrifter er interessert i er å kunne skape pålitelige transaksjoner mellom partnere som iboende kanskje ikke kjenner hverandre som små bedrifter eller større bedrifter eller distributører eller bønder.
Sophie: Og slik skape tilliten på en distribuert måte. Så blokkjedenettverkene vi har opprettet med våre kunder, er private nettverk. De er ikke åpne for at alle kan bli med. De er private. Det er bare tillatelse nettverk. Et av de første eksemplene vi gjorde, startet for mange, mange år siden, og det er nå i drift, er et blokkjedenettverk for matsikkerhet vi opprettet med Walmart. Walmart var et søylemedlem i dette blokkjedenettverket, og mange av Walmart-leverandørene er på nettverket. Og der spores det mat fra gården til bordet. Og spesielt intensjonen her er at hvis som et utbrudd av E. coli eller andre mattrygghetsproblemer...
Elizabeth: Romainesalat.
Sophie: Ja, romansalat. Jeg mener, det skjer hele tiden. Vi visste at utbruddet var i California et eller annet sted, men alt inkludert salat, dyrket her i Massachusetts, ble tatt rett ut av hylla. Det er det som skjer i dag. Det tar lang tid å spore hvor et utbrudd skjedde. Men hvis du sporer alle varene dine gjennom blokkkjeden innen to minutter eller raskere, kan du raskt spore hvor denne spesielle salaten kom fra. Da må du fortsatt gå inn og se på hvilket tidspunkt i kjeden fra gård til butikk til bord E. coli faktisk forurenset maten. Men det er lettere enn å først finne ut hvor kom det fra. Ikke sant.
Elizabeth: Flott. Vel, helt fantastisk å høre fra deg og få sjansen til å snakke med deg igjen. Og det er flott å ha laboratoriet rett rundt hjørnet. Det er et fantastisk anlegg og det er godt å ha deg i nabolaget. Så takk.
Sophie: Å, tusen takk. Det var min store glede.
Elizabeth: Denne episoden er brakt til deg av Darktrace, verdensledende innen cyber AI-teknologi. Darktrace har hovedkontor i San Francisco i Cambridge England. Den har rundt 2500 kunder over hele verden som bruker programvaren til å oppdage og svare på cybertrusler mot deres virksomheter, brukere og enheter. Darktrace har bygget innovativ maskinlæringsteknologi som kan oppdage uvanlig aktivitet. For å finne ut mer om hvordan det fungerer, snakket jeg med selskapets administrerende direktør, Nicole Eagan.
Elizabeth: Fint å kunne snakke.
Nicole Eagan: Ikke noe problem.
Elizabeth: Setter pris på at du gjør dette. Hos Darktrace sammenligner du ditt merke av cybersikkerhet med det menneskelige immunsystemet. Og jeg håper du kan forklare oss hva du mener med det.
Nicole: Så det som egentlig skjedde er at jeg tror sikkerhetsindustrien var besatt av å prøve å holde de slemme ute. Og det vi kom til å erkjenne er, mange ganger kommer svært sofistikerte angripere som nasjonalstatene til å komme inn i et hvilket som helst nettverk de vil. Så vi bestemte oss for å snu problemet omvendt og anta at skurkene var inne eller kom til å kunne komme seg inn. Det førte oss til denne ideen om å faktisk basere vår kunstige intelligens på prinsippene for det menneskelige immunsystemet. Så hvis du tenker på menneskekroppens immunsystem, har den en medfødt selvfølelse som lar den vite hva som ikke er seg selv og ha en veldig presis og rask respons. Det er akkurat slik vår kunstige intelligens fungerer. Det er innebygd i hver enkelt av våre kunders selskaper, og det er bare å lære en følelse av seg selv, hva som er normalt. Det vi kaller 'livsmønsteret' til hver bruker og enhet som er koblet til det nettverket. Og det gjør at vi kan finne ting som er utenom det vanlige og bokstavelig talt stoppe angrepene eller nøytralisere dem i deres spor.
Elizabeth: Og hvordan ser du generelt, mer generelt, at cyberangrep endrer seg i disse dager, enten de kommer fra nasjonalstater eller fra individuelle skurker, cyberkriminelle?
Nicole: Jeg var i møte med en sikkerhetssjef hos en av kundene våre nylig, og jeg tror han hadde en fin måte å beskrive det på. Han sa Bare tenk, det er et team et annet sted i verden, og det teamets fulltidsjobb er å tenke på hvordan man enten kan stjele den intellektuelle eiendommen din eller på en eller annen måte få informasjon fra deg. Og det er egentlig det selskapene er oppe mot, og grunnen til det er den typen cybervåpenkappløp der vi er vant til at regjeringer kjemper mot regjeringer – mens det fortsatt foregår, har vi nå denne helt nye dimensjonen der nasjonalstater faktisk er. muligens angripe selskapene. Og det betyr at den digitale slagmarken virkelig har endret seg, og det er noe de fleste selskaper egentlig ikke har måttet forsvare seg mot tidligere. Nå kompliserer og kombinerer du det med at disse nasjonalstatene i mange tilfeller også kan organiseres med en veldig sterk global cyberkriminalitet. Og den typen samarbeid mellom disse enhetene er også en slags ny dimensjon. Så det er litt av det selskapene er oppe mot, det er ganske nytt og ganske nytt sammenlignet med angrepene for kanskje fem eller ti år siden.
Elizabeth: Greit. Så når det kommer til hva Darktrace gjør, bruker du kunstig intelligens for å oppdage angrep, for å forsvare seg mot angrep, eller begge deler?
Nicole: Det er et utmerket spørsmål. Du vet at jeg tror at bedrifter i noen tilfeller bruker kunstig intelligens bare for å automatisere menneskelige prosesser. Så for eksempel har hvert selskap vanligvis et sikkerhetsoperasjonssenter. Du kommer til å ha en rekke trusselanalytikere og hendelsesforsvarere der inne. Og det er en tilnærming som sier godt hvorfor ikke bare ta ut AI og lære av trinnene de tar i det som kalles Playbook for å reagere på brudd og automatisere det. Og at det kan gi deg en liten effektivitetsgevinst. Men samtidig kommer det ikke til å være en game changer. Den andre tingen jeg har sett AI brukt til er i utgangspunktet å analysere alle de historiske angrepene som har skjedd på andre mennesker, på andre selskaper, og prøve å bruke det som en indikator på fremtidige trusler. Selv om det høres veldig interessant og praktisk ut, ser det faktisk ut til å være fundamentalt feil, og det er fordi angrepene endrer seg så raskt. Faktisk er det i mange tilfeller bare nye angrepsstammer der en enkelt kodelinje endres, og nå stemmer ikke det som kalles signaturene lenger. Så i vårt tilfelle bruker vi en rekke typer uovervåket, overvåket og dyp læring for ikke bare å finne angrepene, men også ha den kunstige intelligensen til å undersøke angrepet. Og også viktigst av alt hvordan man faktisk tar grep. Og det er veldig sjeldent. Det er faktisk ingen andre selskaper som bruker AI for å ta handlingen.
Elizabeth: Ikke sant. Så da gjør du begge tingene. Du både oppdager og iverksetter handling.
Nicole: Vi bruker virkelig AI til å oppdage, undersøke og utføre handlingen. Og den siste delen, ta handlingen, er veldig vanskelig og veldig interessant. Det er flott fordi det kan svare på angrep veldig raskt, faktisk i gjennomsnitt kan det svare på mindre enn to sekunder på et angrep. Og når disse angrepene beveger seg med maskinhastighet er det helt avgjørende. Men den andre tingen vi fant, fra et praktisk perspektiv, er at det tar tid for folk i sikkerhetsorganisasjonen – kanskje dette er første gang de til og med jobber med kunstig intelligens og blir utvidet – det tar litt tid for dem å faktisk bygge den tilliten. Så vi har faktisk skapt en helt ny mulighet for å ha den i stand til å gi anbefalinger. Hva om AI anbefaler hvilken handling den vil ta og får et menneske til å bekrefte det? Og når menneskene begynner å se, wow, det gir den riktige anbefalingen hver gang, de bygger en tillit og setter den i det vi kaller aktiv modus. Så jeg tror at etter å ha gjort dette nå i løpet av de siste fem årene på tvers av nesten 2500 selskaper, har vi blitt veldig flinke til å forstå hva som skal til for å bygge det tillitsforholdet, men også algoritmene våre har blitt veldig sterke og veldig smarte til å svare på disse angrepene i sanntid.
Elizabeth: Så etter hvert som forsvaret blir bedre, er det ikke rettferdig å si at angrep også vil bli bedre, kanskje ved å bruke AI for å slå tilbake mot AI-orientert eller AI-organisert cyberforsvar?
Nicole: Du har helt rett, selv om det er litt tidlig og vi har bare sett indikasjoner på at det kan gå i den retningen, og vi har sett ting som atferdsangrep der AI faktisk kan lære din stil og kommunikasjonsmåte som du bruker, la oss si en e-post. Det har på en måte vært en litt grunnleggende maskinlæring på dette stadiet. Men vi forventer fullt ut at det vil være en helt ny kategori angrep kalt offensiv AI. Og det betyr at angriperne kommer til å begynne å bruke ulike former for maskinlæring, AI, og etter hvert dyp læring som en del av angrepene. Så det vil endre hele denne bransjen over natten. Og jeg tror i det store og hele er noe som mange ledere sannsynligvis ikke har tenkt på ennå.
Elizabeth: Ikke sant. Så det er veldig interessant, for mens du snakket om måten Darktrace tar oversikt over hva 'normal aktivitet' er på et nettverk, kommer det opp for meg at det kan være andre brukstilfeller for den informasjonen, eller den innsikten. Og jeg lurer på om utover en slags nettsikkerhet, hvis du har tenkt på å se på normal aktivitet for å hjelpe med andre typer ting, som for eksempel regeloverholdelse eller risikostyring, ting som det.
Nicole: Absolutt. Jeg tror det som har vært interessant er at vi har laget et virkelig unikt datasett på vegne av kundene våre. Så hver og en av dem som bruker Darktrace for sikkerhet i dag har faktisk innebygd kunstig intelligens som lærer seg selvfølelsen og kontinuerlig lærer og oppdateres. Og det er et datasett som kan brukes til andre ting. Det kan brukes for å overholde regelverket. Faktisk har vi noen Darktrace-kunder som bruker oss i dag for overholdelse av HIPAA og HITRUST i helsevesenet, eller med ting som DFS, som er New York State-regelverket for finansielle tjenester. Så vi ser allerede tidlige indikatorer på hvordan disse kunstige intelligensmodellene og det unike datasettet kan utnyttes. Jeg synes en veldig interessant brukssak er fusjoner og oppkjøp. Vi har noen selskaper som bruker oss i due diligence-faser for fusjoner og oppkjøp for å faktisk få mer synlighet inn i miljøet til målaktivaen. Og i dag bruker de det for å faktisk se om det kanskje er en konkurrent eller en nasjonalstat i nettverket som prøver å stjele intellektuell eiendom for eksempel. Men det er mye bredere typer M&A due diligence som den kan brukes til. Og til slutt har vi noen kunder som bruker oss også for overholdelse av personvern som GDPR, ved å se hvilken trafikk som kan gå inn og ut av Europa. Så absolutt, jeg tror, selv om vi i dag på en måte bare låser opp kraften til det datasettet og AI-modellene våre for cybersikkerhet, kan vi ta en beslutning i fremtiden for å hjelpe kunder med å bruke andre nøkler for å låse opp det for å levere ekstra verdi.
Elizabeth: Og gjør forskjellige ting med den informasjonen. Ja, det er fascinerende. Nicole, tusen takk for at du snakket med meg om dette.
Nicole: Tusen takk, Elizabeth.
Elizabeth: Det var det for denne episoden av Business Lab. Jeg er verten din Elizabeth Bramson-Boudreau. Jeg er administrerende direktør og utgiver av MIT Technology Review. Vi ble grunnlagt i 1899 ved Massachusetts Institute of Technology. Du kan finne oss på trykk, på nettet, på dusinvis av live-arrangementer hvert år, og nå i lydform. For mer informasjon om magasinet og showet, sjekk ut vår nettside på TechnologyReview.com. Showet vårt er tilgjengelig uansett hvor du får podcastene dine. Hvis du likte denne episoden, håper vi du tar deg tid til å vurdere og anmelde oss på Apple Podcasts. Business Lab er en produksjon ved MIT Technology Review. Produsenten er Wade Roush med redaksjonell hjelp fra Mindy Blodgett. Spesiell takk til våre gjester Sophie Vandebroek og Nicole Eagan. Og takk til sponsoren vår Darktrace, verdensledende innen AI-teknologi for cyberforsvar. Takk for at dere hørte på. Vi kommer snart tilbake med en ny episode.