211service.com
Denne know-it-all AI lærer ved å lese hele nettet uten stans
Ms Tech
Tilbake i juli, OpenAI's siste språkmodell, GPT-3 , blendet av sin evne til å churne ut avsnitt som ser ut som om de kunne vært skrevet av et menneske. Folk begynte å vise frem hvordan GPT-3 også kunne autofullføre kode eller fylle inn tomme felter i regneark.
I ett eksempel twitret Twitter-ansatt Paul Katsen regnearkfunksjonen for å styre dem alle, der GPT-3 fyller ut kolonner av seg selv, henter inn data for amerikanske stater: befolkningen i Michigan er 10,3 millioner, Alaska ble en stat i 1906, og så videre.
Bortsett fra at GPT-3 kan være litt av en bullshit. Befolkningen i Michigan har aldri vært 10,3 millioner, og Alaska ble en stat i 1959.
Språkmodeller som GPT-3 er fantastiske etterligninger , men de har liten sans for hva de faktisk sier. De er veldig flinke til å generere historier om enhjørninger, sier Mike Tung, administrerende direktør for Stanford-oppstarten Diffbot. Men de er ikke opplært til å være saklige.
Dette er et problem hvis vi vil at AI-er skal være pålitelige. Det er derfor Diffbot tar en annen tilnærming. Det bygger en AI som leser hver side på hele det offentlige nettet, på flere språk, og trekker ut så mange fakta fra disse sidene som den kan.
I likhet med GPT-3, lærer Diffbots system ved å støvsuge opp enorme mengder menneskeskreven tekst funnet på nettet. Men i stedet for å bruke disse dataene til å trene en språkmodell, gjør Diffbot det den leser til en serie tredelte fakta som relaterer en ting til en annen: subjekt, verb, objekt.
Pekte på min biografi, for eksempel, får Diffbot vite at Will Douglas Heaven er journalist; Will Douglas Heaven jobber ved MIT Technology Review; MIT Technology Review er et medieselskap; og så videre. Hver av disse faktaene går sammen med milliarder av andre i et viltvoksende, sammenkoblet nettverk av fakta. Dette er kjent som en kunnskapsgraf.
Kunnskapsgrafer er ikke nytt. De har eksistert i flere tiår, og var et grunnleggende konsept i tidlig AI-forskning. Men å konstruere og vedlikeholde kunnskapsgrafer har vanligvis blitt gjort for hånd, noe som er vanskelig. Dette stoppet også Tim Berners-Lee fra å innse det han kalte det semantiske nettet, som ville ha inkludert informasjon for maskiner så vel som mennesker, slik at roboter kunne bestille flyreiser, handle eller gi smartere svar på spørsmål enn søkemotorer.
For noen år siden begynte Google også å bruke kunnskapsgrafer. Søk etter Katy Perry, og du vil få en boks ved siden av hovedsøkeresultatene som forteller deg at Katy Perry er en amerikansk singer-songwriter med musikk tilgjengelig på YouTube, Spotify og Deezer. Du kan med et øyeblikk se at hun er gift med Orlando Bloom, hun er 35 og verdt 125 millioner dollar, og så videre. I stedet for å gi deg en liste med linker til sider om Katy Perry, gir Google deg et sett med fakta om henne hentet fra kunnskapsgrafen.
Men Google gjør dette bare for sine mest populære søkeord. Diffbot ønsker å gjøre det for alt. Ved å fullautomatisere byggeprosessen har Diffbot vært i stand til å bygge det som kan være den største kunnskapsgrafen noensinne.
Ved siden av Google og Microsoft er det ett av bare tre amerikanske selskaper som gjennomsøker hele det offentlige nettet. Det er definitivt fornuftig å gjennomsøke nettet, sier Victoria Lin, en forsker ved Salesforce som jobber med naturlig språkbehandling og kunnskapsrepresentasjon. Mye menneskelig innsats kan ellers gå med til å lage en stor kunnskapsbase. Heiko Paulheim ved Universitetet i Mannheim i Tyskland er enig: Automatisering er den eneste måten å bygge storskala kunnskapsgrafer på.
Super surfer
For å samle fakta leser Diffbots AI nettet som et menneske ville gjort – men mye raskere. Ved å bruke en superladet versjon av Chrome-nettleseren ser AI de rå piksler på en nettside og bruker bildegjenkjenningsalgoritmer for å kategorisere siden som en av 20 forskjellige typer, inkludert video, bilde, artikkel, hendelse og diskusjonstråd . Den identifiserer deretter nøkkelelementer på siden, for eksempel overskrift, forfatter, produktbeskrivelse eller pris, og bruker NLP for å trekke ut fakta fra hvilken som helst tekst.
Hver tredelt faktaside blir lagt til kunnskapsgrafen. Diffbot trekker ut fakta fra sider skrevet på et hvilket som helst språk, noe som betyr at det kan svare på spørsmål om Katy Perry, for eksempel ved å bruke fakta hentet fra artikler på kinesisk eller arabisk, selv om de ikke inneholder begrepet Katy Perry.
Å surfe på nettet som et menneske lar AI se de samme fakta som vi ser. Det betyr også at den har måttet lære seg å navigere på nettet som oss. AI-en må rulle nedover, bytte mellom faner og klikke vekk popup-vinduer. AI må spille nettet som et videospill bare for å oppleve sidene, sier Tung.
Diffbot gjennomsøker nettet uavbrutt og gjenoppbygger kunnskapsgrafen hver fjerde til femte dag. Ifølge Tung legger AI til 100 millioner til 150 millioner enheter hver måned etter hvert som nye mennesker dukker opp på nettet, selskaper opprettes og produkter lanseres. Den bruker flere maskinlæringsalgoritmer for å smelte sammen nye fakta med gamle, skape nye forbindelser eller overskrive utdaterte. Diffbot må legge til ny maskinvare til datasenteret etter hvert som kunnskapsgrafen vokser.
Forskere kan få tilgang til Diffbots kunnskapsgraf gratis. Men Diffbot har også rundt 400 betalende kunder. Søkemotoren DuckDuckGo bruker den til å generere sine egne Google-lignende bokser. Snapchat bruker det til å trekke ut høydepunkter fra nyhetssider. Den populære bryllupsplanleggerappen Zola bruker den til å hjelpe folk med å lage bryllupslister ved å trekke inn bilder og priser. NASDAQ, som gir informasjon om aksjemarkedet, bruker den til finansiell forskning.
Falske sko
Adidas og Nike bruker den til og med til å søke på nettet etter falske sko. En søkemotor vil returnere en lang liste med nettsteder som nevner Nike-trenere. Men Diffbot lar disse selskapene se etter nettsteder som faktisk selger skoene sine, heller bare snakker om dem.
Foreløpig må disse selskapene samhandle med Diffbot ved hjelp av kode. Men Tung planlegger å legge til et naturlig språkgrensesnitt. Til syvende og sist ønsker han å bygge det han kaller et universelt faktuelt spørsmålssvarssystem: en AI som kan svare på nesten alt du spurte om den, med kilder for å sikkerhetskopiere svaret.
Tung og Lin er enige om at denne typen AI ikke kan bygges med språkmodeller alene. Men enda bedre ville være å kombinere teknologiene ved å bruke en språkmodell som GPT-3 for å lage en menneskelignende grensesnitt for en know-it-all bot.
Likevel, selv en AI som har fakta rett er ikke nødvendigvis smart. Vi prøver ikke å definere hva intelligens er, eller noe sånt, sier Tung. Vi prøver bare å bygge noe nyttig.