Denne algoritmen blar gjennom Wikipedia for å autogenerere lærebøker

Wikipedia

Maskinlæring – Den komplette veiledningen er en tungtveiende bok. På mer enn 6000 sider er denne boken en omfattende introduksjon til maskinlæring, med oppdaterte kapitler om kunstige nevrale nettverk, genetiske algoritmer og maskinsyn.

Men dette er ingen vanlig publikasjon. Det er en Wikibook, en lærebok som alle kan få tilgang til eller redigere, laget av artikler på Wikipedia, det enorme nettleksikonet.

Det er en styrke. Crowdsourced informasjon blir kontinuerlig oppdatert med alle de siste fremskritt og konsekvent redigert for å rette opp feil og uklarheter.

Men det er også en svakhet. Wikipedia er stort. Å bestemme seg for hva som skal inkluderes i en slik lærebok er en vanskelig oppgave, det er kanskje derfor boka er så enorm. Med mer enn 550 kapitler er det ikke lettlest.

Det reiser et interessant spørsmål. Gitt fremskrittene innen kunstig intelligens de siste årene, er det en måte å automatisk redigere Wikipedia-innhold for å skape en sammenhengende helhet som er nyttig som en lærebok?

Gå inn Shahar Admati og kolleger ved Ben-Gurion University of the Negev i Israel. Disse karene har utviklet en måte å automatisk generere Wikibooks ved hjelp av maskinlæring. De kaller maskinen deres for Wikibook-boten. Det nye med teknikken vår er at den er rettet mot å generere en hel Wikibok, uten menneskelig involvering, sier de.

Tilnærmingen er relativt grei. Forskerne begynte med å identifisere et sett med eksisterende Wikibooks som kan fungere som et treningsdatasett. De startet med 6700 Wikibooks inkludert i et datasett gjort tilgjengelig av Wikipedia for denne typen akademiske studier.

Siden disse Wikibooks utgjør en slags gullstandard både for trening og testing, trengte teamet en måte å sikre kvaliteten på. Vi valgte å konsentrere oss om Wikibooks som ble sett minst 1000 ganger, basert på antakelsen om at populære Wikibooks er av rimelig kvalitet, sier de.

Det etterlot 490 Wikibooks som de filtrerte videre, basert på faktorer som å ha mer enn 10 kapitler. Det etterlot 407 Wikibooks som teamet brukte til å trene maskinene sine.

Teamet delte deretter opp oppgaven med å lage en Wikibook i flere deler, som hver krever forskjellige maskinlæringsferdigheter. Oppgaven begynner med en tittel generert av et menneske, som beskriver et konsept av noe slag, som f.eks Maskinlæring – Den komplette veiledningen .

Den første oppgaven er å sortere gjennom hele settet med Wikipedia-artikler for å finne ut hvilke som er relevante nok til å inkludere. Denne oppgaven er utfordrende på grunn av det store volumet av artikler som finnes i Wikipedia og behovet for å velge de mest relevante artiklene blant millioner av tilgjengelige artikler, sier Admati og co.

For å hjelpe med denne oppgaven brukte teamet nettverksstrukturen til Wikipedia – artikler peker ofte på andre artikler som bruker hyperkoblinger. Det er rimelig å anta at den koblede artikkelen sannsynligvis er relevant.

Så de startet med en liten kjerne av artikler som nevner frøkonseptet i tittelen. De identifiserte deretter alle artiklene som er opptil tre hopp unna disse frøene på nettverket.

Men hvor mange av disse lenkede artiklene bør inkluderes? For å finne ut av det begynte de med titlene på de 407 Wikibooks laget av mennesker og utførte tre-hop-analysen. De regnet deretter ut hvor mye av innholdet i de menneskeskapte bøkene som ble inkludert av den automatiserte tilnærmingen.

Det viser seg at den automatiserte tilnærmingen ofte inkluderte mye av det originale Wikibook-innholdet, men betydelig mer i tillegg. Så teamet trengte en annen måte å beskjære innholdet ytterligere.

Igjen kommer nettverksvitenskap inn i bildet. Hver menneskeskapte Wikibook har en egen nettverksstruktur, bestemt av antall lenker som peker inn fra andre artikler, antall lenker som peker ut, rangeringen av de inkluderte artiklene, og så videre.

Så laget laget en algoritme som så på hver automatisk valgt artikkel for et gitt emne og deretter bestemte om det å inkludere den i en Wikibook ville gjøre nettverksstrukturen mer lik menneskeskapte bøker eller ikke. Hvis ikke, er artikkelen utelatt.

Det neste trinnet er å organisere artiklene i kapitler. Dette er i hovedsak en klyngeoppgave; å se på nettverket som dannes av hele settet med artikler og finne ut hvordan man kan dele det inn i sammenhengende klynger. Ulike klyngealgoritmer er tilgjengelige for denne typen oppgaver.

Det siste trinnet er å bestemme rekkefølgen artiklene skal vises i hvert kapittel. For å gjøre dette organiserer teamet artiklene i par og bruker en nettverksbasert modell for å bestemme hvilken som skal vises først. Ved å gjenta dette for alle kombinasjoner av artikkelpar, utarbeider algoritmen en foretrukket rekkefølge for artiklene og dermed kapitlene.

På denne måten var teamet i stand til å produsere automatiserte versjoner av Wikibooks som allerede var laget av mennesker. Hvor godt disse automatiserte bøkene er sammenlignet med de menneskeskapte er vanskelig å bedømme. De inneholder absolutt mye av det samme materialet, ofte i lignende rekkefølge, noe som er en god start.

Men Adamti og co har en plan for å bestemme nytten av deres tilnærming. De planlegger å produsere en rekke Wikibøker om emner som ennå ikke er dekket av menneskeskapte bøker. De vil deretter overvåke sidevisningene og redigeringene til disse bøkene for å se hvor populære de blir og hvor mye de er redigert, sammenlignet med menneskeskapte bøker. Dette vil være en reell test for vår tilnærming, sier de.

Det er interessant arbeid som har potensial til å produsere verdifulle lærebøker om et bredt spekter av emner, og til og med lage andre tekster som konferansehandlinger. Hvor verdifulle de vil være for menneskelige lesere er ennå ikke bestemt. Men vi følger med for å finne ut av det.

Ref: arxiv.org/abs/1812.10937 : Wikibook-Bot—Automatisk generering av en Wikipedia-bok

gjemme seg