En AI-algoritme inspirert av hvordan barn lærer er vanskeligere å forvirre

Kategori: Kunstig intelligens Lagt ut mai 06

Informasjon brannslange: Standard praksis for å lære en maskinlæringsalgoritme er å gi den alle detaljene på en gang. La oss si at du bygger et bildeklassifiseringssystem for å gjenkjenne forskjellige dyrearter. Du viser den eksempler på hver art og merker dem deretter: schæfer og puddel for hunder, for eksempel.

Men når en forelder lærer et barn, er tilnærmingen en helt annen. De starter med mye bredere etiketter: enhver hundeart er først bare en hund. Først etter at barnet har lært hvordan man skiller disse enklere kategoriene, deler forelderen hver enkelt ned i mer spesifikke.

Fjernet forvirring: Med inspirasjon fra denne tilnærmingen skapte forskere ved Carnegie Mellon University en ny teknikk som lærer et nevralt nettverk å klassifisere ting i etapper. I hvert trinn ser nettverket de samme treningsdataene. Men etikettene starter enkelt og bredt, og blir mer spesifikke over tid.

For å bestemme denne vanskelighetsgraden, viste forskerne først det nevrale nettverket treningsdataene med de endelige detaljerte etikettene. De beregnet deretter det som er kjent som en forvirringsmatrise, som viser kategoriene modellen hadde vanskeligst med å skille fra hverandre. Forskerne brukte dette til å bestemme stadier av trening, grupperte de minst skillelige kategoriene sammen under én etikett i tidlige stadier og delte dem opp i finere etiketter med hver iterasjon.

Bedre nøyaktighet: I tester med flere populære bildeklassifiseringsdatasett førte tilnærmingen nesten alltid til en endelig maskinlæringsmodell som overgikk en som ble trent med den konvensjonelle metoden. I beste fall økte det klassifiseringsnøyaktigheten med opptil 7 %.

Læreplan: Selv om tilnærmingen er ny, er ikke ideen bak det. Praksisen med å trene et nevralt nettverk på økende vanskelighetsstadier er kjent som læreplanlæring og har eksistert siden 1990-tallet. Men tidligere læreplaner fokuserte på å vise det nevrale nettverket en annen delmengde av data på hvert trinn, i stedet for de samme dataene med forskjellige etiketter. Den siste tilnærmingen var presentert av avisens medforfatter Otilia Stretcu på International Conference of Learning Representations forrige uke.

Hvorfor det er viktig: Det store flertallet av dyplæringsforskning i dag legger vekt på størrelsen på modeller: Hvis et bildeklassifiseringssystem har problemer med å skille mellom ulike objekter, betyr det at det ikke har blitt trent på nok eksempler. Men ved å låne innsikt fra måten mennesker lærer på, fant forskerne en ny metode som gjorde at de kunne oppnå bedre resultater med nøyaktig de samme treningsdataene. Det foreslår en måte å lage mer dataeffektive læringsalgoritmer på.