Et nevralt nettverk kan lære å organisere verden det ser i konsepter – akkurat som vi gjør

Gabriel Santiago | unsplash





GAN-er, eller generative kontradiktoriske nettverk, er stjerneskuddet for AI-algoritmer på sosiale medier. De er ansvarlige for å lage det første AI-maleriet som noen gang er solgt på en kunstauksjon og for overlappende kjendisansikter på kroppen til pornostjerner. De fungerer ved å sette to nevrale nettverk mot hverandre for å skape realistiske utdata basert på hva de mates. Mat en masse hundebilder, og det kan skape helt nye hunder; mat den mange ansikter, og den kan skape nye ansikter.

Like gode som de er til å forårsake ugagn, innså forskere fra MIT-IBM Watson AI Lab at GAN-er også er et kraftig verktøy: fordi de maler det de tenker, kan de gi mennesker innsikt i hvordan nevrale nettverk lærer og resonnerer. Dette har vært noe det bredere forskningsmiljøet har søkt lenge – og det har blitt viktigere med vår økende avhengighet av algoritmer.

Det er en sjanse for oss å lære hva et nettverk kan fra å prøve å gjenskape den visuelle verdenen, sier David Bau, en MIT PhD-student som jobbet med prosjektet.



Så forskerne begynte å undersøke en GANs læringsmekanikk ved å mate den med forskjellige bilder av natur – trær, gress, bygninger og himmel. De ønsket å se om det ville lære å organisere pikslene i fornuftige grupper uten å bli eksplisitt fortalt hvordan.

Forbløffende nok gjorde det det over tid. Ved å slå av og på forskjellige nevroner og be GAN om å male det den mente, fant forskerne distinkte nevronklynger som hadde lært seg å representere et tre, for eksempel. Andre klynger representerte gress, mens atter andre representerte vegger eller dører. Den hadde med andre ord klart å gruppere trepiksler med trepiksler og dørpiksler med dørpiksler uavhengig av hvordan disse objektene endret farge fra foto til foto i treningssettet.

GAN vet å ikke male noen dører på himmelen. MIT Computer Science & Artificial Intelligence Laboratory



Disse GAN-ene er læringsbegreper som minner mye om begreper som mennesker har gitt ord til, sier Bau.

Ikke bare det, men GAN så ut til å vite hva slags dør som skulle males avhengig av hvilken type vegg som er avbildet på et bilde. Det ville male en dør i georgisk stil på en murbygning med georgisk arkitektur, eller en steindør på en gotisk bygning. Den nektet også å male noen dører på et stykke himmel. Uten å bli fortalt hadde GAN på en eller annen måte forstått visse uuttalte sannheter om verden.

Dette var en stor åpenbaring for forskerteamet. Det er visse sider ved sunn fornuft som dukker opp, sier Bau. Det har vært uklart før nå om det var noen måte å lære denne typen ting på [gjennom dyp læring]. At det er mulig tyder på at dyp læring kan bringe oss nærmere hvordan hjernen vår fungerer enn vi tidligere trodde – selv om det fortsatt ikke er i nærheten av noen form for intelligens på menneskelig nivå.



Andre forskergrupper har begynt å finne lignende læringsatferd i nettverk som håndterer andre typer data, ifølge Bau. I språkforskning har folk for eksempel funnet nevronklynger for flertallsord og kjønnspronomen.

Å kunne identifisere hvilke klynger som tilsvarer hvilke konsepter gjør det mulig å kontrollere det nevrale nettverkets utgang. Baus gruppe kan slå på bare treneuronene, for eksempel for å få GAN til å male trær, eller slå på bare dørneuronene for å få den til å male dører. Språknettverk kan på samme måte manipuleres for å endre utdataene deres - for eksempel for å bytte kjønn på pronomenene mens de oversetter fra ett språk til et annet. Vi begynner å aktivere muligheten for en person til å gjøre intervensjoner for å forårsake forskjellige utganger, sier Bau.

Teamet har nå gitt ut en app kalt GANpaint som gjør denne nyvunne evnen til et kunstnerisk verktøy. Den lar deg slå på spesifikke nevronklynger for å male scener av bygninger i gressletter med mange dører. Utover dets dumhet som et lekent utløp, taler det også om det større potensialet til denne forskningen.

Problemet med AI er at når du ber den om å gjøre en oppgave for deg, gir du den enormt mye tillit, sier Bau. Du gir det dine innspill, det gjør det 'genialt' tenkning, og det gir deg litt utgang. Selv om du hadde en menneskelig ekspert som er supersmart, er det ikke slik du vil jobbe med dem heller.

Med GANpaint begynner du å trekke av lokket på den svarte boksen og etablere et slags forhold. Du kan finne ut hva som skjer hvis du gjør dette, eller hva som skjer hvis du gjør det, sier Hendrik Strobelt, skaperen av appen. Så snart du kan leke med disse tingene, får du mer tillit til dens evner og også dens grenser.

En forkortet versjon av denne historien dukket opprinnelig opp i vårt AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, abonner her gratis.

gjemme seg