Inne i verden av AI som skaper vakker kunst og skremmende dype forfalskninger

Nvidia





I løpet av de siste tre ukene har vi lagt ned det grunnleggende om AI. For å oppsummere:

  • De fleste AI-fremskritt og -applikasjoner er basert på en type algoritme kjent som maskinlæring som finner og bruker mønstre i data på nytt.
  • Deep learning , en kraftig undergruppe av maskinlæring, bruker nevrale nettverk for å finne og forsterke selv de minste mønstrene.
  • Nevrale nettverk er lag med enkle beregningsnoder som jobber sammen for å analysere data, på en måte som nevroner i den menneskelige hjernen.

Nå kommer vi til den morsomme delen. Å bruke ett nevralt nettverk er virkelig flott for å lære mønstre; å bruke to er virkelig flott for å lage dem. Velkommen til den magiske, skremmende verdenen av generative fiendtlige nettverk, eller GAN-er.

GANs har litt av et kulturelt øyeblikk. De er ansvarlige for første stykke AI-generert kunstverk solgt på Christie's , samt kategorien av falske digitale bilder kjent som deepfakes .



Hemmeligheten deres ligger i måten to nevrale nettverk jobber sammen - eller rettere sagt mot hverandre. Du starter med å mate begge nevrale nettverkene med en hel masse treningsdata og gir hver enkelt en egen oppgave. Det første nettverket, kjent som generatoren, må produsere kunstige utdata, som håndskrift, videoer eller stemmer, ved å se på treningseksemplene og prøve å etterligne dem. Den andre, kjent som diskriminatoren, avgjør deretter om utgangene er reelle ved å sammenligne hver enkelt med de samme treningseksemplene.

Relatert historie

Relatert historie Ved å sette nevrale nettverk mot hverandre har Ian Goodfellow laget et kraftig AI-verktøy. Nå må han, og resten av oss, ta konsekvensene.

Hver gang diskriminatoren avviser generatorens utgang, går generatoren tilbake for å prøve igjen. For å låne en metafor fra min kollega Martin Giles, etterligner prosessen frem og tilbake mellom en bildeforfalsker og en kunstdetektiv som gjentatte ganger prøver å overliste hverandre. Til slutt kan ikke diskriminatoren se forskjellen mellom resultater og treningseksempler. Med andre ord, mimikken er umulig å skille fra virkeligheten.

Du kan se hvorfor en verden med GAN er lik, måler vakker og stygg. På den ene siden kan muligheten til å syntetisere medier og etterligne andre datamønstre være nyttig i bilderedigering, animasjon og medisin (som for å forbedre kvaliteten på medisinske bilder og for å overvinne mangelen på pasientdata). Det gir oss også gledelige kreasjoner som dette:



Og dette:

På den annen side kan GAN-er også brukes på etisk kritikkverdige og farlige måter: å legge kjendisansikter på kroppen til pornostjerner , for å få Barack Obama til å si hva du vil, eller for å forfalske noens fingeravtrykk og andre biometriske data, en evneforskere ved NYU og Michigan State nylig viste i en papir .



Heldigvis har GAN-er fortsatt begrensninger som setter noen rekkverk på plass. De trenger ganske mye beregningskraft og smale data for å produsere noe virkelig troverdig. For å produsere et realistisk bilde av en frosk, for eksempel, trenger et slikt system hundrevis av bilder av frosker fra en bestemt art, fortrinnsvis vendt mot en lignende retning. Uten disse spesifikasjonene får du virkelig noen sprø resultater , som denne skapningen fra dine mørkeste mareritt:

(Du burde takke meg for at jeg ikke viste deg edderkoppene.)



Men eksperter bekymrer seg for at vi bare har sett toppen av isfjellet. Etter hvert som algoritmene blir mer og mer raffinerte, vil glitchy videoer og Picasso-dyr bli en saga blott. Som Hany Farid, en digital bildekriminalekspert, en gang fortalte meg, er vi dårlig forberedt til å løse dette problemet.

Dette dukket opprinnelig opp i vårt AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, abonner her gratis.

gjemme seg