Menneskelige hjerner og AI-er kan hackes med disse rare, finjusterte bildene

Kategori: Kunstig intelligens Lagt ut 01 mars

Datasynsalgoritmer er ikke de eneste formene for intelligens som kan lures av manipulerte bilder.

UH oh: Forskere har brukt en AI til å designe de første bildene som lurer både mennesker og datasynsalgoritmer, som ovenfor: et uendret bilde av en katt, til venstre, ved siden av en versjon som har blitt tilpasset til å se merkelig ut som en hund.

For vitenskapen! Å finne menneskelige svakheter på denne måten kan forbedre AI-systemene våre. I avisen som beskriver disse manipulerte bildene – medforfatter av Ian Goodfellow, skaperen av generative adversarial networks (GANs) – påpeker forskerne at hvis vi finner en viss klasse av endrede bilder som ikke kan lure menneskesinnet, antyder det at en lignende mekanisme kan eksistere i maskinlæring. De fleste AI-systemer er tross alt løst basert på den menneskelige hjernen.

Hvorfor det er viktig: Nå som det er klistremerker som kan settes på fysiske objekter for å forvirre datasynssystemer, såkalte motstridende eksempler er et problem i den virkelige verden. Og hvis autonome kjøretøy ikke har en måte å sikre at systemene deres kan se hvert stoppskilt, vil de ikke være klare for veien med det første.