Et nytt triks kan forfalske en talegjenkjennings-AI hver gang

Kategori: Kunstig intelligens Lagt ut 10. januar

Gitt en lydbølgeform, kan forskere nå produsere en praktisk talt identisk versjon som gjør at programvare for talegjenkjenning transkribere noe helt annet.

Bakgrunnshistorie: Motstridende eksempler har lurt mange datasynsalgoritmer. Mens alle nevrale nettverk er mottakelige for slike angrep, har forskere hatt mindre suksess med lyd. Tidligere angrep var bare i stand til å gjøre subtile justeringer av det programvaren hører.

Hva er nytt: Berkeley-forskere viste at de kan ta en bølgeform og legge til et lag med støy som lurer DeepSpeech, en toppmoderne tale-til-tekst AI, hver gang. Teknikken kan få musikk til å høres ut som vilkårlig tale for AI, eller obskure stemmer slik at de ikke blir transkribert.

Bøyle for irritasjon: Tenk deg å spille en musikkvideo fra YouTube på høyttalerne dine og la Alexa høre en bestilling på to tonn kremet mais . Velkommen til AI-angrepshelvete.