AI har et kulturelt partisk verdensbilde som Google har en plan om å endre

Kategori: Kunstig intelligens Lagt ut 02. desember

Google har lansert en Inkluderende bildekonkurranse , et forsøk på å utvide den kulturelle flyten til programvare for bildegjenkjenning. Oppgaven for deltakere: redusere skjevheten i et datasynssystem trent på et kulturelt partisk bildedatasett.

Sammenhengen: Maskiner må trenes på enorme mengder bildedata for å gjenkjenne objekter. Nylige sprang i bildegjenkjenning har falt sammen med utgivelsen av store, offentlig tilgjengelige datasett, inkludert ImageNet og Åpne Bilder .

Problemet: De mest populære datasettene er imidlertid USA- og Vest-sentriske – ganske enkelt fordi de vestlige bildene dominerte internett da datasettene ble kompilert. Som en konsekvens klarer ikke systemer som er trent på dem, å beskrive scener fra andre kulturer og steder nøyaktig. Ta bryllupsbilder som eksempel. Et standard bildegjenkjenningssystem, trent på åpen kildekode-datasett, kan gjenkjenne en brud i en hvit kjole, noe som gjenspeiler den klassiske vestlige tradisjonen. Men den vil ikke gjenkjenne en brud i en sari fra en indisk seremoni.

Utfordringen: En måte å dempe dette problemet på er å bygge mer varierte og representative bildedatasett. Mens Google følger denne tilnærmingen, tror selskapet også på å gå videre på en annen måte: ved å tilpasse selve maskinlæringsalgoritmene til å være mer inkluderende når de lærer av ufullkomne data.

Resultatene: Konkurransen ble arrangert i samarbeid med Neural Information Processing Systems (NeurIPS), en av de største årlige samlingene for AI-forskning, og mottok bidrag fra over 100 deltakere. Google Brain-forsker Pallavi Baljekar bemerket på en konferansetale søndag 2. desember at det første året konkurransevinnere var i stand til å ta små skritt mot mer inkluderende systemer. Men bare én av de fem beste tilnærmingene gjenkjente en indisk brud. Det er klart at mer arbeid må gjøres.