211service.com
Kongressen ønsker å beskytte deg mot partiske algoritmer, deepfakes og annen dårlig AI
Simone Nironha
Sist onsdag introduserte amerikanske lovgivere en ny regning som representerer en av landets første store innsats for å regulere AI. Det kommer sannsynligvis flere.
Det antyder et dramatisk skifte i Washingtons holdning til en av dette århundres kraftigste teknologier. For bare noen få år siden hadde politikere liten tilbøyelighet til å regulere AI. Nå, ettersom konsekvensene av å ikke gjøre det blir stadig mer håndgripelige, fremmer en liten kontingent i kongressen en bredere strategi for å tøyle teknologien.
Selv om USA ikke er alene i denne bestrebelsen – Storbritannia, Frankrike , Australia og andre har alle nylig utarbeidet eller vedtatt lovgivning for å holde teknologiselskaper ansvarlige for sine algoritmer – landet har en unik mulighet til å forme AIs globale innvirkning som hjemmet til Silicon Valley. Et problem i Europa er at vi ikke er frontløpere på utviklingen av AI, sier Bendert Zevenbergen, tidligere teknologipolitisk rådgiver i Europaparlamentet og nå forsker ved Princeton University. Vi er en slags mottakere av AI-teknologi på mange måter. Vi er definitivt det andre laget. Det første laget er USA og Kina.
Det nye lovforslaget, kalt Algorithmic Accountability Act, vil kreve at store selskaper reviderer sine maskinlæringssystemer for skjevhet og diskriminering og tar korrigerende tiltak i tide hvis slike problemer ble identifisert. Det vil også kreve at disse selskapene reviderer ikke bare maskinlæring, men alle prosesser som involverer sensitive data – inkludert personlig identifiserbar, biometrisk og genetisk informasjon – for personvern- og sikkerhetsrisikoer. Skulle det gå gjennom, vil lovforslaget legge reguleringsmakten i hendene på US Federal Trade Commission, byrået med ansvar for forbrukerbeskyttelse og antitrustregulering.
Lovutkastet er det første produktet av mange måneders diskusjon mellom lovgivere, forskere og andre eksperter for å beskytte forbrukere mot de negative virkningene av AI, sier Mutale Nkonde, en forsker ved Data & Society Research Institute som var involvert i prosessen. Det kommer som svar på flere høyprofilerte avsløringer det siste året som har vist den vidtrekkende skaden algoritmisk skjevhet kan ha i mange sammenhenger. Disse inkluderer Amazons internt ansettelsesverktøy som straffet kvinnelige kandidater; kommersielle ansiktsanalyse- og gjenkjenningsplattformer som er mye mindre nøyaktige for mørkere kvinner enn lysere menn; og, for det meste nylig, en Facebook-annonseanbefalingsalgoritme som sannsynligvis opprettholder arbeids- og boligdiskriminering uavhengig av annonsørens spesifiserte målgruppe.
Relatert historie
Relatert historie Bias kan snike seg inn på mange stadier av dyplæringsprosessen, og standardpraksisen innen informatikk er ikke laget for å oppdage det.Lovforslaget har allerede blitt rost av medlemmer av AI-etikk- og forskningsmiljøet som et viktig og gjennomtenkt skritt mot å beskytte mennesker mot slike utilsiktede ulike påvirkninger. Flott første skritt, skrev Andrew Selbst, teknologi- og juridisk forsker ved Data & Society, videre Twitter . Vil kreve dokumentasjon, vurdering og forsøk på å håndtere forutsette konsekvenser. Det er nytt, spennende og utrolig nødvendig.
Det vil heller ikke være det eneste trinnet. Forslaget, sier Nkonde, er en del av en større strategi for å bringe regulatorisk tilsyn med alle AI-prosesser og -produkter i fremtiden. Det vil sannsynligvis snart komme et nytt lovforslag for å adressere spredningen av desinformasjon, inkludert deepfakes, som en trussel mot nasjonal sikkerhet, sier hun. En annen regning introdusert på tirsdag vil forby manipulerende designpraksis som teknologigiganter noen ganger bruker for å få forbrukere til å gi opp dataene sine. Det er et flerstrenget angrep, sier Nkonde.
Hver regning er bevisst ekspansiv, og omfatter forskjellige AI-produkter og dataprosesser i en rekke domener. En av utfordringene som Washington har slitt med er at en teknologi som ansiktsgjenkjenning kan brukes til drastisk forskjellige formål på tvers av bransjer , for eksempel rettshåndhevelse, bilindustri og til og med detaljhandel. Fra et regulatorisk ståsted er produktene våre bransjespesifikke, sier Nkonde. Regulatorene som ser på biler er ikke de samme regulatorene som ser på offentlige kontrakter, som ikke er de samme regulatorene som ser på apparater.
Kongressen prøver å være gjennomtenkt om hvordan man kan omarbeide det tradisjonelle regelverket for å imøtekomme denne nye virkeligheten. Men det vil være vanskelig å gjøre det uten å påtvinge ulike sammenhenger en løsning som passer alle. Fordi ansiktsgjenkjenning brukes til så mange forskjellige ting, vil det være vanskelig å si: 'Dette er reglene for ansiktsgjenkjenning,' sier Zevenbergen.
Nkonde forutser at denne reguleringsbevegelsen til slutt vil føre til et nytt kontor eller byrå som er spesifikt fokusert på avansert teknologi. Det vil imidlertid være store hindringer på veien. Mens beskyttelse mot desinformasjon og manipulerende datainnsamling har fått støtte fra to partier, er den algoritmiske ansvarlighetsregningen sponset av tre demokrater, noe som gjør det mindre sannsynlig at det blir vedtatt av et republikansk-kontrollert senat og signert av president Trump. I tillegg er det for øyeblikket bare en håndfull kongressmedlemmer som har et dypt nok teknisk grep om data og maskinlæring til å nærme seg regulering på en passende nyansert måte. Disse ideene og forslagene er en slags nisje akkurat nå, sier Nkonde. Du har disse tre eller fire medlemmene som forstår dem.
Men hun er fortsatt optimistisk. En del av strategien fremover inkluderer å utdanne flere medlemmer om problemene og bringe dem inn. Etter hvert som du utdanner dem om hva disse regningene inkluderer, og etter hvert som regningene får medsponsorer, vil de bevege seg mer og mer inn i sentrum inntil regulering av teknologiindustrien er en no-brainer, sier hun.
Denne historien dukket opprinnelig opp i vårt Webby-nominerte AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, registrer deg her gratis.