Dette har nettopp blitt en stor uke for AI-regulering

FTC-dørkonsept

Ms Tech | Unsplash





Det er en bumper uke for regjeringens tilbakeslag på misbruk av kunstig intelligens.

I dag slapp EU sitt etterlengtede sett med AI-forskrifter , et tidlig utkast av dette lekket forrige uke . Regelverket spenner vidt, med restriksjoner på masseovervåking og bruk av kunstig intelligens for å manipulere mennesker.

Men en intensjonserklæring fra US Federal Trade Commission, skissert i en kort blogginnlegg av stabsadvokat Elisa Jillson 19. april, kan ha flere tenner i umiddelbar fremtid. Ifølge innlegget planlegger FTC å gå etter selskaper som bruker og selger partiske algoritmer .



En rekke selskaper vil løpe redde akkurat nå, sier Ryan Calo, professor ved University of Washington, som jobber med teknologi og juss. Det er egentlig ikke bare dette ene blogginnlegget, sier han. Dette ene blogginnlegget er et veldig sterkt eksempel på det som ser ut til å være en havforandring.

EU er kjent for sin harde linje mot Big Tech, men FTC har tatt en mykere tilnærming, i hvert fall de siste årene. Byrået er ment å overvåke urettferdig og uærlig handelspraksis. Dens mandat er smal – den har ikke jurisdiksjon over offentlige etater, banker eller ideelle organisasjoner. Men det kan trå til når selskaper gir en feilaktig fremstilling av egenskapene til et produkt de selger, noe som betyr at firmaer som gjør krav på deres ansiktsgjenkjenningssystemer, prediktive politialgoritmer eller helsevesenet verktøy ikke er partisk kan nå være i skuddlinjen. Der de har makt, har de enorm makt, sier Calo.



Handle

FTC har ikke alltid vært villig til å bruke den makten. Etter kritikk på 1980- og 90-tallet om at det var for aggressivt, trakk det seg tilbake og tok færre kamper, spesielt mot teknologiselskaper. Dette ser ut til å endre seg.

I blogginnlegget advarer FTC leverandører om at påstander om AI må være sannferdige, ikke-villedende og støttet av bevis.

La oss for eksempel si at en AI-utvikler forteller kundene at produktet deres vil gi «100 % objektive ansettelsesbeslutninger», men algoritmen ble bygget med data som manglet rase- eller kjønnsmangfold. Resultatet kan være bedrag, diskriminering – og en rettshåndhevelse fra FTC.



FTC-aksjonen har bipartistøtte i Senatet, hvor kommisjonærer ble spurt i går hva mer de kunne gjøre og hva de trengte for å gjøre det. Det er vind bak seilene, sier Calo.

I mellomtiden, selv om de trekker en klar linje i sanden, er EUs AI-forskrifter kun retningslinjer. Som med GDPR-reglene som ble innført i 2018, vil det være opp til de enkelte EU-medlemslandene å bestemme hvordan de skal implementeres. Noe av språket er også vagt og åpent for tolkning. Ta en bestemmelse mot subliminale teknikker utenfor en persons bevissthet for å forvrenge en persons oppførsel på en måte som kan forårsake psykisk skade. Gjelder det nyhetsfeeds for sosiale medier og målrettet annonsering? Vi kan forvente at mange lobbyister prøver å eksplisitt ekskludere reklame- eller anbefalingssystemer, sier Michael Veale, et fakultetsmedlem ved University College London som studerer jus og teknologi.



Relatert historie

Europa vedtar strengere regler for overvåkingsteknologi Målet er å gjøre salg av teknologier som spyware og ansiktsgjenkjenning mer gjennomsiktig i Europa først, og deretter over hele verden.

Det vil ta årevis med juridiske utfordringer i domstolene for å få ut detaljene og definisjonene. Det vil først skje etter en ekstremt lang prosess med etterforskning, klage, bot, anke, motanke og henvisning til EU-domstolen, sier Veale. På hvilket tidspunkt vil syklusen starte på nytt. Men FTC har, til tross for sitt snevre mandat, autonomi til å handle nå.

En stor begrensning som er felles for både FTC og EU-kommisjonen er manglende evne til å tøyle regjeringers bruk av skadelig AI-teknologi. EUs regelverk inkluderer utskjæringer for statlig bruk av for eksempel overvåking. Og FTC er kun autorisert til å gå etter selskaper. Det kan gripe inn ved å stoppe private leverandører fra å selge partisk programvare til rettshåndhevelsesbyråer. Men å implementere dette vil være vanskelig, gitt hemmeligholdet rundt slike salg og mangelen på regler om hva offentlige etater må deklarere når anskaffe teknologi .

Likevel gjenspeiler denne ukens kunngjøringer et enormt verdensomspennende skifte mot seriøs regulering av AI, en teknologi som har blitt utviklet og distribuert med lite tilsyn så langt. Etikk-vakthunder har etterlyst restriksjoner på urettferdig og skadelig AI-praksis i årevis.

EU ser at regelverket deres bringer AI inn under eksisterende beskyttelse for menneskelige friheter. Kunstig intelligens må tjene mennesker, og derfor må kunstig intelligens alltid være i samsvar med folks rettigheter, sa Ursula von der Leyen , president for EU-kommisjonen, i en tale i forkant av utgivelsen.

Regulering vil også hjelpe AI med det bildeproblem . Som von der Leyen også sa: Vi ønsker å oppmuntre våre innbyggere til å føle seg trygge på å bruke den.

gjemme seg