211service.com
Hvem skal regulere AI? Det er kanskje deg.
Fra Facebooks rolle i å spre feilinformasjon til nye europeiske lover om opphavsrett, det er det heteste temaet innen teknologi akkurat nå. Hvordan skal teknologiselskaper reguleres? Hvordan holder denne reguleringen tritt med nye teknologier som AI? Og hvem skal sørge for at nye lover ikke kveler innovasjon?
Det er sant at lovgivere ofte sliter med å forstå grunnleggende tekniske konsepter, mens selskaper fremmer teknologier mye raskere enn myndigheter og rettssystemet kan takle. I en tale på EmTech Digital, MIT Technology Reviews AI-konferanse, foreslo en gruppe ledende eksperter på AI og policy at nye standarder og samarbeid var nødvendig.
Mens Googles policysjef Kent Walker annonserte dannelsen av et nytt eksternt rådgivende råd for AI-utvikling , Rashida Richardson, direktør for policy research ved AI Now Institute , sa at det bør legges vekt på at teknologer og ledende selskaper handler for å forhindre misbruk av systemene de bygger.
Hvem bærer byrden for å sikre at nye teknologier ikke er diskriminerende? hun spurte.
Utilsiktede konsekvenser – for eksempel når ansiktsgjenkjenningssystemer gir falske positiver – er for farlige for mange grupper av mennesker, sa hun, og systemer som er trent på dårlige data ender bare opp med å forsterke eksisterende skjevheter. Men å forhindre overgrep og samtidig oppmuntre til utvikling er helt klart noe loven sliter med.
Bedriftene og enkeltpersonene som er ansvarlige for å skape nye teknologier har en forpliktelse. De trenger å gjøre sin due diligence - for eksempel å forhøre seg dypt i konteksten et datasett ble opprettet i, sa Richardson. I andre tilfeller kan det hende at bedrifter opplever at teknologien deres ikke kan gjøres diskrimineringssikker, og de vil måtte ta en tøff avgjørelse om de skal bringe det produktet til markedet.
Brendan McCord, en rådgiver for det amerikanske forsvarsdepartementet, sa at de største og mest innflytelsesrike selskapene burde bruke sin enorme makt og ta en mer aktiv rolle i å forme reguleringsinnsatsen.
Sivilsamfunnsgrupper gjør en god jobb i å prøve å øke bevisstheten om disse problemene, sa han. Men selskaper har enorm kapasitet til å drive denne samtalen.
McCord, som tidligere jobbet på Pentagons kontroversielle Project Maven, foreslo at et konsortium av ledende selskaper kunne bidra til å etablere industrinormer eller til og med jobbe med lovgivere for å designe fremtidssikre tilnærminger for å regulere AI, maskinlæring og andre teknologier i rask utvikling.
Jeg tror en god strategi er at selskaper [som Google] slår seg sammen med andre selskaper og skaper momentum, skaper et fremstøt for riktig type regulering, og har det kodifisert, som driver en god syklus der andre selskaper må overholde den reguleringen. , han sa.
Dette vil imidlertid kreve at selskaper jobber mye hardere for å sette publikums interesser foran sin egen fortjeneste, la han til.
Googles Walker sa at det var mange eksempler på selskaper som tok gode beslutninger – og at Google selv vurderte hvilke deler av Europas nye personvernlovgivning de kunne importere til USA.
Men bevisene tyder på at dagens tilnærminger til selvregulering har vist mange svakheter – og ofte bare manifestert i møte med trusler fra regjeringer eller domstoler. Facebook kunngjorde for mindre enn en uke siden at de kom til å slutte å tillate annonsører å målrette mot rase, kjønn og alder, for eksempel. Den avgjørelsen kom imidlertid først etter en rekke søksmål som anklaget at selskapet brøt borgerrettighetslover etablert på 1960-tallet.
AI Nows Richardson sa at det er vanskelig å regulere nye teknologier fordi de beveger seg så raskt og ofte utelater viktige interessenter.
Det er veldig tvetydig retorikk rundt likestilling, sa hun. Det er virkelig vanskelig å si «Vi vil ikke skade folk med denne teknologien.» Hvem tar den avgjørelsen?
Det er vanskeligere å regulere, for enten har du fullt moratorium til vi forstår det, eller så lever du i den verden vi lever i akkurat nå, der du prøver å ta igjen.