Big Techs guide til å snakke om AI-etikk

Andrea Daquino

AI-forskere sier ofte at god maskinlæring egentlig er mer kunst enn vitenskap. Det samme kan sies om effektive PR. Velge de riktige ordene til slå an en positiv tone eller reframe samtalen om AI er en delikat oppgave: gjort bra, det kan styrke ens merkevareimage, men gjort dårlig, kan det utløse et enda større tilbakeslag.

Det ville teknologigigantene vite. I løpet av de siste årene har de måttet lære seg denne kunsten raskt ettersom de har møtt økende offentlig mistillit til handlingene deres og økende kritikk om AI-forskningen og -teknologiene deres.

Nå har de utviklet et nytt vokabular som de kan bruke når de vil forsikre publikum om at de bryr seg om å utvikle AI på en ansvarlig måte – men vil sørge for at de ikke inviterer til for mye gransking. Her er en insiders guide for å dekode språket deres og utfordre forutsetningene og verdiene bakt inn.

ansvarlighet (n) - Handlingen av holde noen andre ansvarlige for konsekvensene når AI-systemet ditt svikter.

nøyaktighet (n) - Teknisk korrekthet. Det viktigste målet for suksess i å evaluere ytelsen til en AI-modell. Se validering .

motpart (n) - En ensom ingeniør som er i stand til å forstyrre det kraftige inntektsgenererende AI-systemet ditt. Se robusthet , sikkerhet .

Justering (n) - Utfordringen med å designe AI-systemer som gjør det vi sier til dem og verdsetter det vi verdsetter. Forsett abstrakt. Unngå å bruke ekte eksempler på skadelige utilsiktede konsekvenser. Se sikkerhet .

kunstig generell intelligens (setning) - En hypotetisk AI-gud det er sannsynligvis langt unna i fremtiden, men også kanskje nært forestående. Kan være veldig bra eller virkelig dårlig avhengig av hva som er mest retorisk nyttig. Det er klart du bygger den gode. Som er dyrt. Derfor trenger du mer penger. Se langsiktige risikoer .

revidere (n) - En anmeldelse at du betaler noen andre for å gjøre av bedriften eller AI-systemet ditt slik at du fremstår som mer transparent uten å måtte endre noe. Se konsekvensutredning .

øke (v) - Å øke produktiviteten til funksjonærer. Bivirkning: automatisering av blåsnippjobber. Trist, men uunngåelig.

gunstig (adj) - En teppebeskrivelse for det du prøver å bygge. Beleilig dårlig definert. Se verdi .

av design (ph) - Som i rettferdighet ved design eller ansvarlighet ved design. En setning for å signalisere at du tenker hardt på viktige ting fra begynnelsen.

samsvar (n) - Handlingen med å følge loven. Alt som ikke er ulovlig går.

datamerkere (ph) - Menneskene som angivelig eksisterer bak Amazons Mechanical Turk-grensesnitt å gjøre dataryddearbeid for billig. Usikker på hvem de er. Aldri møtt dem.

demokratisere (v) - Å skalere en teknologi for enhver pris. En begrunnelse for å konsentrere ressursene. Se skala .

mangfold, rettferdighet og inkludering (ph) - Handlingen med å ansette ingeniører og forskere fra marginaliserte grupper slik at du kan paradere dem rundt til publikum. Hvis de utfordrer status quo, skyte dem .

effektivitet (n) – Bruk av mindre data, minne, personell eller energi for å bygge et AI-system.

etikkstyret (ph) - En gruppe rådgivere uten reell makt, samlet for å skape inntrykk av at bedriften din aktivt lytter. Eksempler: Googles AI-etikkstyre (kansellert), Facebooks tilsynsstyre (fremdeles stående).

etiske prinsipper (ph) - Et sett med truismer som brukes for å signalisere dine gode intensjoner. Hold det på høyt nivå. Jo vagere språk, jo bedre. Se ansvarlig AI .

forklarlig (adj) - For å beskrive et AI-system som du, utvikleren og brukeren kan forstå. Mye vanskeligere å oppnå for menneskene den er brukt på. Sannsynligvis ikke verdt innsatsen. Se tolkbar .

rettferdighet (n) - En komplisert forestillingen om upartiskhet brukes til å beskrive objektive algoritmer. Kan defineres på dusinvis av måter basert på dine preferanser.

for godt (ph) - Som i AI for godt eller data for godt . Et initiativ fullstendig tangerer kjernevirksomheten din som hjelper deg å generere god publisitet.

framsyn (n) - Evnen til å se inn i fremtiden. I utgangspunktet umulig: dermed en helt rimelig forklaring på hvorfor du ikke kan kvitte AI-systemet ditt for utilsiktede konsekvenser.

rammeverk (n) - Et sett med retningslinjer for å ta beslutninger. En god måte å fremstå som gjennomtenkt og målt samtidig som den utsetter faktiske beslutninger.

generaliserbar (adj) - Tegnet på en god AI-modell. En som fortsetter å jobbe under skiftende forhold. Se virkelige verden .

styresett (n) - Byråkrati.

menneskesentrert design (ph) - En prosess som involverer bruk av personas for å forestille seg hva en gjennomsnittlig bruker kan ønske seg av AI-systemet ditt. Kan innebære å be om tilbakemelding fra faktiske brukere. Bare hvis det er tid. Se interessenter .

menneske i løkken (ph) - Enhver person som er en del av et AI-system. Ansvaret spenner fra falske systemets evner for å avverge anklager om automatisering.

konsekvensutredning (ph) - En gjennomgang du selv gjør av bedriften eller AI-systemet for å vise din vilje til å vurdere ulempene uten å endre noe. Se revidere .

tolkbar (adj) – Beskrivelse av et AI-system hvis beregning du, utvikleren, kan følge trinn for trinn for å forstå hvordan det kom frem til svaret. Egentlig sannsynligvis bare lineær regresjon. AI høres bedre ut.

integritet (n) – Problemer som undergraver den tekniske ytelsen til modellen din eller bedriftens evne til å skalere. For ikke å forveksle med saker som er dårlige for samfunnet. For ikke å forveksle med ærlighet.

tverrfaglig (adj) – Begrepet brukt for ethvert team eller prosjekt som involverer personer som ikke koder: brukerforskere, produktledere, moralfilosofer. Spesielt moralfilosofer.

langsiktige risikoer (n) - Dårlige ting som kan få katastrofale effekter i en fjern fremtid. Vil sannsynligvis aldri skje, men viktigere å studere og unngå enn de umiddelbare skadene til eksisterende AI-systemer.

partnere (n) - Andre elitegrupper som deler ditt verdenssyn og kan samarbeide med deg for å opprettholde status quo. Se interessenter .

avveining av personvern (ph) - Det edle offeret av individuell kontroll over personlig informasjon for gruppefordeler som AI-drevne helsetjenester, som også tilfeldigvis er svært lønnsomme.

framgang (n) - Vitenskapelig og teknologisk fremskritt. Et iboende gode.

virkelige verden (ph) - Det motsatte av den simulerte verden. Et dynamisk fysisk miljø fylt med uventede overraskelser som AI-modeller er trent til å overleve. For ikke å forveksle med mennesker og samfunn.

regulering (n) - Hva du etterlyser å flytte ansvaret for å redusere skadelig kunstig intelligens over på beslutningstakere. For ikke å forveksle med retningslinjer som vil hindre veksten din.

ansvarlig AI (n)- En moniker for alt arbeid i bedriften din som kunne tolkes av publikum som en oppriktig innsats for å redusere skadene til AI-systemene dine.

robusthet (n) - Evnen til en AI-modell til å fungere konsekvent og nøyaktig under ondsinnede forsøk på å mate den ødelagte data .

sikkerhet (n)- Utfordringen med å bygge AI-systemer som ikke går ut fra designerens intensjoner. For ikke å forveksle med å bygge AI-systemer som ikke svikter. Se Justering .

skala (n)- De facto-sluttstaten som ethvert godt AI-system bør strebe etter å oppnå.

sikkerhet (n) – Handlingen med å beskytte verdifulle eller sensitive data og AI-modeller fra å bli krenket av dårlige aktører. Se motpart .

interessenter (n) - Aksjonærer, regulatorer, brukere. Maktmennene du ønsker å holde lykkelige.

åpenhet (n) - Avsløre data og kode. Dårlig for proprietær og sensitiv informasjon. Så veldig vanskelig; helt ærlig, til og med umulig. For ikke å forveksle med tydelig kommunikasjon om hvordan systemet ditt faktisk fungerer.

troverdig (adj) - En vurdering av et AI-system som kan produseres med nok koordinert publisitet.

universell grunninntekt (ph) - Ideen om at å betale alle en fast lønn vil løse den massive økonomiske omveltningen som forårsakes når automatisering fører til omfattende tap av arbeidsplasser. Popularisert av 2020 presidentkandidat Andrew Yang. Se omfordeling av rikdom .

validering (n) - Prosessen med å teste en AI-modell på andre data enn dataene den ble trent på, for å sjekke at den fortsatt er nøyaktig.

verdi (n) – En immateriell fordel gitt til brukerne dine som gir deg mye penger.

verdier (n) - Du har dem. Minn folk.

omfordeling av rikdom (ph) - En nyttig idé å dingle rundt når folk gransker deg for å bruke alt for mange ressurser og tjene alt for mye penger. Hvordan ville omfordeling av rikdom fungere? Universell grunninntekt, selvfølgelig. Heller ikke noe du kunne finne ut av selv. Vil kreve regulering. Se regulering .

holde tilbake publisering (ph) - Den velvillige handlingen ved å velge å ikke åpne kildekoden din fordi den kan falle i hendene på en dårlig skuespiller. Bedre å begrense tilgangen til partnere hvem har råd til det.

gjemme seg