AI lærer når det bør og ikke bør overlates til et menneske

Mark Schiefelbein/AP

Sammenhengen: Studier viser at når mennesker og AI-systemer jobber sammen, kan de utkonkurrere en av dem alene. Medisinske diagnosesystemer blir ofte kontrollert av menneskelige leger, og innholdsmodereringssystemer filtrerer det de kan før de krever menneskelig hjelp. Men algoritmer er sjelden utviklet for å optimalisere for denne AI-til-menneske-overdragelsen. Hvis de var det, ville AI-systemet bare utsette seg for sitt menneskelige motstykke hvis personen faktisk kunne ta en bedre beslutning.

Forskningen: Forskere ved MITs Computer Science and AI Laboratory (CSAIL) har nå utviklet et AI-system for å gjøre denne typen optimalisering basert på styrker og svakheter til den menneskelige samarbeidspartneren. Den bruker to separate maskinlæringsmodeller; man tar selve avgjørelsen, enten det er å diagnostisere en pasient eller fjerne et innlegg på sosiale medier, og man forutsier om AI eller mennesket er den beste beslutningstakeren.

Den sistnevnte modellen, som forskerne kaller avviseren, forbedrer iterativt sine spådommer basert på hver beslutningstakers resultater over tid. Det kan også ta hensyn til faktorer utover ytelse, inkludert en persons tidsbegrensninger eller en leges tilgang til sensitiv pasientinformasjon som ikke er tilgjengelig for AI-systemet.

Resultatene: Forskerne testet den hybride human-AI-tilnærmingen i en rekke scenarier, inkludert for bildegjenkjenningsoppgaver og for oppdagelse av hatefulle ytringer. AI-systemet var i stand til å tilpasse seg ekspertens oppførsel og utsette seg for dem når det var hensiktsmessig, slik at de to beslutningstakerne raskt kunne nå et kombinert nøyaktighetsnivå som er høyere enn en tidligere hybrid human-AI-tilnærming.

Kasusstudie: Selv om disse eksperimentene fortsatt er relativt enkle, mener forskerne at en slik tilnærming til slutt kan brukes på komplekse beslutninger i helsevesenet og andre steder. Vurder et AI-system som hjelper leger å foreskrive riktig antibiotika. Mens bredspektrede antibiotika er svært effektive, kan overforbruk av dem føre til antibiotikaresistens. Spesifikke antibiotika, derimot, unngår det problemet, men bør bare brukes hvis de har stor sjanse for å virke. Gitt denne avveiningen, kan AI-systemet lære å tilpasse seg forskjellige leger med forskjellige skjevheter i reseptene sine, og korrigere for tendenser til å over- eller underforskrive bredspektrede antibiotika.

gjemme seg