211service.com
Løndetektorer har alltid vært mistenkelige. AI har gjort problemet verre.
Nicholas Ortega
Før polygrafen erklærte ham skyldig, jobbet Emmanuel Mervilus for et matoljeselskap i havnen i Newark, New Jersey. Han tjente 12 dollar i timen med å flytte esker, men det var ikke nok. Broren og søsteren hans var for unge til å jobbe, og moren hans kjempet en kostbar kamp mot kreften. Sjefen hans i havnen hadde imidlertid fortalt ham at han var neste i køen for opprykk til en teknikerstilling, som ville komme med en høyning til $25 i timen.
Mervilus ventet fortsatt på denne kampanjen 19. oktober 2006, da han og en venn stoppet ved en Dunkin' Donuts i nærliggende Elizabeth, New Jersey. Noen minutter senere, mens de gikk nedover gaten, kom to politibetjenter bort til dem og anklaget dem for å ha ranet en mann med knivstikk noen minutter tidligere, utenfor en jernbanestasjon i nærheten.
Offeret hadde identifisert Mervilus og vennen hans på avstand. Mervilus var desperat etter å bevise sin uskyld og tilbød seg å ta en polygraftest. Politiet var enig, men i dagene rett før testen døde moren til Mervilus. Han var fortvilet og engstelig da politiet festet ham til enheten. Han mislyktes i testen, ba om å ta den på nytt, og fikk avslag.
Etter at Mervilus opprettholdt sin uskyldspåstand, gikk saken hans til rettssak. Løytnanten som hadde administrert polygrafen vitnet i retten at enheten var en pålitelig sannhetsindikator. Han hadde aldri i sin karriere, sa han, sett et tilfelle der noen viste tegn på bedrag, og [det senere] kom ut at de var sannferdige. En jury dømte Mervilus – påvirket, fant en ankedomstol senere, av feilplassert tro på polygrafen. Dommeren dømte ham til 11 års fengsel.
Troen på at bedrag kan oppdages ved å analysere menneskekroppen har blitt forankret i det moderne liv. Til tross for mange studier som stiller spørsmål ved gyldigheten av polygrafen, utføres mer enn 2,5 millioner screeninger med enheten hvert år, og polygraftester er en industri på 2 milliarder dollar. Amerikanske føderale myndigheter, inkludert justisdepartementet, forsvarsdepartementet og CIA, bruker alle enheten ved screening av potensielle ansatte. I følge tall fra 2007 fra Justisdepartementet brukte mer enn tre fjerdedeler av alle urbane politi- og lensmannsavdelinger også løgndetektorer for å undersøke ansettelser.
Men polygrafmaskiner er fortsatt for trege og tungvinte å bruke ved grenseoverganger, på flyplasser eller på store grupper mennesker. Som et resultat har en ny generasjon løgndetektorer basert på kunstig intelligens dukket opp det siste tiåret. Talsmennene deres hevder at de er både raskere og mer nøyaktige enn polygrafer.
I virkeligheten er det psykologiske arbeidet som ligger til grunn for disse nye AI-systemene enda spinklere enn forskningen som ligger til grunn for polygrafen. Det er få bevis for at resultatene de produserer kan stole på. Ikke desto mindre bringer modernitetens finer som AI gir dem disse systemene inn i settinger som polygrafen ikke har vært i stand til å trenge gjennom: grenseoverganger, private jobbintervjuer, låneundersøkelser og krav om forsikringssvindel. Bedrifter og myndigheter begynner å stole på dem for å ta beslutninger om påliteligheten til kunder, ansatte, innbyggere, innvandrere og internasjonale besøkende. Men hva om løgn bare er for komplisert til at en maskin kan identifiseres pålitelig, uansett hvor avansert algoritmen den er?
Inkvisitorer i det gamle Kina ba mistenkte løgnere legge ris i munnen for å se om de spyttet. De Romernes bedrifter , en middelaldersk antologi med moralske fabler, forteller historien om en soldat som fikk ekspeditøren til å måle konas puls for å finne ut om hun var utro.
En engelsk oversettelse av Romernes bedrifter , eller Deeds of the Romans, en samling historier som opprinnelig ble utgitt på latin på slutten av 1200- eller begynnelsen av 1300-tallet. Wikimedia commons
Da USA gikk inn i første verdenskrig, var William Marston, en forsker ved Harvard, banebrytende for bruken av maskiner som målte blodtrykk for å forsøke å finne bedrag. Noen år senere, inspirert av Marstons arbeid, utviklet John Augustus Larson, en politimann som nettopp hadde fullført sin doktorgrad i fysiologi ved University of California, Berkeley, en maskin han kalte et kardio-pneumo psykogram, som ga kontinuerlige avlesninger av en forsøkspersonens blodtrykk, puls og pustefrekvens. Disse målingene, hevdet Larson, var en enda bedre proxy for bedrag enn blodtrykk alene.
Larson brukte først maskinen til å etterforske et tyveri i en sovesal for kvinner i Berkeley, og i løpet av et år hadde den blitt brukt til å dømme en mann i San Francisco som ble anklaget for å ha myrdet en prest. På 1930-tallet solgte en av Larsons protégéer en bærbar versjon til politiavdelinger rundt om i landet, og la til en sensor som målte endringer i galvanisk hudrespons - jo mer et forsøksperson svettet, jo mer ledende ville huden være. På 1970-tallet tok millioner av arbeidere i privat sektor regelmessige polygraftester etter ordre fra arbeidsgiverne sine.
De fleste polygraftester i dag har den samme grunnleggende strukturen som Larsons: Undersøkeren stiller en rekke spørsmål for å måle et individs normale fysiologiske tilstand, mens maskinen transkriberer disse målingene som bølgeformlinjer på en side eller en skjerm. Undersøkeren ser deretter etter plutselige topper eller fall i disse nivåene når forsøkspersonen svarer på spørsmål om mistenkte forbrytelser eller følelser.
Men psykologer og nevrovitenskapsmenn har kritisert polygrafen nesten siden det øyeblikket Larson avduket oppfinnelsen sin for offentligheten. Mens noen løgnere kan oppleve endringer i hjertefrekvens eller blodtrykk, er det lite bevis på at slike endringer konsekvent korrelerer med bedrag. Mange uskyldige mennesker blir nervøse under avhør, og praktiserte løgnere kan undertrykke eller indusere endringer i kroppen for å lure testen. Polygrafer kan også bli slått av bite seg i tungen , tråkke på en takk, eller tenker på sin verste frykt . Enhetene risikerer alltid å fange opp forvirrende variabler selv i kontrollerte laboratorieeksperimenter, og i det virkelige liv er de fortsatt mindre pålitelige: siden kriminelle som slår testen nesten aldri forteller politiet at de var skyldige, og siden uskyldige mistenkte ofte gir falske tilståelser etter å ha mislyktes. tester, er det ingen måte å si hvor godt de faktisk fungerte.
Leonarde Keeler, en protégé av polygrafoppfinneren John Larson, administrerte testen til Bruno Hauptmann, som ble arrestert, dømt og henrettet for kidnappingen av Charles Augustus Lindbergh Jr. Hauptmann fastholdt sin uskyld til sin død. Offentlig domene
På grunn av disse begrensningene har polygraftester lenge vært utillatelige i de fleste amerikanske domstoler med mindre begge parter samtykker til at de blir inkludert. Føderal lov har utestengt private arbeidsgivere fra å polygrafere sine ansatte siden 1988 (med unntak for de i sensitive jobber, som væpnede vakter eller farmasøytiske distributører, og for noen ansatte som er mistenkt for å stjele eller svindel). American Psychological Association advarer, De fleste psykologer er enige om at det er lite bevis for at polygraftester nøyaktig kan oppdage løgner, og en rapport fra 2003 fra National Academy of Sciences, som gjenspeiler tidligere undersøkelser fra myndighetene, fant som kjent at enheten oppdager løgnere med hastigheter godt over tilfeldighetene. , men godt under perfeksjon; Rapportens hovedforfatter sa den gang at nasjonal sikkerhet er for viktig til å overlates til et så sløvt instrument.
Men instrumentet trenger kanskje ikke være så sløvt. Det er løftet som blir gitt av et økende antall selskaper som er ivrige etter å selge løgnedeteksjonsteknologi til både myndigheter og kommersiell industri. Kanskje, sier de, visse komplekse mønstre av atferds-tics kan signalisere løgn mer pålitelig enn bare en forhøyet puls eller blodtrykk. Og kanskje en sofistikert algoritme kunne oppdage disse mønstrene.
Fra 1969 til 1981 tvang en seriemorder med kallenavnet Yorkshire Ripper unge kvinner nord i England, drepte minst 13 og forsøkte å drepe minst syv andre. Politiet intervjuet og løslot ham ni forskjellige ganger mens drapsaksjonen hans fortsatte. Hans siste offer var Jacqueline Hill, en 20 år gammel student ved University of Leeds, som ble drept i november 1980. Noen måneder senere fanget politiet ham til slutt da han forberedte seg på å drepe en prostituert i Sheffield i nærheten.
Da Janet Rothwell ankom University of Leeds høsten 1980, bodde hun i sovesalen ved siden av Hill's. Hun fant seg selv hjemsøkt av Hills drap.
Hun tok bussen fra universitetsbiblioteket omtrent samtidig som meg, sa Rothwell, og hun ble myrdet etter at hun gikk av bussen. Rothwell fikk senere vite hvor lang tid det tok å fange morderen. Jeg lurte på, husket hun, kunne en datamaskin flagge en slags inkongruens i oppførsel for å varsle politiet?
Rothwell fortsatte til slutt på forskerskolen ved Manchester Metropolitan University (MMU) på slutten av 1990-tallet. Hun møtte Zuhair Bandar, en irakisk-britisk foreleser som jobber ved informatikkavdelingen. Bandar hadde nylig hatt et eureka-øyeblikk da et markedsføringsselskap hadde bedt ham om å lage en rudimentær enhet for å måle forbrukernes interesse for produkter de så på en skjerm.
Et FBI-bilde av en kvinne som tar en polygraf. Federal Bureau of Investigation
De ville gi kunden en håndholdt enhet, sa Bandar, og hvis de godkjenner, trykker de 1; hvis de ikke liker det, trykker de på 2. Jeg tenkte, hvorfor trenger vi håndholdte enheter hvis det allerede er uttrykk i ansiktene deres? Bandar ba Rothwell om å bli på MMU etter mastergraden for å ta en doktorgrad og hjelpe ham med å designe programvare som kunne analysere ansikter for å trekke ut informasjon. Villedning, regnet de med, var ikke mindre påviselig enn glede eller sinne. Alle ville skape en form for inkongruens – atferdsmønstre, enten verbale eller ikke-verbale, som en datamaskin kan skjelne.
Rothwell trente et nevralt nettverk på begynnelsen av 2000-tallet for å spore ansiktsbevegelser som blunking og rødming, og matet deretter datamaskinen med noen dusin klipp av mennesker som svarte på det samme settet med spørsmål ærlig og uærlig. For å finne ut hva løgnerne hadde til felles, undersøkte datamaskinen et individs ansiktsbevegelser, forholdet mellom disse bevegelsene og forholdet mellom disse relasjonene, og kom med en teori som var for kompleks til å artikulere på normalt språk. Når systemet først er trent på denne måten, kan det bruke kunnskapen sin til å klassifisere nye emner som villedende eller sannferdige ved å analysere ramme-for-bilde endringer i uttrykkene deres.
I en studie fra 2006 ble systemet, kalt Silent Talker, laget for å gjette om et emne løy eller fortalte sannheten. Den oppnådde aldri mer enn 80 % nøyaktighet mens Rothwell jobbet med den – den har heller ikke gjort det vesentlig bedre i noe forskningsgruppen har publisert siden. Rothwell fortalte meg også at det gikk helt i stykker hvis en deltaker hadde på seg briller, og hun påpekte: Du må huske at lysforholdene var de samme og intervjuene var basert på det iscenesatte tyveriet. Men selv i de tidlige stadiene, minnes Rothwell, var Bandar opptatt av å ha et kommersielt produkt; han og en kollega presenterte henne en gang en video av en kvinne som ble mistenkt for å være utro mot mannen sin og ba henne få Silent Talker til å analysere den, akkurat som i Romernes bedrifter .
Rothwell hadde sine forbehold. Jeg kunne se at programvaren, hvis den fungerte, potensielt kunne være påtrengende, sa hun. Jeg tror ikke at noe system noen gang kan være 100%, og hvis [systemet] tar feil, kan risikoen for forhold og liv være katastrofal. Hun forlot universitetet i 2006; etter å ha utdannet seg til audiograf, fant hun jobb på et sykehus på Isle of Jersey, hvor hun fortsatt bor.
MMU la ut en pressemelding i 2003 der de hevdet teknologien som en ny oppfinnelse som ville gjøre polygrafen foreldet. Jeg ble litt sjokkert, sa Rothwell, fordi jeg følte det var for tidlig.
Den amerikanske regjeringen gjorde en rekke forsøk på teknologi for bedragerioppdaging de første årene etter 11. september, mens Department of Homeland Security (DHS), Department of Defense (DoD) og National Science Foundation brukte millioner av dollar på slik forskning. . Disse byråene finansierte etableringen av en kiosk kalt AVATAR ved University of Arizona. AVATAR, som analyserte ansiktsuttrykk, kroppsspråk og folks stemmer for å tildele forsøkspersoner en 'troverdighetsscore, ble testet på amerikanske flyplasser. I Israel hjalp DHS i mellomtiden med å finansiere en oppstart kalt WeCU ('vi ser deg), som solgte en screeningkiosk som ville utløse fysiologiske reaksjoner blant de som skjuler noe, ifølge en 2010-artikkel i Fast Company . (Selskapet har siden stengt.)
Bandar begynte å prøve å kommersialisere teknologien. Sammen med to av studentene hans, Jim O'Shea og Keeley Crockett, innlemmet han Silent Talker som et selskap og begynte å søke kunder, inkludert både politiavdelinger og private selskaper, for sin psykologiske profileringsteknologi. Silent Talker var en av de første AI-løgndetektorene som kom på markedet. I følge selskapet ble teknologi hentet fra Silent Talker i fjor brukt som en del av iBorderCtrl, et EU-finansiert forskningsinitiativ som testet systemet på frivillige ved grensene i Hellas, Ungarn og Latvia. Bandar sier at selskapet nå er i samtaler om å selge teknologien til advokatfirmaer, banker og forsikringsselskaper, og bringe tester inn i arbeidsplassintervjuer og svindelscreeninger.
Bandar og O’Shea brukte år på å tilpasse kjernealgoritmen for bruk i ulike settinger. De prøvde å markedsføre det til politiavdelinger i Manchester og Liverpools storbyområder. Vi snakker uformelt med svært seniorpersoner, sa selskapet til den britiske publikasjonen Ingeniøren i 2003, og bemerket at deres mål var å prøve dette i ekte intervjuer. En hvitbok fra 2013 O'Shea publisert på nettstedet hans antydet at Silent Talker kunne brukes til å beskytte styrkene våre på utplassering i utlandet fra Green-on-Blue ('Insider') angrep. (Begrepet grønn-på-blått brukes ofte for å referere til angrep afghanske soldater i uniform gjør mot sine tidligere allierte.)
Teamet publiserte også eksperimentelle resultater som viser hvordan Silent Talker kan brukes til å oppdage forståelse så vel som deteksjon. I en studie fra 2012, den første som viste Silent Talker-systemet som ble brukt i feltet, jobbet teamet med en frivillig organisasjon for helsetjenester i Tanzania for å registrere ansiktsuttrykkene til 80 kvinner mens de tok nettkurs om HIV-behandling og kondombruk. Ideen var å finne ut om pasientene forsto behandlingen de ville få - som introduksjonen til studien bemerker, er vurderingen av deltakernes forståelse under informert samtykkeprosessen fortsatt et kritisk område av bekymring. Da teamet kryssrefererte AIs gjetninger om hvorvidt kvinnene forsto forelesningene med sine poengsum på korte etterforelesningseksamener, fant de ut at det var 80 % nøyaktig når det gjaldt hvem som ville bestå og hvem som ville mislykkes.
Algoritmen som ble trent i Manchester ville, sa pressemeldingen, levere mer effektive og sikre landgrenseoverganger og bidra til å forebygge kriminalitet og terrorisme.
Tanzania-eksperimentet var det som førte til Silent Talkers inkludering i iBorderCtrl. I 2015 sendte Athos Antoniades, en av arrangørene av det gryende konsortiet, en e-post til O’Shea, og spurte om Silent Talker-teamet ønsket å bli med i en gruppe selskaper og politistyrker som byr på et EU-tilskudd. I tidligere år hadde voksende kjøretøytrafikk inn i EU overveldet agenter ved unionens grenseland, og som et resultat tilbød EU €4,5 millioner ($5 millioner) til enhver institusjon som kunne levere mer effektive og sikre landgrenseoverganger ... og dermed bidra til forebygging av kriminalitet og terrorisme. Antoniades trodde Silent Talker kunne spille en avgjørende rolle.
Da prosjektet endelig kunngjorde en offentlig pilot i oktober 2018, var EU-kommisjonen rask med å presentere suksesshistorien til systemets unike tilnærming til bedragerioppdaging i en pressemelding , og forklarer at teknologien analyserer mikrobevegelsene til reisende for å finne ut om intervjuobjektet lyver. Algoritmen som ble trent i Manchester ville, fortsatte pressemeldingen, levere mer effektive og sikre landgrenseoverganger og bidra til å forebygge kriminalitet og terrorisme.
Programmets underliggende algoritme, fortalte O'Shea meg, kunne brukes i en rekke andre innstillinger - reklame, forsikringskravanalyse, jobbsøkerscreening og ansattvurdering. Hans overveldende tro på dens visdom var vanskelig for meg å dele, men selv mens han og jeg snakket over telefonen, screenet Silent Talker allerede frivillige ved EU-grenseovergangene; selskapet hadde nylig startet som en virksomhet i januar 2019. Så jeg bestemte meg for å dra til Manchester for å se selv.
Silent Talkers kontorer ligger omtrent en kilometer unna Manchester Metropolitan University, hvor O'Shea nå er universitetslektor. Han har overtatt den daglige utviklingen av teknologien fra Bandar. Selskapet er basert på en blink-og-du kommer til å savne det i murstein i et boligområde, nede i gaten fra en kebabrestaurant og overfor en fotballbane. Innvendig er Silent Talkers kontor et enkeltrom med noen få datamaskiner, skrivebord med kofferter på, og forklarende plakater om teknologien fra tidlig på 2000-tallet.
Da jeg besøkte selskapets kontor i september, satte jeg meg ned med O’Shea og Bandar i et konferanserom nede i gangen. O’Shea var streng, men litt krøllete, skallet bortsett fra noen hårtotter og Van Dyke-skjegg. Han startet samtalen med å insistere på at vi ikke skal snakke om iBorderCtrl-prosjektet, og senere kalte han kritikerne feilinformerte. Han snakket om kraften til systemets AI-rammeverk i lange, digressive tangenter, og siterte av og til datapioneren Alan Turing eller språkfilosofen John Searle.
Maskiner og mennesker har begge intensjonalitet - tro, ønsker og intensjoner om objekter og tilstander i verden, sa han og forsvarte systemets avhengighet av en algoritme. Derfor krever kompliserte applikasjoner at du gir gjensidig vekt til ideene og intensjonene til begge.
O'Shea demonstrerte systemet ved å la det analysere en video av en mann som svarer på spørsmål om hvorvidt han stjal $50 fra en boks. Programmet la en gul firkant rundt mannens ansikt og to mindre firkanter rundt øynene hans. Mens han snakket, beveget en nål i hjørnet av skjermen seg fra grønt til rødt når han ga falske svar, og tilbake til moderat oransje når han ikke snakket. Da intervjuet var over, genererte programvaren en graf som plottet sannsynligheten for bedrag mot tid. I teorien viste dette seg når han begynte og sluttet å lyve.
Mens han snakket, beveget en nål i hjørnet av skjermen seg fra grønt til rødt når han ga falske svar, og tilbake til moderat oransje når han ikke snakket.
Systemet kan kjøres på en tradisjonell bærbar datamaskin, sier O'Shea, og brukere betaler rundt 10 dollar per minutt med analysert video. O'Shea fortalte meg at programvaren utfører en foreløpig lokal behandling av videoen, sender krypterte data til en server hvor den analyseres videre, og sender deretter resultatene tilbake: brukeren ser en graf over sannsynligheten for bedrag lagt over bunnen. av videoen.
I følge O’Shea overvåker systemet rundt 40 fysiske kanaler på en deltakers kropp – alt fra hastigheten man blinker med til vinkelen på hodet. Den bringer til hvert nytt ansikt en teori om bedrag som det har utviklet ved å se et treningsdatasett med løgnere og sannhetsfortellere. Ved å måle et emnes ansiktsbevegelser og holdningsendringer mange ganger per sekund, ser systemet etter bevegelsesmønstre som samsvarer med de som deles av løgnerne i treningsdataene. Disse mønstrene er ikke så enkle som øynene som flirer mot taket eller et hode som vipper mot venstre. De er mer som mønstre av mønstre, mangefasetterte forhold mellom forskjellige bevegelser, for komplekse for et menneske å spore - en typisk egenskap ved maskinlæringssystemer.
AIs jobb er å finne ut hva slags bevegelsesmønstre som kan assosieres med bedrag. Psykologer sier ofte at du bør ha en slags modell for hvordan et system fungerer, fortalte O'Shea meg, men vi har ikke en fungerende modell, og vi trenger ikke en. Vi lar AI finne ut av det. Han sier imidlertid også at begrunnelsen for kanalene i ansiktet kommer fra akademisk litteratur om bedragets psykologi. I en 2018-artikkel om Silent Talker , sier skaperne at programvaren deres antar at visse mentale tilstander assosiert med villedende atferd vil drive en intervjupersons [ikke-verbale oppførsel] når de bedrager. Blant disse atferdene er kognitiv belastning, eller den ekstra mentale energien det visstnok tar å lyve, og duping-glede, eller gleden en person visstnok får av å fortelle en vellykket løgn.
Paul Ekman, en psykolog hvis teori om 'mikro-uttrykk' er mye omstridt, har konsultert for utallige amerikanske offentlige etater. Wikimedia / Momopuppycat
Men Ewout Meijer, professor i psykologi ved Maastricht University i Nederland, sier at grunnlaget for å tro at slik atferd er universell i beste fall er ustabilt. Ideen om at man kan finne avslørende atferdslekkasjer i ansiktet har røtter i arbeidet til Paul Ekman, en amerikansk psykolog som på 1980-tallet støttet en nå kjent teori om mikrouttrykk, eller ufrivillige ansiktsbevegelser som er for små til å kontrollere. Ekmans forskning gjorde ham til en bestselgende forfatter og inspirerte TV-krimdramaet Lyv til meg . Han konsulterte for utallige amerikanske offentlige etater, inkludert DHS og DARPA. Med henvisning til nasjonal sikkerhet har han holdt forskningsdata hemmelig. Dette har ført til kontroversiell debatt om hvorvidt mikrouttrykk i det hele tatt har noen betydning.
Silent Talkers AI sporer alle typer ansiktsbevegelser, ikke Ekman-spesifikke mikrouttrykk. Vi dekomponerte disse signalene på høyt nivå i vårt eget sett med mikrobevegelser og trente AI-komponenter for å rekombinere dem til meningsfulle indikative mønstre, skrev en talsperson for selskapet i en e-post. O’Shea sier at dette gjør det mulig for systemet å oppdage villedende atferd selv når et motiv bare ser seg rundt eller flytter seg i en stol.
Mye avhenger av om du har et teknologisk spørsmål eller et psykologisk spørsmål, sier Meijer, og advarer om at O’Shea og teamet hans kanskje ser på teknologi for å få svar på psykologiske spørsmål om bedragets natur. Et AI-system kan overgå folk når det gjelder å oppdage [ansiktsuttrykk], men selv om det var tilfelle, forteller det deg fortsatt ikke om du kan slutte fra dem om noen er villedende … bedrag er en psykologisk konstruksjon. Ikke bare er det ingen konsensus om hvilken uttrykk korrelerer med bedrag, legger Meijer til; det er ikke engang enighet om om de gjør. I en e-post sa selskapet at slik kritikk ikke er relevant for Silent Talker og at statistikken som brukes ikke er passende.
TV-dramaet Lyv til meg var delvis basert på Ekmans mikro-ekspresjonsteori. Fox studioer
Videre påpeker Meijer at algoritmen fortsatt vil være ubrukelig ved grenseoverganger eller i jobbintervjuer med mindre den er trent på et datasett som er så mangfoldig som det den skal evaluere i det virkelige liv. Forskning viser at ansiktsgjenkjenningsalgoritmer er dårligere til å gjenkjenne minoriteter når de har blitt trent på sett med overveiende hvite ansikter, noe O’Shea selv innrømmer. En talsperson for Silent Talker skrev i en e-post: Vi utførte flere eksperimenter med mindre varierende utvalgsstørrelser. Disse utgjør hundrevis. Noen av disse er akademiske og har blitt publisert [sic], noen er kommersielle og er konfidensielle.
Imidlertid kommer all publisert forskning som underbygger Silent Talkers nøyaktighet fra små og delvise datasett: i 2018-artikkelen inneholdt for eksempel en treningspopulasjon på 32 personer dobbelt så mange menn som kvinner og bare 10 deltakere av asiatisk/arabisk avstamning, med ingen svarte eller latinamerikanske fag. Mens programvaren for tiden har forskjellige innstillinger for å analysere menn og kvinner, sa O'Shea at han ikke var sikker på om den trengte innstillinger for etnisk bakgrunn eller alder.
Etter at piloten til iBorderCtrl ble kunngjort i 2018, fordømte aktivister og politikere programmet som en enestående, orwellsk utvidelse av overvåkingsstaten. Sophie in 't Veld, et nederlandsk medlem av EU-parlamentet og leder av sentrum-venstre-partiet Democrats 66, sa i et brev til EU-kommisjonen at Silent Talker-systemet kan krenke de grunnleggende rettighetene til mange grensepasserende reisende og at organisasjoner som Privacy International fordømte det som en del av en bredere trend mot å bruke ugjennomsiktige, og ofte mangelfulle, automatiserte systemer for å dømme, vurdere og klassifisere mennesker. Opposisjonen så ut til å overraske iBorderCtrl-konsortiet: selv om EU-kommisjonen i utgangspunktet hevdet at iBorderCtrl ville utvikle et system for å fremskynde grensepasseringer, sier en talsperson nå at programmet var et rent teoretisk forskningsprosjekt. Antoniades fortalte en nederlandsk avis på slutten av 2018 at bedrageri-deteksjonssystemet til slutt kanskje ikke kommer inn i designet, men når dette ble skrevet, sa Silent Talker fortsatt sin deltakelse i iBorderCtrl på sin hjemmeside .
Uansett hvor ofte kritikere som Wilde avkrefter det, vil drømmen om en perfekt løgndetektor bare ikke dø, spesielt når den blir oversvømmet med glansen av AI.
Silent Talker er en ny versjon av den gamle svindelen, mener Vera Wilde, en amerikansk akademiker og personvernaktivist som bor i Berlin, og som var med på å starte en kampanje mot iBorderCtrl. På noen måter er det samme svindel, men med dårligere vitenskap. I en polygraftest ser en undersøker etter fysiologiske hendelser som antas å være korrelert med bedrag; i et AI-system lar sensorer datamaskinen finne ut korrelasjonene selv. Når O’Shea sier at han ikke har en teori, tar han feil, fortsetter hun. Han har en teori. Det er bare en dårlig teori.
Uansett hvor ofte kritikere som Wilde avkrefter det, vil drømmen om en perfekt løgndetektor bare ikke dø, spesielt når den blir oversvømmet med glansen av AI. Etter at DHS brukte millioner av dollar på å finansiere bedrageriforskning ved universiteter på 2000-tallet, prøvde det å lage sin egen versjon av en atferdsanalyseteknologi. Dette systemet, kalt Future Attribute Screening Technology (FAST), hadde som mål å bruke AI for å se etter kriminelle tendenser i et individs øye- og kroppsbevegelser. (En tidlig versjon krevde at intervjuobjektene skulle stå på et Wii Fit-balansebrett for å måle endringer i holdning.) Tre forskere som snakket off the record for å diskutere klassifiserte prosjekter sa at programmet aldri kom i gang – det var for mye uenighet i avdelingen over om man skal bruke Ekmans mikrouttrykk som rettesnor for atferdsanalyse. Avdelingen avviklet programmet i 2011.
Til tross for feilen til FAST, viser DHS fortsatt interesse for løgndeteksjonsteknikker. I fjor, for eksempel, tildelte den en kontrakt på $110 000 til et menneskelig ressursselskap for å trene sine offiserer i å oppdage bedrag og fremkalle respons gjennom atferdsanalyse. Andre deler av regjeringen legger i mellomtiden fortsatt vekt på AI-løsninger. Army Research Laboratory (ARL) har for tiden en kontrakt med Rutgers University om å lage et AI-program for å oppdage løgner i salongspillet Mafia, som en del av et større forsøk på å lage noe som et Google Glass som advarer oss om et par lommetyver i den overfylte basaren, ifølge Purush Iyer, ARL-divisjonssjefen som er ansvarlig for prosjektet. Nemesysco, et israelsk selskap som selger AI-stemmeanalyseprogramvare, fortalte meg at teknologien deres brukes av politiavdelinger i New York og sheriffer i Midtvesten for å intervjue mistenkte, samt av inkassosentre for å måle følelsene til skyldnere på telefonsamtaler.
Den umiddelbare og potensielt farlige fremtiden for løgndeteksjon av kunstig intelligens er ikke hos myndigheter, men i det private markedet. Politikere som støtter initiativer som iBorderCtrl må til syvende og sist stå til ansvar for velgerne, og de fleste AI-løgndetektorer kan utestenges fra retten under den samme juridiske presedensen som styrer polygrafen. Private selskaper har imidlertid færre begrensninger ved å bruke slik teknologi for å screene jobbsøkere og potensielle kunder. Silent Talker er ett av flere selskaper som hevder å tilby en mer objektiv måte å oppdage unormal eller villedende atferd på, og gir kundene en risikoanalysemetode som går utover kredittscore og profiler på sosiale medier.
Programvaren genererer et høyt antall falske positiver.
Et Montana-basert selskap kalt Neuro-ID utfører AI-analyse av musebevegelser og tastetrykk for å hjelpe banker og forsikringsselskaper med å vurdere svindelrisiko, og tildeler lånesøkere en tillitsscore på 1 til 100. I en video viste selskapet meg når en kunde gjorde en elektronisk lånesøknad tar ekstra tid å fylle ut feltet for husholdningsinntekt, flytte musen rundt mens du gjør det, systemet tar med dette inn i troverdighetsresultatet. Den er basert på forskning fra selskapets grunnleggende forskere som hevder å vise en sammenheng mellom musebevegelser og emosjonell opphisselse: en artikkel som hevder at det å være villedende kan øke den normaliserte bevegelsesavstanden, redusere bevegelseshastigheten, øke responstiden og resultatet. i flere venstreklikk. Selskapets egne tester avslører imidlertid at programvaren genererer et høyt antall falske positiver: i en casestudie der Neuro-ID behandlet 20 000 søknader om et e-handelsnettsted, var det færre enn halvparten av søkerne som fikk lavest poengsum (5 til 10) viste seg å være svindel, og bare 10 % av de som fikk skårer fra 20 til 30 representerte en svindelrisiko. Etter selskapets egen innrømmelse, flagger programvaren søkere som kan vise seg å være uskyldige, og lar selskapet bruke denne informasjonen til å følge opp hva den vil. Det er ikke noe slikt som atferdsbasert analyse som er 100 % nøyaktig, fortalte en talsperson. Det vi anbefaler er at du bruker dette i kombinasjon med annen informasjon om søkere for å ta bedre beslutninger og fange opp [svindelklienter] mer effektivt.
Converus, en Utah-basert oppstart, selger programvare kalt EyeDetect som måler utvidelsen av et emnes elever under et intervju for å oppdage kognitiv belastning. I likhet med Silent Talker, tar verktøyet utgangspunkt i at løgn er mer kognitivt krevende enn å fortelle sannheten. I følge a 2018-artikkel i Wired har politiavdelinger i Salt Lake City og Columbus, Georgia, brukt EyeDetect for å screene jobbsøkere. Converus fortalte også Wired at McDonald's, Best Western, Sheraton, IHOP og FedEx brukte programvaren deres i Panama og Guatemala på måter som ville vært ulovlige i USA.
I en uttalelse det ga meg, siterte selskapet til få studier som viser at EyeDetect oppnår rundt 85 % nøyaktighet i å identifisere løgnere og sannhetsfortellere, med prøver på opptil 150 personer. Selskapets president Todd Mickelsen sier at firmaets algoritme har blitt trent på hundretusenvis av intervjuer. Men Charles Honts, en professor i psykologi ved Boise State University som også sitter i Converus sitt rådgivende styre, sa at disse resultatene ikke beviste at man kunne stole på EyeDetect i feltintervjuer. Jeg synes EyeDetect-systemet er veldig interessant, men på den annen side bruker jeg det ikke, fortalte han meg. Jeg tror databasen fortsatt er relativt liten, og den kommer stort sett fra ett laboratorium. Inntil det er utvidet og andre mennesker har replikert det, vil jeg være motvillig til å bruke det i felten.
Forskere fra University of Arizona som utviklet AVATAR-systemet har også startet et privat selskap, Discern Science, for å markedsføre sin egen teknologi for deception-deteksjon. Discern ble lansert i fjor, og selger en seks fot høy kiosk som ligner den originale AVATAR; ifølge en artikkel i Financial Times har selskapet inngått en joint venture-avtale med en partner i luftfartsindustrien om å selge verktøyet til flyplasser. Systemet målinger ansiktsbevegelse og stemmestress for å usynlig samle informasjon fra motivet på samtaleavstand, i henhold til reklamemateriell. I likhet med Silent Talker og Converus, hevder Discern at teknologien pålitelig kan oppdage rundt 85 % av løgnere og sannhetsfortellere, men igjen, resultatene har aldri blitt replikert uavhengig. Minst en av inngangene kiosken bruker har vært gjentatte ganger vist å være upålitelig . (Honts bemerket videre at det nesten ikke er støtte for analyse av ansiktsbevegelser som AVATARs og Silent Talkers - det har vært så mange feil å replikere der, sa han.)
Alle som forteller deg at de har en enhet som er en rett ut løgndetektor er en sjarlatan.
På spørsmål om den vitenskapelige støtten til selskapets kiosk, understreket Discern-forsker Judee Burgoon at de bare gjør vurderinger, ikke bindende vurderinger om sannhet og usannhet. Systemer som AVATAR og Silent Talker, sa hun, kan ikke måle svik direkte, og la til at alle som forteller deg at de har en enhet som er en rett ut løgndetektor er en sjarlatan. I markedsføringsmateriell presenterer Discern imidlertid verktøyet som en pålitelig løgndetektor: selskapets nettsted påstander at det kan hjelpe til med å avdekke skjulte planer og at dets algoritmer er vitenskapelig bevist for å oppdage bedrag raskere og mer pålitelig enn noe alternativ.
Ankedomstolen frafalt Emmanuel Mervilus sin domfellelse i 2011, løslot ham fra fengselet og beordret en ny rettssak; han hadde sonet mer enn tre år av straffen. Ved den andre rettssaken, i 2013, diskuterte jurymedlemmene i bare 40 minutter før de frikjente ham. Hadde det ikke vært for polygrafen og den vedvarende troen på dens nøyaktighet, ville han kanskje aldri ha satt sin fot i en rettssal første gang. Mervilus har saksøkt politibetjentene som opprinnelig arresterte og avhørte ham, med påstand om at de krenket hans rett til rettferdig prosess ved å bruke polygraftester de visste var feil for å sikre en domfellelse. Saken skal videre til en forlikskonferanse 13. mars.
Selv om den utbredte bruken av Silent Talker og systemer som den ikke fører til flere domfellelser av uskyldige mennesker som Mervilus, kan det fortsatt bidra til å skape en ny type sosial shibboleth, som tvinger folk til å gjennomgå troverdighetsvurderinger før de leier en bil eller tar ut et lån.
I en domstol må du avgi materielle bevis, som håret ditt og blodet ditt, sier Wilde. Men du har også rett til å tie, rett til ikke å si deg selv imot. Mervilus valgte å ta polygraftesten under antagelsen om at den, som en DNA-test, ville vise at han var uskyldig. Og selv om enheten tok feil, var det ikke selve maskinen som sendte ham i fengsel. Det var juryens oppfatning at testresultatene var mer troverdige enn fakta i saken.
Den grunnleggende forutsetningen for AI-løgnedeteksjon er at løgner er der for å bli sett med de riktige verktøyene. Psykologer vet fortsatt ikke hvor gyldig den påstanden er, men i mellomtiden kan troen på dens gyldighet være nok til å diskvalifisere fortjente søkere til jobber og lån, og for å hindre uskyldige mennesker i å krysse landegrenser. Løftet om et vindu inn i andres indre liv er for fristende til å gå fra seg, selv om ingen kan være sikker på hvor klart vinduet er.
Det er løftet om tankelesing, sier Wilde. Du kan se at det er falskt, men det er det de selger.