Prisalgoritmer kan lære å samarbeide med hverandre for å øke prisene

Kategori: Kunstig intelligens Lagt ut 12. februar

Hvis du handler på Amazon, er det sannsynligvis en algoritme i stedet for et menneske som bestemmer prisen på tjenesten eller varen du kjøpte. Prisalgoritmer har blitt allestedsnærværende i netthandel ettersom automatiserte systemer har blitt stadig rimeligere og enklere å implementere. Men mens selskaper som flyselskaper og hoteller lenge har brukt maskiner for å sette prisene sine, har prissystemene utviklet seg. De har gått fra regelbaserte programmer til forsterkningslæringsprogrammer, der logikken i å bestemme prisen på et produkt ikke lenger er innenfor menneskets kontroll.





Hvis du husker det, er forsterkende læring en undergruppe av maskinlæring som bruker straffer og belønninger for å motivere en AI-agent mot et spesifikt mål. AlphaGo brukte det som kjent for å slå de beste menneskelige spillerne i det eldgamle brettspillet Go. Innenfor en prissammenheng er disse systemene gitt et mål som å maksimere total fortjeneste; så eksperimenterer de med forskjellige strategier i et simulert miljø for å finne den optimale. En ny papir antyder nå at disse systemene kan utgjøre et stort problem: de lærer raskt å samarbeide.

Forskere ved Universitetet i Bologna i Italia laget to enkle forsterkningslæringsbaserte prisalgoritmer og satte dem løs i et kontrollert miljø. De oppdaget at de to fullstendig autonome algoritmene lærte å reagere på hverandres oppførsel og raskt trakk prisen på varer over der de enten ville ha vært alene.

Det som er mest bekymringsfullt er at algoritmene ikke etterlater spor av samordnet handling, skrev forskerne. De lærer å samarbeide utelukkende ved prøving og feiling, uten forkunnskaper om miljøet de opererer i, uten å kommunisere med hverandre, og uten å bli spesifikt designet eller instruert til å samarbeide. Dette risikerer å drive opp prisen på varer og til slutt skade forbrukerne.



Dette dukket opprinnelig opp i vårt AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, registrer deg her gratis.