I 2019 bekymrede verden sig over, at algoritmer nu kender os bedre, end vi kender os selv. Intet begreb fanger dette bedre end overvågningskapitalisme, et udtryk opfundet af den amerikanske forfatter Shoshana Zuboff for at beskrive en dyster ny æra, hvor folk som Facebook og Google leverer populære tjenester, mens deres algoritmer efterlader vores digitale spor.

Overraskende nok strækker Zuboffs bekymring sig ikke til de algoritmer på de finansielle markeder, der har erstattet mange af menneskene på handelsgulve. Automatiseret algoritmisk handel tog fart omkring begyndelsen af ​​det 21. århundrede, først i USA, men snart også i Europa.

En vigtig drivkraft var højfrekvent handel, som kører med blændende hastigheder ned til milliardtedele af et sekund. Det gav investorer udsigt til en fordel i forhold til deres rivaler, samtidig med at det hjalp med at give likviditet til et marked ved at sikre, at der altid var nogen, der var villige til at købe og sælge til en bestemt pris. Højfrekvent handel står nu bag mere end halvdelen af ​​volumen på både aktie- og futuresmarkedet. På andre markeder, såsom udenlandsk valuta, har algoritmer en mindre, men stadig betydelig tilstedeværelse, uden tegn på, at de vil aftage i fremtiden.

Enhedernes laster

Mennesker programmerer stadig algoritmerne og designer deres handelsstrategier, selvom stigningen i dyb læring truer selv denne rolle. Men i det øjeblik algoritmerne går live på markederne, handler de på egen hånd uden menneskelig indgriben og danser med hinanden på svimlende og ofte uventede måder.

Ved første øjekast har de lidt til fælles med os. De kan ikke tænke eller føle, og på trods af hypen omkring maskinlæring, er det stadig omstridt og kompliceret at beskrive dem som intelligente. Ligesom menneskehandlere træffer de imidlertid beslutninger, observerer andre træffe beslutninger og tilpasser deres adfærd som reaktion.

Ved hastigheder, der er mange gange hurtigere, end mennesker sandsynligvis nogensinde vil mønstre, danner disse algoritmer nemt forventninger til hinandens forventninger, når de afgiver deres købs- og salgsordrer.

For eksempel kan en algoritme søge at manipulere en andens forventninger om prisbevægelser ved at sende et stort antal ordrer til enten at købe eller sælge et bestemt aktiv. Den første algoritme vil derefter hurtigt annullere sine ordrer, efter at have forhåbentlig narret sin rival til at foretage det forkerte væddemål om, hvilken vej markedet er på vej.

Interessant nok anser sociologer denne form for gensidig forventning for at være et centralt træk ved, hvad det betyder for mennesker at være social. De har længe set markeder som yderst sociale arenaer. I handelsetagens storhedstid stavede læsning af andre handlendes sociale signaler korrekt – en grimasse eller et grin, ængstelige toner, endda larm på handelsgulvet – ofte forskellen mellem rigdom og katastrofe.

Men hvis maskiner kan være sociale, hvor ens eller anderledes er det så, hvordan mennesker socialiserer egentlig? Der er selvfølgelig åbenlyse forskelle. Mens fortidens menneskehandlere ofte kendte hinanden godt og ofte hang sammen efter arbejde, handler algoritmer anonymt. Når de sender ordrer om at købe eller sælge aktiver, ved ingen andre handlende, om det kommer fra en mand eller en maskine.

Det er faktisk netop derfor, de er programmeret til at danne forventninger til hinanden. Ansigtssignaler er ikke længere tilgængelige, men der er udviklet hele strategier, der søger at finde ud af, om en række ordrer kan være blevet afgivet af en og samme algoritme - og derefter forsøge at forudsige, hvad dets næste træk kan være.

For at undgå sådanne forsøg er algoritmer ofte designet til ikke at blive genkendt som algoritmer af andre algoritmer. Som den skotske sociolog Donald MacKenzie har udtrykt det, kan de engagere sig i dissimulationsstrategier og/eller søge at give en særlig præsentation af deres "selv" offentligt. Disse er igen egenskaber, som sociologer længe har betragtet som nøgleaspekter af storbylivet.

Lavine!

Sammen med kolleger har jeg brugt de sidste mange år i store finansielle knudepunkter med at interviewe handlende, programmører, regulatorer, børsfunktionærer og andre finansprofessionelle om disse handelsalgoritmer. Dette har trukket nogle andre interessante ligheder frem mellem menneskelige og automatiserede handlende.

Programmører indrømmer gerne, at når først deres algoritmer begynder at interagere med andre, bliver de revet med og handler uforudsigeligt, som om de var i en pøbel. Sociologer siden slutningen af ​​det 19. århundrede har undersøgt, hvordan folk bliver fascineret af folkemængder og lader deres autonomi glide i "sociale laviner", men vi har hidtil stort set ignoreret det faktum, at finansielle maskiner gør noget lignende.

"Flash crashet" den 6. maj 2010 illustrerer bedst, hvad jeg mener her. På fire og et halvt minut satte den vanvittige interaktion af fuldautomatiske handelsalgoritmer de amerikanske markeder i et dyk og genererede omkring 1 billion USD (768 milliarder pund) i tab, indtil handelen hurtigt blev suspenderet.

De fleste af disse involverede handler blev senere annulleret som "klart fejlagtige". Bestemt ingen erhvervsdrivende eller programmør havde planlagt at skabe dette massive prisskift, men årtiers sociologisk forskning fortæller os, at denne form for adfærd forventes i store grupper. Vi er nødt til at forstå, hvordan vores finansielle algoritmer interagerer, før vores egne værktøjer bliver vores undergang.

Selvfølgelig er ikke alle former for social interaktion beundringsværdige eller gavnlige. Ligesom mennesker interagerer algoritmer med hinanden på måder, der spænder fra omsorgsfuld og fredelig til kold og voldelig:fra at levere likviditet og opretholde markedsstabilitet til at lave manipulerende ordrer og udløse vilde handelsaktiviteter.

At få styr på disse interaktioner er ikke kun nøglen til at forstå moderne handel og forsøge at forhindre fremtidige flash-nedbrud. Algoritmer taler med hinanden på flere og flere områder i dag. At forstå, hvordan de opfører sig som folkemængder, vil forhåbentlig kaste lys i områder, hvor de lige er begyndt at komme til deres ret – tænk for eksempel selvkørende trafiksystemer eller automatiseret krigsførelse. Det kan endda advare os om laviner, der ligger og venter.