Kniha: Cathy O’Neil – Zbraně matematické destrukce

Takový pohled nabízí kniha Weapons of Math Destruction (v češtině Zbraně matematické destrukce) od americké matematičky a datové analytičky Cathy O’Neil, která práci s daty zná nejen z univerzitní lavice, ale i z Wall Street a analytických center velkých korporací. Kniha byla poprvé vydána v roce 2016, získala Eulerovu knižní cenu a dlouhodobě vyvolává debatu o tom, jak algoritmy ovlivňují naše životy, společnost — a ano, i investiční rozhodování.

Pro investory jsou Zbraně matematické destrukce relevantní z jednoho zásadního důvodu: algoritmy a modely, na které spoléháme při hodnocení rizik, predikci trendů, scoringu firem i automatizovaném obchodování, nejsou neutrální nástroj, ale mohou vytvářet zkreslení, posilovat chyby a amplifikovat riziko, o kterém nevíme, že tam je. O’Neil nabízí nejen varování, ale i rámec, jak takové modely rozpoznat, pochopit jejich limity a proměnit je ze „zbraní“ v nástroje, které podporují informované rozhodování.

Hlavní myšlenky knihy

1. Problematické modely — černé skříňky bez odpovědnosti

O’Neil definuje zbraně matematické destrukce jako modely nebo algoritmy, které splňují tři základní charakteristiky: neprůhledné (opaque), rozsáhlé (scale) a škodlivé (damage).

●      Neprůhlednost: Rozhodnutí modelů jsou ukrytá v „černé skříňce“, kterou ani ti, kdo ji používají, plně nechápou.

●      Rozsah: Model se uplatňuje na miliony datových bodů a miliony lidí nebo transakcí.

●      Škodlivost: Výsledkem jsou systematicky poškozené skupiny, které model penalizuje.
 

To může znamenat, že model hodnocení rizik nebo predikční modely trhů mohou skrývat zkreslení, která vedou k chybné alokaci kapitálu, podcenění rizika nebo přehnanému důrazu na „signály“, které ve skutečnosti neznamenají to, co se o nich tvrdí. Například jakýkoliv model pro screenování firem podle ESG nebo scoringu růstu může být založen na proxy datech, jež se více podobají zástupné veličině než skutečné hodnotě, což generuje iluzorní výhody.

2. Algoritmy zesilují nerovnosti a chyby dat

Kniha ukazuje, že algoritmy nepůsobí v sociálním vakuu, ale reflektují a amplifikují historické nerovnosti dat. Použití dat historických výsledků jako vstupů do predikčních modelů může ve skutečnosti posílit chybná rozhodnutí.

Například modely prediktivního dohledu vedou policejní síly do chudších čtvrtí pouze proto, že tam historicky zaznamenaly vyšší kriminalitu, a tento cyklus škodí více než pomáhá, protože výsledná data jen potvrzují chybný předpoklad.

V investičním kontextu je to analogické tomu, když se kvantitativní modely učí z minulého vývoje trhů bez zohlednění změn jejich struktury. Například když se snaží predikovat výnosy firem na základě historických korelací, které neplatí v novém makroprostředí, a pak tato zjištění automaticky extrapolují do budoucnosti.

3. Modely používají nevhodné proxy proměnné

O’Neil upozorňuje, že modely často používají snadno měřitelné, ale nevhodné proxy proměnné místo skutečných charakteristik, které jsou relevantní.

Když vás čas stojí peníze

Příkladem může být algoritmus, který posuzuje kreditní riziko podle poštovního směrovacího čísla místo skutečné finanční situace klienta. V Česku bychom to mohli vidět třeba u některých scoringových modelů, které určují cenu pojištění na základě demografických charakteristik rezidentů spíše než individuálních dat, což vede k cenové diskriminaci určité skupiny klientů. Skutečný kreditní výkon zůstává nepovšimnut.

U investora to znamená: pokud model hodnotí firmu podle proxy proměnných, které nevypovídají o fundamentálních faktorech výnosu nebo rizika, výsledkem může být selekce firem, které jsou „dobře skórované“, ale ve skutečnosti nemají podkladovou kvalitu.