Kapitáni AI chtějí zatáhnout za brzdu. Proč právě teď?

Daniel Craig už protřepal poslední martini, jeho nástupce je ve výběru. Až se představí (aktuálním favoritem je podle sázkových kanceláří Jack Lowden známý ze seriálu Slow Horses), bude mimo jiné zajímavé sledovat, komu se postaví. Po éře politických protivníků by se totiž tvůrci mohli vrátit k ultrabohatým mogulům, snažícím se uchvátit svět. Takovým, které si současník dokáže bez významnějších problémů domodelovat třeba podle aktuálních šéfů firem stojících za nejsilnějšími modely umělé inteligence. 

Především Elon Musk (SpaceX) nebo Sam Altman (OpenAI) totiž v podstatě splňují – minimálně navenek skrze jejich veřejný obraz – somatotyp samolibých mužů, přesvědčených o své výjimečnosti, právu na dominanci a místě na výsluní. Přičemž stejní muži, doplněni o šéfa Anthropicu Daria Amodeie, nyní altruisticky vyzývají k tomu, aby v oblasti AI lidstvo přibrzdilo. V oblasti, kterou poslední měsíce definovala noha na plynu až na podlahu, právě od těchto mužů. Takže asi nepřekvapí, že je jejich náhlý zájem o dobro lidstva podroben kritickému zkoumání. Takže vzhledem k tomu, jak intenzivní pozornost na sebe šéfové největších AI firem strhávají, jejich náhlá změna směru vyvolala pozornost. A internet přímo vybuchl erupcí interpretací, dohadů a – v některých případech – až konspirací. Co tedy může za altruistickým zájmem o osud lidstva být?

Jednoznačným favoritem jsou peníze. OpenAI a Anthropic mají před IPO. Jejich akcie jsou nejočekávanějším kusem papíru v podzimní distribuci na Wall Street a tato očekávání mohou být až příliš vysoká. Respektive se proslýchá, že přes bilionové valuace jsou čísla obou firem spíše zklamáním. Respektive že lídři AI horečky jsou poněkud napřed technologicky a PRově oproti svým schopnostem přesvědčit zákazníky, aby za jejich produkt dostatečně platili. Anthropic, OpenAI nebo SpaceX se dostali do situace, kdy nabízejí Teslu lidem, kteří teprve objevují výhody Fordu Modelu T a zkoumají, k čemu by jej bylo možno vlastně využít. 

Kontrolované zastavení dalšího vývoje by pak dalo obchodním oddělením čas dohnat vývoj, prodat konečnému uživateli všechny dovednosti AI a především donést do firemních pokladen živé dolary potvrzující, že celý byznys model je životaschopný a finančně udržitelný.

Podobně argumentem nebo interpretací požadavku na regulaci vývoje AI může být snaha zabetonovat svoje pozice. Anthropic, OpenAI a – s určitým odstupem i – Grok od SpaceX jsou v tuto chvíli na čele pomyslného pelotonu. Jejich vedení je přes investované miliardy dolarů do značné míry nestabilní. Čínský DeepSeek už ukázal, že alternativní modely jsou možné a může být otázkou času, kdy se ukáže další. Umělá inteligence k tomu v tuto chvíli působí, co se týká rychlosti inovací, jako na steroidech a přešlap typu Kodaku (podcenění nástupu digitální fotografie) nebo Nokie (smartphony) se může přihodit v řádu měsíců. Pozastavení vývoje by pak lídrům dalo příležitost a hlavně čas se zkonsolidovat a zjistit, ve kterém směru mají kritické nedostatky.     

A třetí nejsilněji se ozývající se teorií je v tuto chvíli snaha o bezpečnost. I když, pravda, z trochu jiného úhlu než ten, po kterém lídři volají navenek. Pokud by se AI společnostem podařilo dostat všechny zainteresované, včetně americké vládní administrativy, za jeden stůl, mohli by minimálně v této fázi mluvit do vlastní regulace. Podíleli by se na nastavování pravidel, definovali by si vlastní metriky bezpečnosti, vybírali by si vlastní auditory. Nepřímo by získali další kousek moci, který by jim umožnil kontrolovat své vlastní kontrolory i brzdit svou vlastní konkurenci. A zároveň by tím do značné míry získali zpět kontrolu nad celým narativem okolo bezpečnosti AI, který v posledních měsících vedle laické veřejnosti zneklidňuje i trhy. Čímž se obloukem vracíme zpátky na začátek k penězům.

Nakonec bezpečnostní incidenty proběhly, výzva zazněla, PR zápůsobilo a všechno to podle všeho smetl ze stolu Donald Trump jako zastánce co nejdynamičtějšího rozvoje AI, který úkol ukočírovat umělou inteligenci přisoudil výjimečně inteligentnímu prezidentovi. Za kterého se samozřejmě považuje. Takže aktuální kolo snahy o regulaci umělé inteligence šumí v tuto chvíli do ztracena. Další pokus možná přijde až umělá inteligence způsobí reálný problém. Ať se to konspirujícím kandidátům na protivníky Jamese Bonda líbit bude nebo ne.