Ve své nejnovější knize Nexus. Stručná historie informačních sítí od doby kamenné po AI (Nexus: A Brief History of Information Networks from the Stone Age to AI, 2024) si izraelský historik Yuval Harari položil otázku, jak skloubit rychlý rozmach umělé inteligence se zachováním otevřené společnosti a v určité míře i s přežitím lidstva samotného. Podařilo se mu vytvořit poutavý příběh, v němž jsou hlavním hrdinou informační sítě od pravěku až do naší současnosti, či dokonce vzdálenější budoucnosti. Umělá inteligence je novým hráčem, který do budování těchto sítí vstupuje – a je to hráč mocný a zároveň omylný. Dokáže být dobrým pomocníkem, ale patrně špatným pánem.

V leckom z nás nová technologie vzbuzuje obavy a ani ti, kteří jí rozumějí více než průměrný občan, tedy odborníci zabývající se umělou inteligencí, nezůstávají úplně v klidu. Více než třetina z téměř tří tisíc výzkumníků, kteří se v roce 2023 zúčastnili průzkumu, připustila existenci minimálně desetiprocentní pravděpodobnosti, že pokročilá umělá inteligence povede k vyhlazení lidstva.

Otevřená budoucnost

Na Harariho přístupu je již tradičně sympatický jeho pragmatismus. Všechny pravdy jsou provizorní. Věci lidské nejsou samy o sobě ani dobré, ani zlé. Záleží na tom, za jaký konec je uchopíme. Proto ani technologie neznamenají nějaký nevyhnutelný osud. Technologie je vždy příležitost. A je na lidstvu, jak se s ní popasuje. Budoucnost je otevřená. Vše je otázkou míry: byrokracie umí sloužit i utlačovat; pravda posiluje i destabilizuje; málo informací škodí stejně jako jejich přemíra.

Přesto v jeho knize existují důležité slepé skvrny. Autor je racionalista vycházející z osvícenského předpokladu primátu vědy mezi všemi ostatními formami lidského vědění. Jedině tak může obhájit svou základní tezi, že se nacházíme v bezprecedentním zlomu: historické procesy se začínají odehrávat v jisté a do budoucna patrně stále narůstající míře pod vlivem nelidské entity – umělé inteligence.

To je však možné prohlásit právě jen za předpokladu, že akceptujeme v sociální vědě běžné chápání bohů a náboženství jako čistě lidské myšlenkové konstrukce. I mezi námi je dnes nemálo těch, kteří se s takovým postojem neztotožní, a kreacionisté jsou mezi nimi pouhou špičkou ledovce. Po drtivou většinu lidských dějin by Harariho postoj nebyl srozumitelný, protože lidé nechápali náboženství jako intersubjektivní konstrukci lidských skupin. Bohové byli součástí žité reality, ovládali ji či alespoň významně ovlivňovali a leckdy ji přímo stvořili. K lidské existenci – oproti Harariho předpokladům – tedy naopak odnepaměti patří prožitek ovládání našich životů nelidskou inteligencí. V krystalicky čisté podobě jej můžeme nalézt třeba u Pavla z Tarsu, kde Římanům píše slavné rčení: „Ó hloubko bohatství, moudrosti a poznání Božího! Jak nevyzpytatelné jsou jeho soudy a nevystopovatelné jeho cesty!“

Lidé se naučili rozličné metody, jak se pokoušet tuto nelidskou inteligenci usměrňovat. V závislosti na místní praxi to mohla být třeba upřímná modlitba, rituální tanec či nějaká obětina. Z tohoto úhlu pohledu naše zápolení s algoritmy umělé inteligence vyznívá nakonec útěšněji. Metody ovládnutí algoritmů se jeví přece jen dosažitelnější a snadněji uskutečnitelné než přimění božstev, aby konala ku prospěchu lidstva.

Jsme jenom lidé

Harari vědě důvěřuje a má k tomu ty nejlepší důvody, které v knize dobře osvětluje. Uznává přitom, že věda vždy chybovala. Jenže oproti jiným formám lidského vědění přírodní i sociál­­ní vědy obsahují daleko dokonalejší autokorektivní mechanismy. Zatímco by například v praxi katolické církve odhalení omylu ve výkladu Bible či u komunistických stran chybné interpretace marxismu­-leninismu znamenalo jejich existenční ohrožení a destabilizaci společenského řádu, vědecká praxe naopak odhalení omylu odměňuje.

Jistě, ideologického biasu není ušetřena žádná oblast lidského vědění. Jsme jenom lidé, entity s mnoha chybami. Přesto je ten, kdo odmítá vědecké poznání jako výhradní záležitost mocenské dominance a ideologické manipulace, stěží schopen nabídnout alternativu, která by ve srovnatelné míře obsahovala potřebnou míru autokorektivních mechanismů a dokázala fungovat intersubjektivně mezi civilizacemi napříč světem.

Z obdobných příčin je Harari také obhájcem liberální demokracie. I ona má spoustu chyb. Avšak oproti alternativním politickým režimům je schopna zahrnout daleko více autokorektivních mechanismů, od systému brzd a protiváh v dělbě moci přes svobodu slova a shromažďování až po ochranu menšin ve jménu rovnosti. Diktatury jsou zásadně akceschopnější, umějí reagovat rychleji, a to v mnohých z nás vyvolává dojem, že parlament je jen bezcennou žvanírnou. Diktatury jsou však omylné jako jakákoli jiná politická zřízení: a když se zmýlil Stalin, chyběl jakýkoli nástroj sebekorekce.

S geniální lapidárností to již na přelomu 18. a 19. století formuloval americký konstitucionalista James Madison: lidé jsou omylní, a proto potřebují vládu; a protože vláda je také omylná, potřebuje mechanismy, které odhalí a napraví její chyby. Proto se také metody autoritářů obvykle navzájem podobají: zpochybní hlavní autokorekční nástroje, kterými jsou dnes především – avšak nikoli výhradně – soudy a média, a poté je podřídí své kontrole. „Klesne­-li důvěra v byrokratické instituce typu volebních komisí, soudů a novin obzvláště nízko, je jedinou cestou k zachování řádu prohloubení víry v mytologii,“ dodává Harari. A tou v dnešní době bývá vůle lidu. A pravou vůli lidu – té beztvaré abstraktní masy, která neexistuje – autoritář dobře zná. Vždyť tuto vůli sám píše, sám je jejím výhradním mluvčím i bezchybným vykladačem.

Slepá skvrna?

Na základě Harariho argumentace se může zdát, že pro zachování liberální demokracie máme i v 21. století dostatek důvodů, jakkoli volební výsledky mnoha vyspělých zemí včetně České republiky nevypadají, že by o tom byli voliči nezlomně přesvědčeni. A právě v této souvislosti vystupují Harariho slepé skvrny na povrch nejvýrazněji. Demokracie pro své fungování potřebuje možnost diskuse mezi příslušníky politického společenství, kteří se navzájem uznávají jako rovní a racio­nální. Stále častěji se však ocitáme v situacích, kdy účastníci potenciální diskuse nejsou schopni se shodnout ani na základních faktech – od banálních zápletek, jako byly americké volby v roce 2020, až po komplexní otázky, jako je klimatická změna.

Garantem faktů jsou rozličné instituce, od technického dozoru nad výtahy až po vládní agentury a vědecké ústavy. Pokud udržíme autokorekční mechanismy a zavedeme další, které budou regulovat umělou inteligenci tak, aby více pomáhala, než ubližovala, máme nemalou naději zachovat i otevřenou svobodnou společnost. Stále závažnějším problémem v dnešních demokraciích se ovšem stává zpochybňování autority takových institucí. „Demokracie umírají nejen tehdy, když se lidé nemohou svobodně vyjadřovat, ale také tehdy, když nejsou ochotni nebo schopni naslouchat,“ píše Harari v této souvislosti na jiném místě. Dobře totiž ví, že vůle k naslouchání dnes jistě nenarůstá, spíše naopak. A také ví, že k tomuto budování názorových bublin jistě přispívají stávající algoritmy počítačových sítí.

Možná, že to vlastně slepá skvrna není, když si je jí Harari vědom. Jen pro ni nemá žádné řešení. S takovým řešením ovšem celá jeho diagnóza zachování otevřené společnosti v době umělé inteligence stojí a padá.

Autor je historik.