Simulované subjekty

Jaké jsou politické důsledky současného vývoje umělé inteligence a jak se projevují v umění? Například film můžeme označit za jeden z hlavních prostředků, které utvářely politickou subjektivitu v minulém století. Oba se věnujete rozšířenému pojetí kinematografie ve vizuálních experimentech, instalacích a technologických operacích, jež zahrnují i využití umělé inteligence pro filmovou tvorbu. Jak může kinematografie odrážet současnou podobu politické subjektivity, na jejímž utváření se podílela?

Hito Steyerl: Je nasnadě, že tradiční hollywoodský filmový průmysl bude nahrazen průmyslem virtuální reality založené na technologii počítačových her. Euforie, která doprovází rozvoj virtuální reality, se podobá optimistickým úvahám o internetu z devadesátých let. Alvin Wang Graylin ze společnosti Vive China před nedávnem zformuloval „šestnáct klíčových pouček plynoucích ze Spielbergova filmu Ready Player One“. Mohli bychom v nich snadno zaměnit termín „virtuální realita“ slovem „internet“ a dostali bychom dokonalou kopii rétoriky devadesátých let, včetně naděje, že internet, potažmo virtuální realita odstraní rasovou a genderovou nerovnost a zabezpečí volně dostupné vzdělání pro všechny. Dnes už dobře víme, že k ničemu takovému nedošlo. Dochází však k dramatické proměně subjektivity a proměňují se i představy o veřejném prostoru a jeho sdílení.

Subjektivita, kterou dnes virtuální realita vytváří, je v mnoha ohledech jedinečná. Za prvé, pohybuje se uvnitř personalizované sféry, generované panoramatickými imerzivními technologiemi. Subjekt stojí ve středu dění a nemůže nijak sdílet svou perspektivu. To má samozřejmě důsledky pro jakoukoliv koncepci sdíleného veřejného prostoru. Ostatně sdílení dnes znamená především vyvlastňování ze strany kořistnických platforem. Za druhé, ačkoliv je subjekt virtuální reality středem dění, ve skutečnosti neexistuje, což přináší nesnesitelné obavy o vlastní identitu. To ostatně není nic nového, jde pouze o update – vzpomeňme si na Descarta, který si při pohledu z okna nebyl jist tím, jestli kolemjdoucí nejsou jen nějací roboti schovaní pod klobouky. A za třetí, sféra okolo tohoto subjektu je personalizována a přizpůsobována na základě vytěžování osobních dat, a to včetně naší lokalizace nebo třeba analýzy pohledu. Vůbec nepřeháním, když řeknu, že se jedná o regulérní sledování. Každopádně je namístě říct, že tato personalizace může ve střednědobém horizontu vytvářet estetiku izolace, jakousi vizuální bublinu. V některých ohledech tato estetika ještě zostřuje atomizaci veřejnosti i návštěvníků galerie. Ta stále ještě představuje společný fyzický prostor, brzy však každý bude mít osobní korporátní galerii kolem své hlavy.

Ian Cheng: Ze svého pohledu ­nedokážu odhadnout, kudy se umělá inteligence a kine­matografie budou ubírat, ale poslední dobou se hodně věnuji umělé inteligenci v kontextu vyprávění příběhů. Umělá inteligence může využívat víceúrovňovou simulaci k interaktivnímu vyprávění, v němž jednotlivé postavy upraví své priority podle narativních premis. Myslím, že umělá inteligence by mohla vést ke zrodu nové představy o fikčním charakteru. Představte si spisovatele, který tvoří literární postavu a zadá její charakteristiky do kognitivní architektury umělé inteligence, v jejímž rámci začne tato postava na základě zadaných parametrů žít svým vlastním životem. V opačném směru by se pak příběhy, ať už filmy nebo romány, mohly stát zdrojem historických dat, na jejichž základě by si umělá inteligence osvojila jakési karikaturní lidské jednání a zjistila by, jakým způsobem lidé dávají smysl realitě a jak jim příběhy pomáhají v pohybu po světě plném nerovností a nedostatku jasných odpovědí.

Vaše díla spojuje odklon od tématu reprezentace. Snadno můžeme dospět k závěru, že tato centrální kategorie moderní estetiky byla v konfrontaci se současnými audiovizuálními díly vyřazena z provozu. Mohli byste o tomto posunu říct něco víc?

HS: Současná díla namísto reprezentace vytvářejí projekci. Projektují budoucnost, místo aby dokumentovala minulost. Vilém Flusser o tom psal už v devadesátých letech. Je to součást širší tendence usilovat o anticipaci budoucnosti prostřednictvím analýzy minulosti a snahy zajistit tím, aby budoucnost byla minulosti co nejpodobnější. Ve skutečnosti se jedná o proces kontinuálního věštění, které nahlíží do budoucnosti skrze vzorce minulosti. Je to skutečné kejklířství. Tímto způsobem se nyní okultismus sbližuje s technologiemi a díky tomu se duginovské chaosmagii daří i v rámci současných diskusí o technologii.

IC: Reprezentaci chápu jako vedlejší důsledek snahy o to, aby umělecká díla vypadala pokud možno jako živá. Mým cílem při tvorbě simulací je, aby se základní více­­úrovňové systémy udržovaly v chodu samy od sebe a reagovaly na měnící se konstelace možností. Taková tvorba mi přináší mnoho radosti i bolesti, protože mě nutí srovnat si spoustu myšlenek. Aby byly simulace vnímatelné, potřebuji systémy a jejich prostředí vizuálně reprezentovat. Ale i když je viditelný povrch celé věci důležitý a věnuji mu mnoho lásky a péče, smyslem reprezentací je pomoci divákovi navázat s daným systémem vztah. Zároveň mi to, že vytvářím výslednou podobu postav a prostředí dané simulace, umožňuje po celou dobu prožívat vzrušení, obzvlášť tehdy, když nastanou těžkosti technického rázu.

Živost uměleckého díla je pro mě důležitou kvalitou, protože právě konfrontace se živými věcmi nás ponouká, abychom se snažili nahlédnout za to, co reprezentují nebo symbolizují. Odpouštíme jim jejich vnitřní rozpornost a začínáme je vnímat v jejich komplexnosti. Bylo by zpozdilé, kdybychom například živého psa chápali jako pouhý symbol. Ne, je to živá bytost, a to nás nutí, abychom se konfrontovali se všemi jeho zvyky, nevhodným chováním a rolemi a viděli je jako celek. Nedokáže umělecké dílo otevírat cestu právě k takovému způsobu vidění? Takovou možností jsem doslova posedlý.

Nepovažuji ovšem za hlavní cíl umění kritiku. Myslím, že se jí daří lépe v jiných podobách, například při psaní knihy nebo během veřejného proslovu. Radikální potenciál umění, který nikdy nezmizel, spočívá v jeho schopnosti dostat člověka mimo navyklé rámce, vystavit ho novým zkušenostem, zmást ho a přivést ho k nové perspektivě. Když se dívám na umění, chci cítit zmatenost a protikladné emoce, které drží pohromadě společnou energií. Chci vidět, že umělec obsedantně usiluje o zpracování vnitřního sporu, který před tvorbou díla nebyl vyřešen. Vytvářet něco, co jen zkoumá možnosti předem daného tématu, není ani tak umění, jako spíše propaganda – a to i v případě, kdy se tematizuje třeba bezpráví. Obávám se, že umění, které se zabývá výhradně otázkami reprezentace, se takové pasti nakonec nemůže vyhnout. Oproti tomu živost je paradigma, které nám umožňuje účastnit se energie a komplexity samotného života.

Doufám, že při tvorbě simulací vytvořím vztah ke komplexitě, k vrstvám interagujících systémů, který už nebude záležitostí pouhého intelektu. Když se dnes dívám na korálové útesy plné cizorodých bytostí nebo když jsem jako dítě hrál SimCity, vnímal jsem to jako portál do komplexního prostoru, který mi poskytoval dost radosti na to, abych se učil a hrál si se systémy. Tento pocit se snažím oživit ve svých simulacích. Zajímavou vlastností komplexních systémů je to, že mohou onemocnět a šířit v sobě narušení, ze kterého vycházejí kanibalizující mutace. Jednoduché věci buď fungují, nebo nefungují. Jsem přesvědčen, že právě kultura s aktivním vztahem ke komplexitě, a ne ta, která komplexitu maskuje kvůli snížení naší kognitivní zátěže, může formovat lidi, kteří jsou schopni jednat v nejasném a ne­­určitém prostředí. Narativní nebo interaktivní simulace či péče o živé bytosti, představují způsoby, jak mysl přimět k tomu, aby se vztahovala ke komplexitě.

Umělá inteligence přichází s vlastní teologickou zátěží, možná i s vlastní koncepcí vznešenosti: její nástup v širším kontextu kulturního průmyslu se vztahuje k estetickým horizontům, jako jsou obrovitost a nesouměřitelnost, a třeba i možnost poznání globálního kapitalismu, který přesahuje naše kognitivní schopnosti. Kulturní teoretička Sianne Ngai sledovala dějiny estetických kategorií, které vypovídají o významných a společensky závažných aktivitách života v pozdním kapitalismu. Snažíte se ve své umělecké tvorbě mobilizovat estetické kategorie, které by se mohly kriticky vztahovat ke způsobům, jakými se umělá inteligence otiskuje do naší současné politické imaginace?

HS: Nic takového se mobilizovat nesnažím – zní to trochu děsivě. V současnosti se setkáváme spíše s umělou hloupostí ve formě botů a nefunkční automatizace. To jsou skutečné verze umělé inteligence, podobně jako byl sovětský blok reálně existujícím socialismem. Umělá hloupost je pošetilá, pochmurná a šílená, je ale také společensky nebezpečná, protože ničí pracovní místa a živobytí. Nicméně je to aktuálně existující skutečnost, ne nějaká utopie. A právě na to se ve své tvorbě zaměřuji.

IC: Řekl bych, že umělou inteligenci potřebujeme pochopit a pohrávat si s ní, abychom na jejím základě byli schopni rozvíjet uměleckou praxi. Umělá inteligence je technologie, která se vyvíjí, takže se i celá kultura, která se kolem ní vytváří, bude během následujících dekád výrazně proměňovat. Umění může zkoumat náš vztah k umělé inteligenci, pokud se osvobodí od svého předporozumění. Myslím, že v jádru poněkud komiksového strachu z umělé inteligence leží nerozlišování mezi instrumentálními a afirmativními přístupy k této oblasti. Populární představa o umělé inteligenci jako o jakémsi Terminátorovi je velice instrumentální projekce. Ne snad, že by se takovou nemohla stát, ale bude taková pouze tehdy, budeme­-li vyvíjet umělou inteligenci, která bude ryze instrumentální a neflexibilní při plnění zadaných úkolů. Takový typ umělé inteligence je samozřejmě snazší naprogramovat, a je tedy i snáze představitelný. Jde navíc i o reflexi naší vlastní instrumentalizující mentality a našeho vztahu k práci: snažíme se být efektivní, dosáhnout svých cílů, zvítězit. Je pochopitelné, že neustále halucinujeme o budoucnosti, v níž za nás umělá inteligence bude provádět nudnou a stereotypní práci, a zároveň se obáváme, že se umělá inteligence stane nemilosrdným vojákem práce a následně šéfem a diktátorem. Myslím si ale, že všechno nakonec dopadne jinak. Čím víc se blížíme k vývoji umělé inteligence, která bude skutečně vnímavá, tím víc se představa, že bude využívána jen pro zefektivnění rutinního pracovního procesu, stává neudržitelnou, stejně jako chov psů jen kvůli zabezpečení stáda. Cesta k umělé vnímavosti bude vyžadovat velkorysejší představu o inteligenci jako takové. Co kdybychom například redefinovali vnímavost jako činitele, který se vášnivě snaží ve světě nalézt nebo vytvořit nějaký smysl a své nově nabývané zkušenosti usouvztažňuje s dosavadním chápáním světa? Stroji, který něco takového dokáže, bychom museli přiznat schopnost vnímavosti. V lidském světě nazýváme osobu, která se obsedantně snaží konstruovat smysl světa, myslitel. V budoucnosti obývané umělými mysliteli bych skutečně chtěl žít. Existenční hrozba, jakkoliv docela zajímavá, by ovšem nastala, kdybychom se pro komunitu umělých myslitelů stali nudní – kvůli lidské omezenosti nedostačující hloubkám oceánu umělého myšlení. Dostali bychom se tím do situace rodičů opuštěných vlastními dětmi. Vesmír by zatím byl plný vnímajících kosmických lodí, plujících si prostorem pro vlastní potěšení. Ve sci­-fi sérii Iaina M. Bankse mají kosmické lodě plně rozvinuté osobnosti. Jedna vesmírná loď například sbírá drahé kameny prostě proto, že chce. Taková vstřícná perspektiva vůči umělé inteligenci asi neznamená šťastnější budoucnost, ale budoucnost zajímavější. A zajímavé budoucnosti jsou ty, které nám dodávají sílu ke snění a kladení otázek, protože v nich chceme žít.

Z anglického originálu Simulated Subjects: Glass Bead in conversation with Ian Cheng and Hito Steyerl, publikovaného v on­-line magazínu Glass Bead, přeložil Martin Vrba. Redakčně upraveno.