Ve válce dnes můžete být kýmkoli

Úvodní věta na vašem webu „Chytré telefony pozřely realitu“ naznačuje, že tu existovala nějaká skutečnost, která byla nedávno zničena. Není to spíš tak, že mobily vytvořily realitu novou nebo že změnily naše vnímání skutečnosti?

Já tím mám na mysli především jejich každodenní všudypřítomnost a persvazivnost. I v minulosti jsme na média a technologie spoléhali a využívali je k udržení vzpomínek, pro práci i vzdělávání. Ale s nástupem chytrých telefonů se tento vztah proměnil na závislost. Tuto změnu můžeme sledovat zhruba od počátku desátých let a v současnosti bez nich jako společnost v podstatě nemůžeme fungovat. Často se sice někde dočteme, že si lidé dávají digitální detox a odpojí se na týden, měsíc, nebo dokonce rok, ale vždy se zase vrátí. Už neexistuje žádná jiná realita mimo digitální svět, nemůžeme tomu uniknout. A v současnosti bych řekl, že se od závislosti posouváme až k určité obsesi, což souvisí s nástupem umělé inteligence, s rolí botů a chatbotů. Nechali jsme se zcela okouzlit technologií a myšlenkou, že umělá inteligence může vypadat, znít a cítit jako lidská bytost. Tato představa, že s ní můžeme konverzovat a jednat jako s člověkem, je velmi svůdná a v konečném důsledku návyková.

Odráží se tato změna i ve výzkumu paměti a v tom, jak pracujeme se svými vzpomínkami?

Jistě, s naší nedokonalou a chybující pamětí jsme odjakživa spoléhali na vnější zdroje a i v tomto případě jsme se posunuli k závislosti. Bez vnější pomoci se již de facto neobejdeme. V technologiích jsme vždy viděli možnost, jak dosáhnout toho, abychom mohli zaznamenat, uchovat a kontrolovat vše, co víme – abychom dosáhli totální paměti, jako tomu bylo třeba v jedné epizodě seriálu Black Mirror. Už v nultých letech se objevily slibné technologie, ale neuspěly. AI by nám to mohla umožnit. Právě představa o nahrávání veškerého možného obsahu, který bychom pak mohli nějakým způsobem kontrolovat, vracet se k němu a vyhledávat v něm, je obsažena v emotivních propagačních materiálech na nové služby a aplikace umělé inteligence.

Má první otázka směřovala mimo jiné k tomu, že v části společnosti, včetně politické reprezentace, převládá názor, že digitální média, technologie a sociální sítě jsou škodlivé a měly by se omezovat, nebo dokonce zakazovat.

Ano, to je velké téma i ve Spojeném království. Probíhala u nás kampaň vedená rodiči, aby děti do dvanácti nebo čtrnácti let nemohly používat smartphony. Řešilo se to také ve škole našich dětí. Moje manželka tomu byla velmi nakloněna a já do jisté míry také. Ale realita je mnohem složitější. Naše děti vidí mě, moji ženu i ostatní dospělé neustále přilepené k mobilům – jsme v digitálním světě chytrých telefonů utvářeném umělou inteligencí příliš zakořeněni na to, abychom mohli začít někoho omezovat nebo usměrňovat. Máme sice hodně regulací nebo pokusů o ně, například Nařízení o digitálních službách v Evropské unii z roku 2024, které se mimo jiné snaží omezit šíření škodlivých obrazů, vyobrazení násilí, pedofilie a podobně. To je určitě důležité a dobře míněné, ale vždy existuje nějaká platforma, která se regulačním schématům vzpírá, protože funguje na odlišných základech a hraje podle jiných pravidel, například aplikace Telegram, jež je moderována jinými způsoby než velké sociální sítě (nebo spíš je od počátku moderována jen velmi laxně).

Celá debata o zákazech a omezeních, tak jak se nyní vede, je částečně výsledkem selhání moderace a regulace a je tak trochu nesmysl­ná. Politici totiž mají tendenci nahlížet na sociál­­ní sítě stejně jako na tradiční audiovizuální média, jako na televizi a rozhlas, kde můžete zakázat nebo vypnout nějaký kanál třeba proto, že šíří obscénní obrazy. Ale to nejde udělat v digitálním světě, který je prostě příliš rozptýlený a propojený a digitální technologie už pronikly do našich životů do té míry, že se z nich nemůžeme vymanit a nedokážeme ani najít smysluplnou regulaci a moderaci, která by byla univerzálně po­­užitelná. To ale třeba Evropská unie nereflektuje. Autoři Nařízení o digitálních službách se věnují především největším platformám, ale už ne tolik třeba právě telegramu, který je obtížnější regulovat než facebook, google nebo twitter. Telegram tak nějak všechno pouští dovnitř a z něj se obsah šíří dál – násilí, hrůzy, války a všechny ty věci, kterých se politici a veřejnost právem obávají a nechtějí, aby byly dostupné na velkých sítích a v médiích. Ale to politici nechápou a hledají na špatném místě. Měli by se podívat, odkud ty věci pocházejí.

V Česku i dalších západních zemích rezonuje především debata o TikToku. Jeho kritici poukazují jak na bezpečnostní rizika, protože jde o čínský produkt, tak na jeho možný negativní vliv na psychiku dětí a mladistvých. Odborníci zabývající se digitálními technologiemi a sociálními sítěmi ale tento jednostranný pohled převážně kritizují s tím, že zakazovat dnešním dětem TikTok je jako zakazovat jim knihy…

Ano, je to do jisté míry generační problém, i když ne zcela, protože děti a mladí lidé pracují s realitou jinak a vnímají ji specifickým způsobem. Každopádně toto je přesně ten případ, kdy politici chtějí použít typ regulace médií z 20. století na sociální média. Jenže tradiční média produkovala obsah pro diváky, abychom se dívali, konzumovali, zatímco platformy 21. století nám poskytly nástroje, abychom produkovali vlastní obsah. Nyní jsme tvůrci my, technologické společnosti nám to usnadnily a umožnily nám vytvářet obsah takzvaně zadarmo. Ale ve skutečnosti se tak stáváme i součástí platforem a služeb, za které nakonec platíme. Částečně i díky hodnotě našich dat, která technologické firmy shromažďují. Jsou pro ně velmi cenná a samozřejmě je dál prodávají. Vyvstává s tím celá řada otázek týkajících se soukromí a osobních údajů, které nyní samozřejmě využívají i tvůrci umělé inteligence.

Ve své knize Radikální válka tvrdíte, že v digitální éře se změnily, či dokonce zmizely tradiční hranice mezi válečnými stranami a že se proměnily i způsoby, jakými jsou války legitimizovány, plánovány a bojovány. Mohl byste to přiblížit na konkrétních příkladech?

Mohu to ukázat třeba na zmíněném telegramu. Jedná se o hybrid chatovací aplika­ce a sociální sítě, která je už dlouho velmi populární v Rusku i na Ukrajině. Války se vždy akcelerují v médiích a po začátku konfliktu na Ukrajině se telegram stal zásadním bojištěm pro obě strany. Všichni se na něm začali výrazně aktivizovat. Novináři, civilisté, bloggeři, politici i vojáci – všichni začali prosazovat své zájmy, protože to bylo to hlavní místo, kde byla válka vybojovávána. Nastala nová forma psychologické války, v níž je dovoleno vše a které se může účastnit úplně každý. A to je ten zásadní bod: digitální participace ve válce. Participativní válka znamená, že v ní můžete být kýmkoli, můžete si sami vybrat roli, kterou budete hrát. Stírá hranice mezi rolemi přihlížejících, bojovníků, civilistů, neziskovek, humanitárních pracovníků, válečných zpravodajů a dalších subjektů.

Co se týče konkrétních případů využití digitálních technologií, tak například na začátku konfliktu byli Ukrajinci samozřejmě velmi znepokojeni a chtěli se zapojit a pomáhat. Telegram byl ideálním nástrojem – od zajištění rekrutování, finančních a materiálních darů či sponzoringu zbraní po všechny další možné způsoby, kterými se občanská společnost může zapojit do války. Chytré telefony se ale používají třeba i ke geolokaci ruských pozic nebo k pomoci lidem prchajícím před frontou, takže technologie jsou zásadně zakotveny v tom, co je současná válka a jak se vede, a jsou využívány i civilisty a oběťmi těchto konfliktů.

Mimochodem, mohli jsme také sledovat rozdíl mezi tím, jak telegram využívají Rusové a jak Ukrajinci: na Ukrajině bylo zapojení občanů mnohem rychlejší. V Rusku to trvalo téměř několik měsíců, než lidé začali telegram v takové míře používat, aby pomohli dosáhnout válečných úspěchů. Možná i proto, že Rusové pochopili, že se situace nevyvíjí tak dobře, jak se čekalo, a začali pociťovat potřebu také nějakým způsobem přispět.

Pro současné války je také typické, že i díky sociálním sítím máme k dispozici obrovské množství audiovizuálních materiálů, jež je dokumentují. Jak to podle vás ovlivní paměťovou politiku či vypořádávání se s válečnými zločiny?

Telegram a další platformy proměňují i naše představy o dosažení odpovědnosti a spravedlnosti, o stíhání válečných zločinů nebo porušování Ženevských konvencí. Jsou velmi důležitým prvkem současného válečnictví, protože jsou plné potenciálních důkazů. Mnoho nejrůznějších malých i velkých organizací, neziskovek, amatérů i profesionálů na nich, mimo jiné pomocí AI a dalších technologií, sbírá a archivuje data pro přípravu možných důkazních materiálů. O rusko­-ukrajinském konfliktu hovořím jako o nejlépe zdokumentované válce v historii, ale jsem dost skeptický ohledně toho, jak mezinárodní společenství využije tento ohromující archiv, protože ne­­existuje žádný systém, žádná koordinace tohoto shromažďování a archivace. Část materiálů bezpochyby zmizí. A kdo bude mít finanční a další zdroje a politickou vůli stíhat pachatele těchto válečných zločinů? A jak jsem řekl, Rusové i Ukrajinci využívají telegram k bezpočtu nejen válečných aktivit a i díky telegramu víme, že obě strany porušují Ženevské konvence, pokud jde například o zacházení s bojovníky a vězni. V čím zájmu to bude zkoumat v takovém obřím měřítku a na obou stranách? Je to paradoxní, že máme nejbohatší archiv materiálů, ale zatím ho nedokážeme využít. Tvrdím, že je sice dostupný, ale není přístupný. Lidská mysl, respektive společnost ho není schopna uchopit pro jeho obrovský rozsah a komplexnost. Nad jeho využitím se tak vznášejí otázky, které rozhodně není lehké zodpovědět.

Vše, co jste zmínil v souvislosti s rusko­-ukrajinským konfliktem, se během války v Gaze ještě vyostřilo a nabralo extrémnějších obrátek. Často se mluví o genocidě v přímém přenosu. Nedávno i mě osobně zasáhl tweet, jehož autorka napsala, že realita se proměnila v dystopii, protože už je nesnesitelné denně scrollovat a dívat se na děti hořící zaživa a vzápětí jít vařit oběd vlastním dětem.

Dystopie je pro to perfektní slovo. Ještě na začátku války na Ukrajině jsme na mainstrea­mových platformách mohli pozorovat jisté pokusy o cenzuru a moderaci obsahu. Všechno, co se dělo, jste sice mohli najít na telegramu, ale třeba twitter a další velké sítě ještě měly tendenci jisté obrazy přinejmenším potlačovat. S Gazou se vše změnilo, jsme vystaveni úplné tsunami obrazů lidského utrpení v dosud nevídané míře. To považuji za bezprecedentní. Vyvstává pak otázka, v čem je ten rozdíl oproti minulosti?

Před pár lety jsem napsal článek s názvem Soucit po digitální válce. Pojednává o tom, proč digitální obrazy nevedou k tomu, abychom se nějak zapojili či zasáhli. Paradoxem je, že čím více jsme vystaveni násilí a čím více důkazů máme, tím více to může vést k určité stagnaci a apatii, k naší neschopnosti reagovat. Je prokázáno, že když třeba neziskové organizace a charity chtějí získat příspěvky, tak nemá cenu snažit se lidi přesvědčit tím, že jim ukážete dvacet tisíc těžce trpících někde v uprchlickém táboře uprostřed Afriky, protože si řeknou: „Co s tím zmůže mých pár drobných? Ten problém je příliš veliký.“ Musíte jim ukázat jedno nebohé, nemocné dítě, které díky vašemu příspěvku dostane lékařskou péči, a budou mít hned pocit, že mohou být prospěšní. A to je náš současný problém – jak reagovat na takové množství zobrazovaného utrpení? Není to samozřejmě žádná novinka, už Susan Sontag poukazovala na to, že otupělost může být typickou reakcí na přemíru násilí; v devadesátých letech probíhaly debaty o „únavě ze soucitu“ a řešilo se to i předtím třeba v souvislosti s rozšířením televize. Ale dnes se pohybujeme na dramaticky odlišné úrovni a v jiném měřítku. Bojuji s tím, jak současnou situaci a absenci relevantní reakce popsat. Nemáme žádný klíč, jak s tím zahlcením obrazy násilí a utrpení naložit, aby to celé dávalo smysl.

Můžeme nicméně sledovat proměnu toho, jak s těmito obrazy zacházela tradiční média, v nichž novináři a editoři pracují s tím, že diváctvo nebude tyto obrazy tolerovat, takže je neukazují. Televizní stanice nevysílají šokující a děsivé obrazy každý den, protože by je diváci vypnuli. Ale na sociálních sítích toto neplatí, proto tam nemůžete moderovat a regulovat obsah tradičním způsobem, jak se o to dnes mnozí snaží. Musíme přijít s úplně novými mechanismy, dobrat se ke skutečné podstatě. Takže se znovu dostáváme na začátek ke snahám rodičů omezovat dětem přístup k telefonům. Je to součást stejného problému a určitě je třeba hledat řešení, i s ohledem na děti a mladistvé. Není překvapivé, že pro mnohé se zdá být jediným řešením zamezení přístupu, protože zatím nemáme jiný způsob, jak zmírnit potenciální škody a újmu, kterou mohou ti zranitelnější z nás utrpět, když jsou vystaveni takovému bezdůvodnému násilí a hrůze.

Ve vašem výzkumu mluvíte také o personalizaci války, kdy si i díky sociálním sítím „vybíráme vlastní válku a na základě toho si tvoříme si paměť“. Můžete něco říct k tomuto procesu?

Nejprve si uvědomme, že obrazy utrpení, násilí a civilních obětí válek dvacátého století se k nejširší veřejnosti nedostávaly hned, jak se odehrály. Vždy tam byla nějaká prodleva, v některých případech klidně i deset, dvacet let. Dnes se tak děje okamžitě a my si můžeme do jisté míry určovat, co z války uvidíme, co se objeví v našem digitálním feedu a co ne. V článku Roztříštěná válka popisuji fragmentaci a personalizaci válečných konfliktů: každý sledujeme úplně jinou válku, takže nemůžeme mluvit o nějakém sdíleném porozumění či sdílené zkušenosti. A to je jeden z důvodů, proč se různé skupiny nemohou domluvit. Tato polarizace se už netýká jen války, ale i politiky a dalších oblastí života, a tu se znovu dostáváme k vaší otázce o realitě – já poukazuji na roztříštěnost reality, na personalizované, individualizované světy. Takže se nám tu sice globálně šíří jakási masa obrazů, ale výsledkem je velmi individualizovaná, personalizovaná, roztříštěná konzumace válečných událostí.

Na závěr bych se vrátila k vašemu výzkumu paměti, který je velmi komplexní a interdisciplinární, ale přesto: dokázal byste vybrat jeden faktor či technologickou změnu, která momentálně nejvíce ovlivňuje to, jak pracujeme jako společnost s pamětí?

Asi bych upozornil na fakt, že umělá inteligence může zcela změnit naši minulost a to, jak ji vnímáme. Co bylo na paměti lidského? Naše prožívání – to, co a jak jsme uchovávali. A nyní se naše identita nebo minimálně její část proměňuje, protože ji prodáváme a replikujeme v neživých subjektech – strojích či mrtvých tělech nebo jak tomu chcete říkat. A to zcela proměňuje i lidskou paměť, protože najednou je tu potenciál jakéhosi života až za hrob. Máme možnost vytvořit sebe samé, další já, která mohou fungovat už nyní v žité přítomnosti, stejně jako po našem odchodu. Naše identita může být rozštěpena, pokud umožňujeme neživým subjektům a našim reprezentacím mluvit a jednat naším jménem. Vzniká pak velmi odlišný koncept paměti, pocitu sebe samých a identity. Mluvím tedy o konci lidské minulosti, protože nakonec nás „neživí“ přečíslí.

Vzpomínky vždy s odchodem lidí a celých generací mizely, ale nyní jsme konfrontováni s tím, že se tak nestane, protože můžeme vytvořit verze nás samých, které by mohly existovat věčně. A s tím jsou samozřejmě spojené nejrůznější etické problémy – tyto verze mohou být hacknuty, zmanipulovány, transformovány. Například v Japonsku řeší organizace sdružující lidi, kteří přežili atomové útoky, jak bude s jejich odkazem naloženo po jejich smrti, protože všichni už jsou velmi staří. A tyto organizace mají mimo jiné velký strach z generativní umělé inteligence, takže s ní zkoušely i experimentovat. Pomocí chatbotů a komplexních sad otázek se pokoušely vytvořit něco jako avatara přeživších. Ale i kdyby se jim podařilo vytvořit tu nejdokonalejší možnou verzi, tak i ta může být hacknuta a změněna. A jejich poselství, že je nutné zabránit jakémukoli dalšímu použití nukleárních zbraní, může být použito k naprosto opačnému účelu. Na jedné straně tak panuje ve společnosti velký strach z AI, protože se lidé obávají jejího zneužití, ale na druhou stranu se s ní masivně experimentuje, investuje se do jejího prudkého rozvoje, a to právě do technologií umožňujících duplikaci našich já a našich vzpomínek. Je to proces, který může být nebezpečný, ale už se rozjel a teď už půjde těžko zastavit, protože vše se děje velmi, velmi rychle.