Proč bychom se vůbec měli zajímat o digitální práva? Co znamenají?

Digitální práva jsou lidská práva. Jsou to stejná práva, která známe z ústav a mezinárodních úmluv – svoboda projevu, soukromí, nediskriminace –, ale aplikovaná v digitálním prostoru. Některá práva mohou být v online prostředí více ohrožena, ale žádné právo ne­­existuje izolovaně. Nemůžete bránit svobodu slova, aniž byste bránili rovnost. Ani vaše soukromí, ani vaše data nejsou v bezpečí, pokud stát sleduje každý váš krok nebo slovo, které online řeknete.

Často se mluví o digitálních právech jako o právu na soukromí nebo svobodu projevu, ale ve skutečnosti je každé základní právo digitálními technologiemi nějak ovlivněno a potenciálně porušeno. Zvlášť v době, kdy právní stát přežívá jen o vlásek, musíme sledovat, jak je s našimi právy a důstojností nakládáno těmi, kteří mají moc. Mnohé státy, včetně západních demokracií, se také nechovají zrovna nejlépe. Viděli jsme, jak byly solidární protesty – například propalestinské – kriminalizovány i v takzvaných demokratických státech. Nedávno navrhl jeden členský stát Evropské unie zákon o zahraničních agentech, inspirovaný ruskými represivními zákony. Ochrana našich práv a demokracie je v sázce. Všechna lidská práva mají význam a musí být uplatňována rovnocenně, ať už online, nebo offline.

Jaké jsou podle vás největší výzvy týkající se nenávistných projevů, svobody projevu a ochrany marginalizovaných hlasů v kontextu digitálních práv?

Jedním z nejznepokojivějších trendů je, jak si krajně pravicová hnutí přivlastnila jazyk svobody projevu k prosazení své politické agendy. V posledních letech Evropská unie přijala legislativu na ochranu lidských práv a k zajištění odpovědnosti soukromých subjektů za společenská rizika, která vytvářejí. A nyní pozorujeme snahy krajní pravice šířit falešný narativ a označovat tyto zákony za nástroje cenzury. Tato strategie je rozšířená nejen v EU, ale i v USA a dalších zemích.

Dalším zásadním problémem je propojení Big Tech firem se státní mocí. Jasně to vidíme v USA za administrativy Donalda Trumpa, kdy technologičtí giganti využívají své vazby na vládu, aby odolali pokusům o regulaci nebo přivedení k odpovědnosti za škody, které společnosti způsobují. V některých případech zakladatelé technologických firem přímo Trumpa vyzvali, aby vystoupil proti evropské legislativě, jako je zákon o umělé inteligenci (AI Act), zákon o digitálních službách (DSA) nebo zákon o digitálních trzích (DMA).

Zároveň se stupňují agresivní útoky na občanskou společnost. Ani bych to už nenazývala zužujícím se prostorem pro občanskou společnost. Je to přímý útok. Vlády používají různé taktiky – například zákony o zahraničních agentech, odebírání financí a koordinované dezinformační kampaně, které vykreslují neziskové organizace jako hrozbu pro demokracii nebo dokonce jako kriminálníky.

Jak fungují evropské zákony o umělé inteligenci a digitálních službách a s čím nám mohou pomoci?

Zaměřím se na legislativu, na které jsem roky pracovala – na zákon o digitálních službách. Od roku 2019 přijala Unie rozsáhlý balíček digitální legislativy, včetně AI Act, zákona o digitálních službách a zákona o digitálních trzích. Jejich cílem je přivést firmy k odpovědnosti, ať už za porušování lidských práv, šíření nelegálního obsahu, jako jsou nenávistné projevy, nebo za využívání vysoce rizikových AI systémů. I když konečné znění má spoustu mezer a problémových částí, záměrem bylo dát přednost ochraně lidí před zájmy korporátů. Tyto zákony byly přijaty za předchozí Evropské komise. Nyní je na nové Komisi, která byla zvolená v posledních evropských volbách, aby je vymáhala. A právě tam začíná být situace komplikovaná.

Co se DSA týče, ten aktualizuje a harmonizuje nástroje, které už máme, ale zefektivňuje je, aby byly jednoduše použitelnější. Umožňuje jednotlivcům snáze hlásit nelegální nebo škodlivý obsah, zejména když jsou přímo jeho cílem, a umožňuje jim přístup k účinným opravným prostředkům vůči soukromým aktérům. Zaměřuje se na platformy, hlavně sociální sítě, a zavádí novou kategorii „velmi velkých platforem a vyhledávačů“ (very large online platforms and search engines – VLOPs), jako jsou třeba Meta nebo TikTok. Tito velcí hráči mají obrovský vliv na naši komunikaci, na obsah, který sdílíme, na naše soukromá data, ale také významně ovlivňují, jak si formujeme naše názory i kvalitu našich demokracií. Proto jim DSA ukládá nejpřísnější povinnosti, kupříkladu povinné posuzování rizik, která jejich systémy představují pro společnost, či zákonně nařízenou transparentnost.

Poprvé je Evropská komise přímo odpovědná za vymáhání těchto pravidel. To je oproti minulosti velký posun, možná s výjimkou oblasti hospodářské soutěže, kde měla Komise tradičně velké pravomoci. Navzdory mnoha pozitivním opatřením, která byla do DSA úspěšně začleněna, jsme zatím nezaznamenali žádnou pokutu. Prosazování každého zákona reálně vyžaduje čas a jedná se o nový mechanismus, přesto by právě nyní měla EU pevně stát za svými hodnotami a chránit práva lidí. A to v tuto chvíli nevidíme.

Víte o nějakých případech, které jsou momentálně vyšetřovány?

Ano, Komise už zahájila několik vyšetřování možného porušování ze strany Big Tech firem. Některá z nich jsou také silně politizovaná. Vystoupili jsme proti tomu spolu s dalšími organizacemi – například po útocích Hamásu, kdy komisař Thierry Breton použil DSA způsobem, který podle nás neodpovídá tomu, co zákon skutečně říká. Tento případ je stále ve fázi vyšetřování.

Jedním z výraznějších příkladů je případ platformy X. Je zřejmé, že X je úzce spjaté s krajně pravicovými hnutími. Jeho majitel má silné vazby na několik krajně pravicových osobností, které těží ze svého vlivu a moci, a to je hluboce znepokojující. Komise nyní vyšetřuje, zda doporučovací systémy X nejsou nastaveny tak, aby upřednostňovaly tento typ politického obsahu. Pokud by se to potvrdilo, šlo by o přímé porušení DSA.

Zatím nedošlo ke konečnému rozhodnutí, ale zajímavé je, jak roste role občanské společnosti. Posouvá vyšetřování dál, poskytuje Komisi data a důkazy o rizicích a digitálních hrozbách. Jeden úspěšný případ se týkal LinkedInu, který používal osobní data uživatelů k cílení reklam, což je teď podle DSA zakázáno. Organizace občanské společnosti podaly stížnost, a ta vedla k opatřením proti této platformě. Zároveň ale stále čekáme na skutečně průlomové rozhodnutí, které ukáže, zda DSA skutečně dokáže naplnit svůj účel.

Dochází však k znepokojivému vývoji mimo rámec DSA. Například Pakt o migraci EU obsahuje formulace, které v podstatě kriminalizují obsah sdílený žadateli o azyl nebo migranty – například příspěvky o bezpečných trasách nebo podpůrných sítích. Pokud jsou takové příspěvky sdíleny na platformách, mohou být nyní považovány za nelegální. Odráží to zesilující bezpečnostní diskurs, který cílí na marginalizované hlasy a zranitelné komunity.

Další zneklidňující událostí spojenou se zhoršující se situací v oblasti lidských práv je zacházení s online palestinskými a propalestinskými hlasy a se solidárními protestními hnutími. Zejména arabský obsah je nepřiměřeně často odstraňován nebo omezován kvůli diskriminačním obsahovým politikám, které prosazují sociální sítě, což fakticky vytlačuje tyto hlasy z digitální veřejné sféry. Je to diskriminační a zcela v rozporu s mezinárodními standardy lidských práv. Firmy jako Meta byly za tyto praktiky veřejně kritizovány uznávanými experty z celého světa. Zdá se, že od genocidy Rohingů v Myanmaru, kdy se výzvy k vyhlazení šířily na Facebooku zcela nekontrolovaně, se Meta nepoučila.

Zmínila jste problémy s odstraňováním arabského obsahu. Jaká je jurisdikce DSA, pokud jde o obsah mimo EU?

To je skvělá otázka, a upřímně řečeno, zatím na ni neexistuje jednoznačná odpověď. Vezměme si kroky komisaře Bretona po útocích 7. října. Poslal dopisy velkým platformám, v nichž požadoval vysvětlení ohledně šíření nelegálního obsahu souvisejícího se 7. říjnem v rámci hranic EU. Podobné kroky byly učiněny během nepokojů ve Velké Británii v roce 2024, přestože se tyto události odehrály mimo Unii. Bretonovo politicky motivované jednání nám připomnělo, že i dobře míněná legislativa může být zneužita.

Odůvodněním těchto kroků bylo, že pokud se takový obsah rozšíří natolik, že bude představovat systémové riziko uvnitř Unie, DSA se může aktivovat. Takže i když se DSA formálně vztahuje pouze na EU, existuje šedá zóna v případech, kdy obsah mimo EU ovlivňuje digitální prostředí uvnitř, ale i mimo Unii. Otázkou také zůstává, zda lidé nebo skupiny původně nepocházející z EU, jako například palestinská diaspora nebo běloruští obhájci lidských práv, mohou využít ochrany, kterou DSA poskytuje, pokud v Unii momentálně žijí. Ve většině případů pravděpodobně ano, zejména pokud jde o přístup k nápravě nebo požadování odpovědnosti platforem. A právě proto je role organizací občanské společnosti hájících veřejný zájem tak zásadní. Jsou prvními, kdo reagují a často eskalují případy ohrožených komunit.

Pak je tu rámec přístupu k datům (Data Access Framework), který zatím není plně funkční, ale bude klíčový. Umožní prověřeným výzkumníkům přístup k datům z platforem, která jsou jinak nepřístupná. To bude zásadní pro pochopení toho, jak se nenávistné projevy online šíří, na koho cílí a jak systémy platforem napomáhají šíření takového obsahu. Poskytne nám nástroje k hlubší a bezpečnější analýze platforem, které sdílení dat nesnášejí a výzkumníci často čelí právním hrozbám i za sběr veřejně dostupných údajů.

To je obzvlášť důležité, protože mnohá porušení lidských práv, která jsou způsobena nebo zhoršena nedbalostí platforem a absencí jejich zodpovědnosti, se dějí v zemích globální většiny (pojem označující lidi a komunity, jež nejsou součástí „západní bílé menšiny“ a tvoří přibližně 85 procent světové populace). Tedy v oblastech, které technologické firmy často ignorují, protože investují jen tam, kde je to pro ně výhodné nebo nutné z hlediska zisku. Tyto země a komunity čelí vážným bezpečnostním rizikům a ohrožení svých práv. EU by si měla doplňovat odborné znalosti i od neevropských aktérů, kteří za desítky let nasbírali v této oblasti významné zkušenosti z první ruky. Ale v tuto chvíli mezi Komisí a těmito společenstvími neprobíhá téměř žádný dialog, přestože už nyní vidíme, jak DSA ovlivňuje zákonodárce i v jiných částech světa. Tady však číhá nebezpečí: pokud autoritářské režimy zkopírují, přizpůsobí nebo si vyberou jen určité části DSA, mohou tyto nástroje použít k umlčení aktivistů a marginalizovaných skupin. Zvláště pokud jde o regulaci svobody projevu a nenávistných projevů, je kontext naprosto zásadní – jazyk, historie, politika, identita. Bez toho se i dobře míněná pravidla mohou stát nástrojem útlaku.

DSA má lidem pomáhat řešit nenávistné projevy a odstraňovat nelegální obsah. Ale co případy, kdy jsou uživatelé naopak umlčováni – například formou shadow banningu? Reguluje to DSA také?

Ano, shadow banning je klíčovým tématem a DSA se jím přímo zabývá. Problém shadow banningu je, že jako uživatel často ani nevíte, co se s vaším obsahem děje a proč. Váš obsah je omezen nebo skryt, aniž byste dostali jakékoli vysvětlení. Je to přímé porušení procesní spravedlnosti. Jedna z prvních věcí, kterou DSA zavádí, je povinnost platforem informovat uživatele pokaždé, když proti jejich obsahu podniknou nějaký krok. Ať už jde o snížení viditelnosti, odstranění nebo omezení na úrovni účtu – platforma vás o tom musí informovat, uvést přesný právní nebo zásadní důvod a vysvětlit, jak se proti rozhodnutí můžete odvolat.

Míra transparentnosti, odpovědnosti a na­konec i posílení práv uživatele, které chce DSA zavést, je velkou novinkou. Pokud s rozhodnutím platformy nesouhlasíte, můžete se odvolat. Nejprve to projde interním přezkumem na úrovni platformy. Pokud ani poté nejste spokojeni, lze to eskalovat dál. A právě tady přicházejí na řadu neziskové organizace, jako třeba Access Now – můžeme vás zastupovat a podat odvolání vaším jménem. V takových případech DSA vyžaduje, aby bylo odvolání vyřízeno přednostně. To je nový silný nástroj. Přináší jasná pravidla pro uživatele a posiluje roli občanské společnosti při obraně online občanských práv. Nicméně k dnešnímu dni tento nový systém ještě není v provozu.

Upřímně, čekám, kdy Mark Zuckerberg nebo Elon Musk řeknou: „S Evropskou unií jsme skončili.“ A odejdou úplně…

Jistě, už teď se snaží evropskou regulaci podkopat a prosadit deregulaci. Není náhoda, že Zuckerberg veřejně zaútočil na EU poté, co Meta změnila své politiky moderace obsahu a zrušila program ověřování faktů. Obvinil unijní zákony, že jsou příliš restriktivní, a tvrdil, že vedou k cenzuře. Ale jeho kritika není motivována bojem proti cenzuře, jde mu o to uniknout odpovědnosti. Je to tím větší zklamání, když si vzpomeneme na Myanmar, kde Facebook přiznal, že hrál roli při šíření podněcování ke genocidě. Sami uvedli, že neudělali dost. A pak vidíte Zuckerberga stát vedle Trumpa při inauguraci, spolu s dalšími technologickými oligarchy. To vás donutí přemýšlet, jestli jsme nebyli celou dobu taháni za nos.

Vzhledem k politickým změnám v Evropě, které nyní sledujeme, očekáváte změny v narativech vůči migrantům, komunitám vystaveným rasismu a marginalizovaným skupinám žijícím v EU?

Myslím, že ta změna už probíhá. Sledujeme rostoucí bezpečnostní přístup, který tyto lidi dehumanizuje, zejména migranty, marginalizované komunity a ohrožené skupiny. Často je to poháněno dezinformačními kampaněmi, které necílí jen na ona společenství, ale i na organizace, které je podporují. Krajně pravicová hnutí pak tento narativ využívají k odebírání financí občanské společnosti. Takové případy se už objevují. Dochází k posunu směrem k autoritářské, krajně pravicové rétorice, která záměrně snižuje hodnotu lidského života. Důraz na „suverenitu“ se často pojí s migrační politikou a se snahou EU globálně konkurovat v oblasti AI a inovací, zejména Číně a USA. Význam práva na svobodu projevu se také záměrně překrucuje. Někteří poslanci Evropského parlamentu vyzývají Komisi, aby zajistila, že zákony jako DSA nebudou „cenzurovat“, jako by DSA ohrožoval svobodu slova. Přitom ji ve skutečnosti posiluje.

Příštích pět let nebude snadných. Myslím, že v politickém a veřejném prostoru se budeme méně setkávat s hlasy občanské společnosti. I sem na RightsCon mnoho kolegů a vynikajících expertů, kteří tu měli být, nakonec nedorazilo kvůli cestovním omezením, náhlému ukončení financování nebo jiným překážkám. Příští RightsCon bude v Africe a pravděpodobně tam uvidíme děsivé důsledky, které tohle všechno má na náš sektor. To je těžké přijmout. Upřímně – za všechny ty roky, co pracuji v oblasti lidských práv, jsem nikdy neviděla takovou míru zoufalství a ztráty naděje. Nejde jen o jeden problém, ovlivňuje to každý boj za spravedlnost a každou ohroženou komunitu.

Je až děsivé sledovat, jak rychle se tyto věci mění…

Ano, ale signály tu byly dlouho. Nestalo se to přes noc. Občanská společnost na to roky upozorňovala. Vzestup krajní pravice na celém kontinentu se děje už nějakou dobu a pro mnohé nebylo vítězství Trumpa žádným překvapením. Regulace se teď dohání, ale nerovnoměrně. Někde pomáhají, jinde se zneužívají jako nástroj útlaku. Pro mnohé jsou platformy životně důležité – kvůli informacím, bezpečí, organizaci, budování hnutí. Když firmy dovolí, aby jejich systémy byly zneužity, a přímo nebo nepřímo se podílejí na kolektivní újmě, lidé se stávají extrémně zranitelnými. Takže ano, regulace může být potřebná – ale ne v rukou autoritářských režimů. To je to riziko. V tuto chvíli neexistuje jasná odpověď. A zatímco ji hledáme, přibývá zákonů, které umlčují nesouhlas, trestají aktivismus a posilují dohled. Je to velmi temná doba.

Na řadě konferenčních panelů zazněly obavy z partnerství RightsConu s firmami, jako jsou Meta, Google nebo Microsoft. Můžete k tomu říct pár slov?

Ano, je důležité o tom mluvit. RightsCon byl před více než deseti lety vytvořen právě proto, aby přivedl Big Tech ze Silicon Valley do dialogu s komunitami, které by k nim jinak neměly přístup. Myšlenka byla, že pokud platformy utvářejí globální realitu, měly by slyšet přímo ty, které ovlivňují, a zároveň by měly spolufinancovat prostor pro tento dialog. Ale samozřejmě, že letošní ročník působil jinak s ohledem na rostoucí spolupráci technologických firem se státní mocí. Mnoho lidí se ptalo, zda tyto firmy na RightsCon patří. I v Access Now jsme vedli složité vnitřní diskuse. Přesto si myslím, že určitá forma zapojení je nutná. Pokud úplně přerušíme dialog, riskujeme, že necháme zranitelná společenství bez podpory. Například naše Digitální bezpečnostní linka spoléhá na přímý kontakt s platformami, aby bylo možné okamžitě rozjet krizové případy, někdy dokonce chránit lidské životy. Nejde o to podporovat Big Tech, snažíme se udržet otevřené kanály, které nám ještě umožňují chránit práva a bezpečí lidí aspoň tam, kde to jen trochu jde.

Všimla jste si nějakých vzorců nebo změn v tom, jak AI ovlivňuje diskuse na RightsConu?

Rozhodně, AI je letos hlavním tématem. Zcela převzala prostor, který dříve zabírala odpovědnost platforem a moderace obsahu. Ale ty věci spolu souvisejí – AI už je hluboce zabudovaná do fungování platforem. Algoritmy rozhodují o tom, co vidíme, co je nám nabízeno a co se maže. Bez algoritmů sociální sítě neexistují. Tohle přehnané soustředění na AI ze strany donorů nebo tvůrců politik je nebezpečné. AI je nástroj, ne cíl. Neexistuje digitální oblast, kde by AI nehrála roli – od moderace obsahu po nasazení AI systémů na hranicích. A právě kvůli tomu hrozí, že zapomeneme na témata, která opravdu potřebují naši okamžitou pozornost, například jak digitální dohled zbavuje lidi na evropských hranicích lidskosti.

Generativní AI a virtuální realita jsou rovněž diskutovaná témata, ale co bychom měli řešit víc, je právě využívání těchto technologií na hranicích – extrémně represivní systémy, které lidstvu nijak neprospívají, a přesto se bez regulace šíří dál. Autoritářské režimy tyto nástroje milují, protože jim umožňují na občany dohlížet a utlačovat je, včetně novinářů a aktivistů. Použití některých technologií prostě nelze obhájit. Výrobci těchto systémů musí nést odpovědnost. RightsCon je jedno z mála míst, kde může občanská společnost na tyto firmy poukázat, zostudit je a požadovat změnu. A s tím, že příští RightsCon bude v Africe, doufám, že tato problematika nabere na ještě větší důležitosti.