Takzvaná prediktivní justice by mohla v blízké budoucnosti alespoň částečně suplovat současnou práci advokátů i soudců. I matematicky vypočítaná spravedlnost však může reprodukovat společenské předsudky a strukturální nerovnost – tím spíš, že se v ní odráží logika kapitálu.
Na dlouhém seznamu profesí, jež se zásadním způsobem změní s nástupem robotů, analýzy velkých dat a umělé inteligence, jsou i advokáti, soudci a další zástupci světa práva a justice. V posledních dvou či třech letech v Silicon Valley a dalších centrech nového digitálního kapitalismu vznikají start-upy, jejichž cílem je technologická revoluce v soudnictví. Digitální firmy prosazující koncepci takzvané prediktivní justice se zaměřují především na vývoj algoritmů, jež se prostřednictvím metod obvyklých pro analýzu velkých dat snaží předpovědět výsledky soudních sporů či například míru recidivity.
K rozvoji nových systémů zásadním způsobem přispívají jednotlivé státy usilující o to, aby soudní rozhodnutí byla přístupná v módu otevřených dat a ve strojově čitelných formátech. Obrovská masa dat, kterou justiční systém produkuje, má pak být srovnávána a analyzována algoritmy, podobně jako data nasbíraná třeba na Facebooku. Slibná je skutečnost, že programy dokážou relativně přesně odhadnout například výsledky sporů v občanskoprávní oblasti. Na základě obrovského množství informací, kterými nedisponují ani ti nejzkušenější advokáti, by stroje měly poskytnout klientům, tedy především právníkům, pravděpodobné výsledky sporů, třeba očekávatelnou míru odškodnění, výši alimentů či způsob rozdělení majetku po rozvodu. Tyto programy by také mohly částečně vyvážit asymetrii při sporech mezi velkými společnostmi se zkušenými advokáty a občany s minimálními možnostmi. Státy tyto prostředky prediktivní justice mírně podporují. V zemích, kde je rozšířená praxe mimosoudních vyrovnání, se pak masa banálních a často se opakujících soudních pří přesune ze soudů do advokátních kanceláří. To je model, který známe z arbitrážních dvorů a smírčích řízení – zde také došlo k přesunutí celé řady sporů na poloveřejné instituce.
Reprodukce nerovnosti
„Pracujeme jako roboti,“ stěžují si často právníci, kteří obvykle na začátku kariéry dostávají jen bagatelní trestné činy. Především v zemích, jako jsou Spojené státy či Francie, soudy každoročně řeší stovky tisíc méně závažných trestných činů, stání trvají jen několik desítek minut a obvykle se ani neřeší otázka viny, ale jen uložení výše trestu. V těchto případech obhajoba, obvykle advokát ex offo, usiluje o menší trest a navrhuje polehčující okolnosti tak, aby se jeho klient alespoň vyhnul vězení. Na soudci je pak především vyměření trestu. Ve Virginii či v Kalifornii jsou v těchto kauzách používány analýzy vypracované takzvanými „risk assessments“ algoritmy, které vyhodnocujípodstatná rizika. Tyto matematické stroje na základě souboru dat o minulosti a názorech souzeného udávají pravděpodobnost recidivity, což hraje při stanovení trestu nemalou roli.
Podle prodejců těchto algoritmů jsou programy schopny zvážit pravděpodobnost recidivy daleko lépe než soudce, neboť berou v potaz větší množství proměnných. Analýza webové revue Propublica.org na vzorku sedmi tisíc obžalovaných v okrese Broward na Floridě nicméně ukázala, že predikce nejsou zdaleka tak spolehlivé. „Jen dvacet procent osob, kterým bylo předpověděno, že spáchají násilný trestný čin, tak nakonec učinilo. V mnoha případech pak algoritmy byly jen o málo přesnější, než kdybyste si hodili mincí,“ uvádějí autoři studie. Přes zdánlivou neutralitu techniky se navíc ukázalo, že algoritmy reprodukují strukturální nerovnosti, například těžší tresty pro Afroameričany. Samotná kategorie rasy sice není analyzována, ale projevuje se například skrze sociální podmínky či dosažené vzdělání, takže algoritmus nakonec reprodukuje převažující rasistické uvažování soudců.
Logika korelace
Příklad algoritmů vyhodnocujících podstatná rizika dobře ukazuje sporné etické i praktické aspekty využívání analýzy velkých dat ve spravedlnosti. Právníci, soudci, a dokonce i prokurátoři se obávají, že rozsáhlé využití prostředků, jako jsou algoritmy vyhodnocující podstatná rizika, může vést k postupnému nahrazení logiky kauzality, kdy se dokazuje, že obžalovaný je opravdu pachatelem, logikou korelace, kdy by více méně stačilo, že profil obviněného koresponduje s profilem pachatele. S tím úzce souvisí nebezpečí, že se justice zacyklí do reprodukce podobných rozhodnutí. Hrozí tak riziko, že se z účastníků soudních pří stanou jen více či méně propracované profily, jež se utkávají ve standardizovaných interakcích. Určování individualit za použití omezeného počtu kvantitativních ukazatelů je ostatně jádrem big data analýz, které se zrodily jako marketingové nástroje. Proto je jejich roubování na třetí pilíř ústavní moci velice sporné.
Další zásadní otázkou je legitimita soudního a právního systému. Již dnes je částečně narušena pocitem občanů, že zákony, jimiž by se měli řídit, jsou napsané nesrozumitelným jazykem, který vytváří systém, jenž je neproniknutelný bez asistence právníků. Kromě neustálé segmentace práva na specializované úseky, která kopíruje tendenci kapitalismu ke zvyšování komplexnosti dělby práce, působí na tuto neuchopitelnost i vlastní logika práva spočívající ve snaze operacionalizovat a kodifikovat realitu v souboru abstraktních pravidel, jež pak kvůli upřesnění vyžadují další podzákonné normy, jako jsou směrnice. Implementace algoritmů a robotů by pravděpodobně vedla jen k dalšímu odcizení, protože jde o neveřejné nástroje, širší veřejnosti neznámé.
Ludisté v taláru
Jaká je tedy budoucnost použití robotů v justici? Z hlediska exekutivní moci jsou tyto prostředky vítaným řešením přehlcení soudů, zejména v občanskoprávní agendě. Justiční personál je ovšem vůči novým technologiím obezřetný a jejich využití bere jako invazi do svého profesního pole. Ve své etnografické studii z prostředí kalifornského soudu socioložka Angèle Christin ukazuje, že soudci, právníci a státní zástupci si vůči novým technologiím zachovávají výrazný distanc. „Zatímco tajemníci a administrativní pracovníci zapisovali průběh řízení do počítače, právní profesionálové, jako právníci z obhajoby, soudci či žaloba, pracovali s papírovými složkami,“ uvádí Christin. Tento odstup od moderních technologií byl následně odůvodněn tím, že „nelze přece vše kvantifikovat“. Odtažitý je i ředitel francouzského Institutu vysokých studií soudnictví Antoine Garapon. „Na rozdíl od předchozích právních revolucí, jakými bylo zavedení občanského zákoníku či moderní konstitucionalismus, tato změna není vedena zákonodárci či právnickými experty. Ba naopak, za změnou stojí mladí byznysmeni z podnikatelských fakult, kteří vidí v soudnictví nevyužitý tržní potenciál,“ uvádí Garapon, podle nějž je prediktivní justice vnášení logiky kapitálu do relativně autonomních pravidel justice.
Spíše než zánik právních profesí však hrozí, že se dále prohloubí vícerychlostní charakter soudnictví (dle třídy a rasy obžalovaného). Jak tvrdí samotní tvůrci justičních aplikací, nové technologie umožní advokátům a dalším právnickým profesionálům věnovat se „aktivitám s vyšší přidanou hodnotou“. To znamená, že právní služby v té formě, jak je známe dnes, pravděpodobně zdraží, což povede k dalšímu vyloučení nízkopříjmových vrstev z plného přístupu ke spravedlnosti. Náhradou budou nízkonákladoví roboti, kteří chudé roztřídí do správných kriminálních profilů.
Autor je spolupracovník italského deníku Il Manifesto.