Pojem „umělá inteligence“ nutně odkazuje na svůj předobraz – inteligenci přirozenou či prvotní. V převládajícím moderním rozvrhu světa byla inteligence připsána výhradně člověku. Nepatří neživé přírodě ani strojům, které jednají mechanicky, ale ani živoucím nelidským bytostem, jež jednají pudově. Inteligence a rozum mají vyznačovat člověka jako jedinečnou tvůrčí a rozumnou formu života. O pojetí inteligence jakožto geneticky založené charakteristiky se pak opírají například i rasistické hypotézy o hierarchii lidských skupin.
Pokud si stále zakládáme na takto založené výlučnosti, musí nás umělá inteligence existenciálně zneklidňovat – i kdyby byla jen efektem superrychlého mechanického zpracování velkých dat a nevynořovalo se z ní žádné vědomí. Ve stejné době, kdy se objevují různí naši digitální „konkurenti“, navíc díky novým výzkumům častěji slyšíme také o inteligenci rostlin, zvířat nebo přírodních společenství. Třeba sociální antropolog Eduardo Kohn ve své knize How Forests Think (2012), věnované etnografii Amazonie, ukazuje, „jak myslí lesy“. Pokud podle něj rozšíříme naše pojetí semiózy za hranice symbolického jazyka a zahrneme do něj také znakování prostřednictvím ikonu a indexu, vstoupíme do bohaté textury lesní komunikace a přírodního myšlení.
Existenciální zneklidnění ze ztráty výlučnosti není ale, myslím, namístě. Současný obrat k mimolidské inteligenci totiž nesměřuje k závěru, že stroje nebo lesy jsou či mohou být stejně chytré jako lidé. Měl by nás vést především k zásadní změně pohledu a redistribuci inteligence: k uvědomění si, že inteligence je vždy rozptýlená mezi různorodými aktéry a že se stalo pouze moderní konvencí připisovat ji konkrétnímu lidskému jedinci. Inteligentní chování nebo „inteligenční kvocient“ se vynořují jako efekt propojení a interakce mnoha různých lidí (například rodiny, přátel, učitelů), ale také věcí, pomůcek či nelidských bytostí (třeba vodicí pes pro slepce). Hledání místa pro chytré technologie je proto především otázkou redistribuce vztahů a propojení, ze kterých se inteligence – anebo hloupost – rodí.
Stejně jako je bláhové snažit se vyčíst životní trajektorii člověka z jeho genetické informace, nemůžeme ani chování umělé inteligence plně předpovědět z jejího algoritmu. Její chování, efekty a kvality v otevřených systémech budou vždy výsledkem různorodých a komplexních interakcí. Ačkoli se rozsah výskytu a působení umělé inteligence v současných společnostech za posledních deset let dramaticky zvýšil, výzkum chování strojů (machine behaviour) se dnes teprve formuje. Jak tvrdí Iyad Rahwan a jeho spoluautoři v článku pro časopis Nature z dubna tohoto roku, musí jít o multidisciplinární obor zahrnující kromě robotiky, informatiky a inženýrství také oblasti klasické behaviorální analýzy, etnografie a sociálních věd.
Vezmeme-li vážně komplexitu chování a působení umělé inteligence v otevřených systémech, bude to mít důsledky i pro připisování odpovědnosti za činnosti a procesy zahrnující prvky umělé inteligence. Nejde přitom jen o případ autonomních aut, ale třeba také o rozšiřující se použití umělé inteligence v telemedicíně. Kdo ponese zodpovědnost za špatně stanovenou diagnózu – algoritmus, jeho vlastník, pacient zadávající do systému informace o svém stavu, nebo regulátor? Zdá se evidentní, že tyto otázky musí být řešeny různě pro jednotlivé případy a že budou vyžadovat nové typy soudů – nejen coby institucí, ale také jakožto forem usuzování. Rozhodující roli přitom budou hrát právě poznatky z behaviorálně založeného studia strojového chování. Důležitým parametrem přitom musí být i to, zda je algoritmus veřejně dostupný – pokud si tvůrce či majitel nárokuje vlastnictví, měl by přijmout i odpovědnost za negativní důsledky. A pokud připíšeme vinu stroji, jak ho „potrestat“? Jak koncipovat omezení jeho „svobody“ nebo jeho „převýchovu“? Budou státy či mezinárodní organizace provozovat nápravná zařízení pro algoritmy, kde budou přepisovány a pak v karanténě testovány?
Kromě redistribuce inteligence a odpovědnosti je ve hře ještě klíčová otázka redistribuce bohatství. Již dnes je jasné, že zapojením umělé inteligence do pracovních procesů, výroby a služeb se zásadním způsobem proměňují podoby vytváření společenského bohatství a zisku a že model 20. století, ve kterém bylo těžištěm daňového systému zdanění lidské práce, vyhovuje stále méně. Nové principy redistribuce se musí stát třeba jádrem debaty o důchodové reformě, která dnes probíhá v nesmyslně omezeném ringu, kde se už léta pere levice s pravicí. Místo aby důchodoví experti a politici připustili, že je dnes systém potřeba novátorsky koncipovat pro zásadně jinou ekonomiku a kolektivitu zahrnující umělou inteligenci, migranty a „meze růstu“, shodne se česká levice s pravicí na jediném řešení, které tkví hluboko v minulém století – podpoře porodnosti a vícečetných rodin. Jako by si nevšimly, že reprodukce (nových technologií) je vyšší než kdy dříve a že rodinné i jiné hybridní kolektivy (zahrnující „smart homes“ a průmysl 4.0) mohutně četní. Jen se s nimi musíme naučit počítat.
Autorka je socioložka.