Dohledový kapitalismus, část 1: Panoptikon – „transparentní“ totalita, jaká tu ještě nebyla

Náš svět je stále plnější zdánlivě prázdných sloganů z oblasti IT:

„Big data“. „Průmysl 4.0“. „Transparentní“. „Bezkontaktní“. „Informační společnost“. „Profilování“. „Individualizace“. „Sesíťovaný svět“. „Uživatelský prožitek“. „Near-real-time“. „Inteligentní dohled“. „Lean procesy“.

Zdání ale klame. Každý z těchto termínů má dost přesný obsah. A když si je všechny dáte dohromady s oficiálními vyjádření, konferencemi, korporátními cíli, vývojovými programy, přednáškami a whitepapery tuctu technologických korporací, získáte jednu ucelenou vizi, jednu ideologii. Utopii panopticismu: světa, ve kterém je každý člověk neustále pod totálním dohledem (nebo si alespoň nikdy a nikde nemůže být jist, zda pod dohledem není) pod záminkou, že jen nepřetržitě hlídaný člověk se bude chovat morálně.

Této vizi její apologeti eufemisticky říkají „být transparentní“ a snaží se položit rovnítko mezi „transparentnost“ coby absenci soukromí a ctnost – protože jak říká šéf Google, Eric Schmidt,

Když děláte něco, o čem nechcete aby to věděli ostatní, možná byste to v prvé řadě neměli dělat vůbec.

A Mark Zuckerberg z Facebooku:

Doby, kdy jste měli jiné vystupování mezi kolegy a ostatními lidmi, které znáte, pravděpodobně dost rychle skončí. Mít dvě identity je známka špatného charakteru.

Každý kdo studoval historii ale ví, že panopticismus není utopie: že je to dystopie. Že „dokonale transparentní“ společnost neznamená společnost dokonale slušnou a poctivou. Naopak. Že je to společnost, v níž vládnou zkorumpovaní a zlí. Protože skrze totální dohled si umí vynutit totální poslušnost. Jak to vystihl Don Tapscott:

Soukromí je základ svobodné společnosti. Nejen kvůli újmě, jaká hrozí skrze vydírání, krádeže osobnosti, vydávání se za jiné, kyber-stalking a vlezlé zaměstnavatele. Ale pokud mohou být data sestavena do profilů, propojena s dalšími informacemi a použita k vynášení (automatizovaných) soudů o jedincích, jako například jestli je najmout či někam vpustit; nebo k výpočtům benefitů nebo podobě nabídky; nebo k manipulaci či diskriminaci; měli bychom se otřást hrůzou při představě světa, kde je vše o všech známo a nic není zapomenuto.

Nejedná se přitom o žádné spiknutí: jedná se o nevyhnutelný následek zneužití technologií. Rozvoj IT – miniaturizace senzorů (hlavně kamer), levná digitální úložiště a výkon hardwaru, který dokáže autonomně sám rozpoznávat lidi a jejich vzorce chování – poprvé v historii lidstva technicky umožnil přiřadit každému sledovanému člověku jeho vlastního slídila a bonzáka, který jej sleduje a kádruje 24/365. A to vše za stále klesající ceny.

IT firmy tak „pouze“ zjistily, že technicky umí provozovat totální dohled. Ale jak to zpeněžit? Jak na tom vydělat? Komukoli, kdo zaplatí, nabízí vizi totálního dohledu nad každým aspektem životů sledovaných lidí, ať už jsou kdekoli. Cílem, oficiálním a neskrývaným, je dát kupcům – korporacím, PR agenturám a vládám – něco velmi blízkého božské vševědoucnosti.

S vševědoucností jde ovšem ruku v ruce i všemohoucnost: kdo všechno ví, dokáže předvídat kroky svého protivníka či oběti a zmařit je. Kdo zná všechno o vás, umí vás i dokonale manipulovat. Či vydírat. Prostě: informace (resp. informační asymetrie) jsou moc. A totální informovanost znamená totální, božskou moc. Ray Kurzweil, šéfinženýr Googlu, to řekl natvrdo: když pustíme Google i do svých mozků,

budeme jako bůh.

Na tento slib lidstvo slyší už od Adama. Vlády i korporace jsou za příslib božské moci ochotné zaplatit pohádkové částky do kapes IT a technologických firem. A ty by byly hloupé, kdyby po takovém obchodu století neskočily.

Zdrojem této zvrácené vize je kombinace zcela nového modelu ekonomiky se stále rostoucí sítí senzorů – optoelektronických, radiových, biometrických – a „digitální stopy“, kterou za sebou zanechává každý ze čtenářů tohoto článku.

Prostředkem k této vizi jsou

1. digitalizované informace, kterými je možné bez velké námahy krmit počítače v obrovských kvantech
2. výkonný hardware, na kterém běží pokročilé algoritmy na vyhledávání a rozpoznávání obrazu, „Big Data“ heuristika a kádrování a předpovídání budoucího chování lidí na základě „Strojového učení“
3. prakticky neomezený digitální úložný prostor, který umožňuje filtrovat na konkrétní zájmovou osobu a napříč časem, i měsíce a roky zpětně, vyhledávat, jak se měnily její články, sociální síť, kontakty nebo podoba. A dokonce i vyhledávat na leteckých kamerových záznamech, odkud kdo přijel na místo činu (třeba demonstraci), kam potom odešel – a odkud přišli a kam potom jeli ti, se kterými se setkal.

Ale o technice až dále. Nejprve je nutné pochopit podstatu jedné zásadní technické revoluce a jejích ekonomických dopadů.

Od „Smart“ počítačového zprostředkování k Dohližitelům

Starší matadorům světa IT není neznámé jméno Shosanna Zuboff. Tato dáma, dnes již v důchodu, se zabývala mnohaletými hloubkovými studiemi toho, jaké dopady a proměny má na lidskou společnost „komputerizace“: zavádění počítačů tam, kde předtím nebyly. V roce 1982 Zuboffová vydala legendární studii „Nové světy počítačem zprostředkované práce“, ve kterém vysoce přesně předpověděla přesně ten svět, v jakém jsme se pak ocitli v roce 2012.

Zuboffová přinesla několik zásadních postřehů o komputerizované společnosti, pro které prorazila nové termíny. Hlavním z nich je podstata „smart zařízení“. Dnes se nám všude cpou „smart telefony“, „smart auta“, „smart lednice“ atd. – ale jak se „chytré“ zařízení liší od „hloupého“? Zuboffová na to přišla už před 35 lety.

„Hloupé“ zařízení vezme informaci, kterou zadá uživatel, a na jejím základě slepě a spolehlivě vykoná to, co si uživatel přeje. „Hloupá“ lednice vezme stav tlačítka a teplotu a na jejich základě chladí. „Hloupý“ telefon vezme číslo, které uživatel zadal, a vytočí je. „Hloupé“ auto vezme rychlost, otáčky motoru a pozici pedálů a volantu a na základě toho zrychluje, zpomaluje a zatáčí. A to je vše, víc ani „ň“! Informace jdou jen jedním směrem: od zadání úkonu k jeho vykonání. To je stará dobrá „automatizace“.

Oproti tomu „chytré“ zařízení vykonává tu samou „automatizaci“, jako zařízení „hloupé“, ale k tomu přidává něco navíc: tok informací v protisměru. Samo o sobě sbírá informace, které nepotřebuje k vykonání svého úkolu: informace o uživateli, o okolí, o sobě. Zuboffová pro to razila neologismus „informatizace“ jako protipól prosté „automatizaci“:

Pozorovala jsem, že informační technologii vystihuje důležitá dualita, která ještě nebyla plně doceněna. IT může být použito k automatizaci způsobem, který se nijak neliší od staletí zavedených metod: nahradit lidské tělo strojem, který umožňuje lepší ovládání a vytrvalost.

Ale automatizace s IT zároveň vytváří informace, které poskytují hlubší vhled a způsobují, že se činnosti, do nichž předtím nebylo vidět, stávají transparentními. Informace nejen vykonává (ve formě zadaných instrukcí), ale také vytváří. Tak se procesy stávají viditelnými, poznatelnými a sdíletelnými.

K čemu ale tyto nově získané informace jsou? Jak Zuboffová poznala, „smart“ zařízení je posílají k vytěžení, aby skrze ně něco přiučil někdo v roli supervizora: česky dohližitele. To může být uživatel, když mu „chytrý“ telefon řekne, že na jeho pravidelné trase je dopravní zácpa a je lepší jet objížďkou. Nebo když chytré auto upozorní řidiče, že brzy pravděpodobně selže určitá součástka a je lepší ji preventivně vyměnit. Nebo když chytrá lednice sledující potraviny upozorní, že se blíží doba trvanlivosti mléka.

Jenže typicky mívá roli „dohližitele“ nějaká třetí strana. Když totiž celý koncept „komputerizace“ vznikal, jeho zákazníkem byly firmy, které chtěly Panoptikon – protože

pokud jsou v Panoptikonu pracovníci, nejsou zde žádné rozbroje, krádeže, koalice; žádná rozptýlení která zpomalují práci, způsobují nedokonalosti či nehody.

Roli „dohližitele“ tak měl ředitel firmy, kterému výpočetní oddělení předalo nějaké poznatky o zaměstnancích, které umožnily „optimalizaci“. Kdy a jak pilně ťukají do klávesnic a zda se neflákají. Kudy jezdí služebními auty a zda je nezneužívají k soukromým jízdám. Jestli nerozkrádají nástroje a materiál.

Prostě a jednoduše: „informatizace“ je počítačem zprostředkovaný dohled za účelem kontroly. I v Československu proto patřila k průkopníkům IT Státní bezpečnost, která naskočila do vlaku komputerizace již na sklonku 70. let. A proto také Zuboffová ve svém pozdějším článku Paradigma Dohledu: buďme pískem v soukolí definovala tři zákonitosti:

1. Vše, co může být automatizováno, bude automatizováno.
2. Vše, co může být informatizováno, bude informatizováno.
3. Každé využití digitálních dat, které může být využito pro dohled a kontrolu, bude využito pro dohled a kontrolu – bez ohledu na to, jak šlechetný účel mělo na počátku.

Od analytických odborů k informační společnosti

Jakmile „Smart“ zařízení jednou vytvoří informace, jejich použití ovšem není omezeno jen na primitivní dohled a vykazatelnost. Dají použít i pro analýzu. Pro předvídání budoucnosti. Pro centrální plánování.

Kupříkladu když přesně víte, kolik lidí u vás ve firmě chodí na záchodky, jezdí na služební cesty či používá zasedačky a kdy, můžete optimalizovat počet kabinek/aut/zasedaček a šetřit. Jen díky počítačům přitom takové informace zůstávají aktuální a jsou pořád dokola podrobovány analýze trendů, takže když se na návycích či složení zaměstnanců něco změní, můžete včas přistavět nové kabinky, než se naplno projeví „záchodková krize“, obchodníci se na parkovišti rvou o auta či manažeři o zasedačky a hrozí stávka. Vida, „Lean management“!

Když přesně víte, jaké zboží se jak prodává který den v týdnu, můžete sestavit sofistikovaný algoritmus, který smíchá statistické informace ohledně trendů předchozích let, prodejů zboží v minulém měsíci, týdnu, a jim odpovídajícím týdnům a měsícům před rokem a na jejich základě odhadnout, co si zákazníci koupí zítra a navézt na konkrétní prodejnu optimální množství zboží, aby nebyly ani nedostatky, ale ani téměř žádné neprodané zbytky. Vida, „Lean logistika“!

Dnešní firmy takovou analytiku, která běhá téměř v reálném čase, kombinuje mnoho zdrojů dat a umožňuje jim předvídat budoucnost a podle toho se optimalizovat, používají. Masivně a masově. A kdyby takové komputerizované systémy vyhodnocování spotřeby až na úroveň jednotlivých obchodů a spotřebitelů měli komunisté, jejich centrálně plánovaná ekonomika by vlastně mohla fungovat, no ne?

K tomuto nebezpečnému závěru jsem přitom nedošel já, nýbrž stále více představitelů amerického technologického průmyslu a politiků. Na Západě i Východě dochází k renesanci komunismu a socialismu, a stále hlasitěji se ozývá, že jedinou chybou reálného socialismu byl nedostatek informací, což už ale dnes umíme vyřešit díky počítačům. Není to žádné překvapení. Jak konstatoval klasik:

Byrokraté stejně jako socialističtí reformátoři se však nacházejí se mimo trh. Statistika tak představuje pro byrokrata, politika a socialistického reformátora jediný prostředek smyslového vnímání.
Neexistence statistik by nepochybně naprosto a okamžitě rozbila veškeré pokusy o socialistické plánování. Stát by ani nevěděl, komu dávat rozkazy, natož aby věděl, jak se pokoušet plánovat složitou ekonomiku.

To však platí i naopak: dokonalá statistika by neuvěřitelně posílila veškeré pokusy o socialistické plánování a dirigistický, byrokratický stát.

Centrální řízení firem, států i lidí je něco, co bez počítačů nebylo myslitelné, resp. nutně muselo selhat – ale s i primitivní „umělou inteligencí“ samoučících se algoritmů, které v téměř reálném čase vyhodnocují zpětnou vazbu úspěšnosti svých predikcí a neustále se zlepšují, to možné je.

Kvalitní informace dávají svým držitelům ohromnou moc.

A tak nám tu dochází k fundamentální změně celé lidské společnosti: vzniká zcela nová forma kapitalismu a ekonomiky.

Dohledový kapitalismus

Prvotní, výrobní kapitalismus byl dobrý pro spotřebitele i dodavatele: komoditu v něm představovalo masově vyráběné a prodávané zboží. Běžný člověk dostal více levnějšího zboží a tím se mu zlepšovala životní úroveň.

Pak se ale vyčerpal prostor pro růst a zisk, a tak se od výrobního kapitalismu oddělila nová forma: finanční kapitalismus. V tom představuje zboží objem finančních prostředků na virtuálních účtech, který umožňuje vydělávat na různých pákách, derivátech, akciích prodávaných nakrátko atd. Finanční kapitalismus ve většině zemí Západu nakonec předstihl původní výrobní kapitalismus: ten se drží snad už jen v průmyslové Číně. A jakkoli je stále nějak prospěšný i pro spotřebitele, kterému umožňuje snadno spravovat své prostředky, převádět je dalším stranám na dálku a získávat půjčky, je otázka, nakolik je přínosem a nakolik naopak škodí. Zejména skrze lobbing, kterým prosazuje zájmy svého businessu skrze stát a na úkor spotřebitelů (např. neustálá snaha znemožnit lidem spořit a donutit je půjčovat si od bank skrze lobbing u Národních Bank).

I finanční kapitalismus však narazil na své limity růstu. Zároveň přišla komputerizace a s ní poptávka po „totální informovanosti“: vědět všechno o všech. Informace jsou moc, kterou může kdokoli využít jakkoli – PR k účinnější reklamně, obchod k efektivnějšímu naskladnění zboží, vláda k efektivnější represi – ale každý je může využít nějak a každý je chce. Ať už jste stát, korporace nebo státní bezpečnost, vás zajímá jediné: sehnat co nejvíce co nejpodrobnějších informací o co nejvíce lidech. Ideálně všechny informace o všech lidech.

Tak se informace stávají komoditou. Vznikl zcela nový trh. Vznikla zcela nová ekonomika. Vznikl nový kapitalismus. Jeho komoditou jsou informace: informace o vás. Ideálně všechny informace o vás. Prodává se tu vaše soukromí. Prodává se tu váš život se všemi informacemi, které vytvoříte vědomě či nevědomě – od vašich názorů přes váš majetek a vztahy až po biologické fungování vašeho těla.

Ovšem je tu háček: zdraví lidé mají od přírody touhu po soukromí. Proč? Pokud není něčím z vnějšku narušen jeho vývoj, každý dospělý člověk podvědomě chápe že pokud je pod dohledem, znamená to, že jej někdo jiný hodnotí, posuzuje, a může se mu nelíbit to, co sledovaný subjekt dělá. Každý kdo má životní zkušenosti chápe, že pokud o sobě řekne příliš, odkryje tím své karty a může se mu to nevyplatit.

Pokud máte soukromí – tzn. dobrovolně se odhalíte jen těm, kterým věříte -, jste svobodní: nemusíte se omezovat ani přetvařovat. Můžete si falešně zpívat, tancovat v kostýmu krokodýla, opalovat se nazí, porušovat hypertrofované předpisy, nadávat s přáteli na vládu, policajty a úředníky, cokoli. Samozřejmě existuje mnoho úrovní soukromí a mnoho úrovní toho, co o sobě komu odhalíte, ale dokud máte možnost alespoň někde – typicky ve svém bytě – mít úplné soukromí, a dokud máte kontrolu nad tím, jaké informace o sobě komu sdělíte, potud máte i svobodu.

To je ovšem v nesmiřitelném rozporu s těmi, kteří prodávají informace o vás. Ti chtějí všechno: celý váš život bez výjimky. Proto vám za vaše soukromí samozřejmě musí nabídnout nějakou protihodnotu. Jakou?

No, když vás Dohledový kapitalismus má pod drobnohledem a důkladně analyzuje každý aspekt vašeho života, aby jej mohl prodat, samozřejmě to může prodat i vám: udělá vám službu na míru. „Uživatelskou individualizaci“. Doporučí hudbu, jaká se vám statisticky bude líbit. Nabídne oblečení, jaké nosíte, ve slevě. V pondělí sám zapne navigaci do práce a v pátek na chatu. A tak vám „šetří čas“, no nekupte to.

Ale jak to funguje? Jak je to technicky možné a jak Dohledový kapitalismus získává data těch, kteří je s ním nechtějí sdílet dobrovolně?

O tom bude příští část trilogie „Dohledový kapitalismus“.

---

Děkuji diskutujícím na Lupa.cz pod článkem o Spaceknow, kteří upozornili na klíčové články Zuboffové.