Creative Commons License V první části jsme rozebrali ideologii „transparentnosti“, raženou technologickými firmami: vizi panopticismu, kde budou všichni lidé pod neustálým, totálním dohledem a tak budou poslušní. Řekli jsme si, že IT firmy pouze prodávají „totalitu na klíč“ protože zjistily, že tak mohou draze zpeněžnit své vynálezy. A pověděli jsme si o klíčových postřezích Zuboffové, která tento vývoj předpověděla již před 35 lety.

Mnoho lidí ale nevěří, že by splnění takového cíle bylo technicky možné. Žijí totiž přítomností, a to přítomností běžného spotřebitele; a buď nesledují přednášky a ideové konference lídrů IT průmyslu, nebo nedovedou pochopit, co z nich plyne v kontextu ideologie panopticismu a posedlosti shromažďováním dat o vás.

Podívejme se tedy na zoubek přelomovým technologiím, na nichž vize „svlečené společnosti“ stojí.

Big Data: fízl se hrabe v datech namísto ve vaší popelnici

Firmy podnikající v Dohledovém kapitalismu si nárokují celý váš život. Když posloucháte technologické fašisty, neustále mluví o „transparentnosti“ a „právu na data“: očividně mají pocit, že mají nárok o vás vědět úplně všechno a informačně vás „svléknout do naha“. Jak říká Sergej Brin z Googlu, „poznání je vždycky dobré.“

Chtějí slyšet, co si zpíváte ve sprše, protože tuto informaci mohou prodat hudebním vydavatelům a MTV.
Chtějí vědět, jaký máte dům i interiér, kolik v něm trávíte času a ve které místnosti, protože tyto informace mohou prodat stavebním firmám které vás osloví s novou střechou, stavebnímu úřadu který podle nich pokutuje, či obchodům s nábytkem a zařízením aby věděli, jaký máte vkus a zda si v křesle nepřesedíte zadek.
Chtějí slyšet, jak nadáváte na politiky, protože tuto informaci koupí jejich volební štáby. Nebo represivní orgány.
Chtějí vidět, jaké nosíte spodní prádlo, protože tuto informaci koupí módní a lifestylové podniky.
Chtějí vědět, na co se vaše děti dívají v televizi, protože tuto informaci koupí reklamní agentury.
Chtějí vědět, na co se díváte na internetu, protože podle toho upravují mediální firmy obsah, který vytváří.

Ale to je vlastně až příliš konkrétní. Hlavní je nahrabat si všechny informace o vás, které je technicky možné získat. Čím déle do vaší historie totiž jdou záznamy o vás, tím lépe dokáží algoritmy předvídat vaši budoucnost, protože znají trendy a mají větší testovací vzorek pro učení se.

Ale hlavně – co kdyby se z těch informací v budoucnu dalo vytáhnout něco, co se dá prodat, i když to nyní ještě neumíme? Pokud jsou informace zbožím, nedává snad smysl jich nakřečkovat co nejvíce, dokud jsou zdarma a slepí a hloupí uživatelé si je nechrání?

Ceny digitálních nosičů dat přitom neustále klesají: v roce 2015 stál jeden gigabyte pouze 0,8 centu (20 Kč). Hromadění informací se tak stalo posedlostí. Jak opět předpověděla Zuboffová v roce 1985:

…informace, na něž je vynakládáno intelektuální úsilí. Přidaná hodnota pramení z množství, nikoli z kvality informací. Učení se je nová forma práce.

A zde nastupuje „buzzword“ jménem „Big Data“. Mnoho lidí se pokusilo popsat tento fenomén, ale pořád bez úspěchu – a to proto, že se jej snaží definovat technicky. Jenže „Big Data“ nejsou konkrétní technologie. Jedná se o filosofii. O obecnou metodu.

Co udělá policejní vyšetřovatel, když chce zjistit něco o sledované osobě? Ukradne její popelnici, hrabe se ve zbytcích a snaží se vydedukovat z nich, co sledovaná osoba dělá. Najít spojitosti, které mají vypovídající hodnotu o zájmové osobě. Odpadky jsou hmatatelné následky nějakého jednání, které prozradí, co sledovaná osobě dělala.

„Big Data“ jsou principiálně úplně to samé, jako když se vám StBák hrabe v popelnici. Jenom si musíte vyměnit odpadky v popelnici za svou digitální stopu, a StBáka za technologickou firmu, která prodává jakémukoli kupci (včetně skutečných StBáků) již hotové dedukce o vás.

„Big Data“ jsou dítě Googlu. Je to právě Google, kdo vymyslel „Dohledový kapitalismus“. Je to Google, jehož oficiální cíl – ba víc než cíl, „mise“ – je „organizovat všechny informace na světě“. A nedejte se zmást heslem pro naivní masy „Don’t be evil“: cílem Google možná nemá být zlý (i když už je), ale chce vás prodat, obnažit – a ovládat skrze dohlížení nad vámi.

Obchodní ředitel Googlu, Hal Varian, to ve své přednášce o tom, jak chce Google zpeněžnit naše životy řekl jasně: když budou lidé pod nepřetržitým dohledem počítačů, umožní to efektivnější transakce. Tím, že budou všichni pod totálním dohledem, bude možné odstranit ze systému jakoukoli důvěru i nejistotu. Každý prostě bude 100% poslušný. Všichni řidiči budou pod neustálým dohledem dodržovat rychlost, proto bude méně nehod a levnější půjčovné aut. Zaměstnanci budou pod neustálým dohledem kde jsou a co tam dělají skrze GPS a kamery. A tak dále.

Ale to není vše. Dohled sám o sobě by pořád byl reaktivní a lidé by se proti němu mohli vzbouřit, obcházet jej, přechytračit jej. Skutečné zlo se skrývá ve „Strojovém učení“, resp. adaptivních algoritmech se zpětnou vazbou.

Strojové učení: falešný prorok ruší právo na spravedlivý proces

Lidské chování má vzorce. Každý aspekt našeho života, od toho co píšeme a říkáme přes to, s kým se stýkáme až po to, jak se tváříme, zprostředkovává nějakou informaci. Pokud někdo dokáže zachytit dostatečné množství těchto informací na dostatečně rozsáhlém vzorku lidstva – statisícům lidí v podobných ale i odlišných situacích -, spojit si je s tím, jak se lidé chovali potom, a toto všechno dohromady analyzovat, začne nacházet univerzálně platné vzorce.

Kupříkladu těhotné ženy nakupují v 1., 4, a 7. měsíci těhotenství statisticky podobné zboží, a poté porodí dítě. Inteligentní systém jde knihou zakázek proti proudu času a snadno si dá dvě a dvě dohromady: když žena kupuje toto a po dvou měsících ono, nejspíše je těhotná. To by byl jen „Big data“ algoritmus. Jenže ten se může mýlit, a také se rutinně mýlil: úspěšnost byla okolo 60%. Dost pro bombardování člověka reklamami, málo pro jiné cíle.

V tomto bodě nastupuje na scénu Strojové učení. To funguje tak, že člověk-vědec zadá adaptivnímu algoritmu pár vstupních, vzorových informací, jak se rozhodnout na základě sady dat – například že těhotné ženy si ve 4. měsíci kupují okurky a banány, zatímco ty netěhotné nikoli – a nechá jej, ať ověřuje platnost takového primitivního modelu na předpovědích chování dalších lidí. Ovšem s tím, že adaptivní algoritmus dostává zpětnou vazbu pokaždé když se zmýlí – a snaží se podle ní sám, bez zásahu programátora, opravit a vyladit, aby ji neopakoval.

Když tak algoritmus narazí na ženu, která si sice kupovala banány a kyselé okurky ale v rozporu s předpokladem ani po 7 dalších měsících pořád žádné dítě neporodila, algoritmus se sám vylepší. Z původního „IF okurky AND banány THEN těhotná“ udělá třeba „IF okurky AND banány AND NOT víno THEN těhotná„.
A tak pořád dál: každou chybou se učí. Neustále. Každou vteřinu. Když má dost dat, na každou chybu v předpovědi vašeho chování, kterou zjistí, reaguje stále sofistikovanějším a komplexnějším modelem „vyspraveným“ tím, co by odlišilo správnou předpověď od nesprávné. A čím více informací o chování lidí v čím delším časovém úseku „zpracuje“, tím menší má chybovost.

Rozvedením strojového učení je pak technologie neuronových sítí. Staré „Strojové učení“, založené na adaptivních algoritmech, mělo jedno omezení: bylo jednoúčelové. Počítač se mohl naučit předvídat zájmy zákazníků v supermarketu, NEBO tužby zákazníků letecké společnosti – podle toho, k jakému účelu a pro procházení jakých dat byl naprogramován.

Oproti tomu neuronové sítě se snaží emulovat strukturu lidského mozku. Zpětnou vazbou se učí úplně stejně jako lidé. Kupříkladu neuronová síť Googlu, Deep Q, se sama naučila hrát počítačové hry aniž by k tomu byla naprogramována – a během pár pokusů je hrála lépe, než jakýkoli člověk, a přicházela na metody jak vyhrát, které lidi nenapadly ani za léta.

Vše, co je zde popsané, přivádí majitele strojově učících se systémů ke slepé víře, že strojové učení umožňuje předvídat lidské chování téměř s jistotou. A že toho by se dalo využít k „prevenci protispolečenského chování“ přesně jako byl „pre-crime“ z Minority Report. Například Justin Cheng ze Stanfordské univerzity:

Ukázali jsme, že příspěvky uživatele mohou být použity k předpovědi toho, který uživatel bude zabanován. Inspirováni naší empirickou analýzou jsme napsali systém, který zachytil různé akce spojené s protispolečenským chováním: příspěvky uživatelů, reakci ostatních, zásahy moderátorů.

Zjistili jsme, že můžeme s pravděpodobností vice jak 80 % předpovědět, zda bude ten který uživatel v budoucnosti zabanován. Stačilo nám k tomu vyhodnotit jen 5 až 10 jeho příspěvků.

Naše metody mohou identifikovat problémové uživatele hned na počátku … zaměřujeme se na uživatele, kterým říkáme „Budoucí Zabanovaní Uživatelé“ neboli BZU.

Vzpomínáte na historii 20. století? Všechny totalitní a represivní režimy se oháněly tím, že je člověk nějak předurčen. Že k němu nemá být přistupováno na základě jeho chování, že nemá nést odpovědnost za své činy, nýbrž že má být dopředu preventivně odsouzen za nějaký vnější znak na základě předsudku.

Předsudků mohlo být mnoho: od tvaru lebky (ta měla „předurčit“ zločince či podřadnou rasu), přes sociální prostředí (v USA a Skandinávii preventivně sterilizovali chudé i děti opilců) či třídy (syn buržousta nemohl nebýt vykořisťovatel, leda by byl napraven manuální prací v převýchovném táboře či státní stavbě.)

Dnes to tu máme opět: znova „vysoce vědecká“ metoda, jak o někom dopředu určit, že má být potrestán za něco, co ještě nespáchal – ale „Vědci říkají že“ by to určitě v budoucnu spáchal.

Mediální konglomeráty chtějí strojovým učením cenzurovat všechny informace, které se někomu nelíbí a prohlásí je za nepravdy (jako když Demagog.cz prohlásil za nepravdu tvrzení Radka Johna, protože proti němu postavil prokazatelnou lež od zastoupení Evropské komise).

Americké tajné služby, které Big Data a Strojové učení masivně a masově používají, otevřeně konstatují, že na základě výsledků počítačové analýzy zabíjí lidi a osočují neznámé osoby z napojení na teroristy. Ne na základě skutečných provinění, nýbrž na základě podobnosti s chováním někoho zlého.

A šéfové technologických firem, jako kompletní vedení Googlu (resp. dnes „Alphabet Inc.“) a Facebooku, si přejí, aby takto fungoval celý svět.

Nad kým nemáme kontrolu, proti tomu povedeme válku!

Mark Zuckerberg, Hal Varian i Eric Schmitd jsou „control freaks“: sociopati posedlí ovládáním druhých lidí. Celé jejich zdokumentované životy a všechny jejich výroky to potvrzují. Potřebují ovládat úplně všechno – dost možná proto, že jsou neurotičtí – a potřebují mít pocit, že je nic nemůže překvapit, zaskočit či jim ublížit. A k tomu potřebují informace, které jim umožní předvídat záměry celého lidstva.

Soukromí ostatních je podle těchto těchto nebezpečných sociopatů něco vysloveně zlého, nepřirozeného a podezřelého, co musí být odstraněno. Protože když si vy zachováte soukromí, oni vás nemají pod kontrolou. Takže se vás jednak bojí, jednak vás nemohou zpeněžit a prodat, a jednak – a to hlavně – i když žijete daleko od nich a jste bezvýznamní, pořád jste drzí disidenti, kteří narušují přetvoření celého světa na Utopii panopticismu. Jste nepřítel „transparentnosti“. A to do hry zavádí nový prvek: ideologii.

Ideologie je totéž, co náboženství: slepá víra v to, co je dobré a nenávist vůči těm, kteří dobru brání. Umožňuje vést svatou válku. A proto je každý, kdo se Dohledovému kapitalismu a technologickým fašistům brání, považován za nepřítele, který musí být poražen jakýmikoli prostředky.

Většina lidí kapituluje bez boje a radostně se nechá koupit nabídkou pohodlí a „prožitků na míru“. Vždyť je to luxus: dříve měli bohatí lidé osobního krejčího, který je znal, a dnes může mít každý nejen osobního krejčího, ale i osobního doktora, řidiče, navigátora, kuchaře, encyklopedistu a životopisce!

S jedním podstatným rozdílem: osobní doktor, řidič či kuchař neprodával informace o vás třetím stranám, natož aby se vás pokoušel ovládnout a donutit žít tak, jak chce on.

Někteří lidé si ale rizika uvědomují a v menší či větší míře ten šmírovací systém Totálního Dohledu odmítají. Hlavně ti, kteří pracují v IT. A v tomto oboru hlavně ti, kteří pracují na data management systémech a vidí, k čemu to všechno slouží. Personalisté tak berou jako nepřekvapivý fakt, že „ajťáci“ jsou divní pavouci, kteří často nemají Facebook a podobné technologické vychytávky ani když by to u nich člověk naopak čekal.

No a proti takovým lidem je vedena válka na třech frontách zároveň: cukr je zahozen a práská se

  1. bičem násilné technologické invaze do soukromí, před kterou není úniku protože se nesmíte bránit,
  2. bičem sociální ostrakizace, vynucující konformitu skrze apely na sobectví milovníků „Smart Pohodlí“, a
  3. bičem státem uložených povinností ve prospěch Dohledového kapitalismu, které si TechnoFašisté vylobbovali

Bič první: technologická invaze a „senzorifikace“

Můžete přizpůsobit své chování na internetu i mimo něj: používat addony jako Ghostery, který šmíráky odřízne, a Random Agent Spoofer, který všudypřítomným šmírákům sice naoko vydá data, po kterých pasou, ale namísto informací jim podstrčí zmatečné dezinformace. Připojovat se na síť přes Tor, který zamaskuje vaši lokaci. Můžete jako vyhledávač používat DuckDuckGo (tip: můžete mít DDG jako výchozí vyhledávač a když nenajde co chcete, přímo z něj vyhledat jiným vyhledávač pomocí příkazů !szn pro Seznam, !g pro Google atd.) a jako e-mail TutaNota, který uživatele ani technicky nemůže odposlouchávat. Pokud potřebujete sociální síť, můžete používat Diasporu respektující soukromí. Prostě služby, jejichž obchodní model je založený na anonymních reklamách, dobrovolných darech a BitCoinových premiových službách namísto Dohledového kapitalismu.

Můžete používat Bitcoiny, neregistrované SIM karty a Blesk peněženku. Můžete se navigovat papírovým autoatlasem a offline automapami namísto šmírovátek jako Waze, která pilně zapisují veškeré vaše pohyby pod záminkou ochrany proti dopravním zácpám. Můžete vůbec nemít Smartphone a místo toho používat „feature phone“, který umí totéž až na to, že umí pouze „automatizovat“, nikoli „informatizovat“, protože multitasking podporuje jen jako souběh volání a jiné aplikace. Můžete vůbec nenosit GPS, která nemá hardwarový vypínač. Nemít doma žádné štěnice, pardon, spotřebiče s hlasovým ovládáním – ani hacknutou televizi, ani lifestylový odposlech od Amazonu, Googlu či Sony.

Jenže protože představujete ohrožení pro fanatické „control freaks“, ti se vám dostanou na kobylku jinak: když nepřijde hora k Mohamedovi, musí Mohamed přijít k hoře. A tak oni přichází za vámi. Z digitálního světa internetu se stále více násilím cpou do reálného světa fyzického. Jak? Senzory.

Pamatujete si na kontroverzi Google Earth? Google projezdil celý civilizovaný svět auty, ze kterých nakukoval lidem přes ploty kamerami na teleskopických stožárech. Ale to mu nestačilo. Takže porušil zákony a prováděl elektronickou špionáž, kde má kdo jakou Wi-Fi síť. A nejen to: „omylem“ odposlouchával a ukládal si provoz na těchto sítích. Protože to Google umožní propojit digitální a fyzické identity. Za takovouto prasárnu samozřejmě dostal pokutu – ale ta pro něj neznamenala vůbec nic. Dostal sice sankci 7 milionů dolarů – jenže na tu si s čistým ziskem 50 miliard vydělal za jedinou hodinu. A to se vyplatí.

Dalším krokem je proliferace kamer. Každé „smart“ zařízení má kameru, která může sledovat okolí. Jedinou překážkou tomu, aby byl každý chodec se „smart“ hračkou ekvivalentem šmírovacího Google-auta je cena datových přenosů ze Smartphonů. Ale proč si myslíte, že jak Google, tak Facebook vehementně usilují o provoz svých vlastních internetových a datových sítí? Z letadel a satelitů? Prý pomoc chudým skrze internet. Jasně. Ale jakmile by informace šly z mobilních zařízení Google či Facebooku přes datové sítě Google či Facebooku, nikdy by nemohl zjistit, kolik dat přenáší a za jakého senzoru.

Alternativní cesta je ale ještě lepší: neustálé šmírování všeho a všech ve fyzickém světě nijak neskrývat, ale naopak z toho udělat společenskou normu a ctnost. To je přesně cesta, kterou se ubírá duo

Internet Věcí a Smart Cities

Všudypřítomné kamerky a na ně napojené programy pro rozpoznávání lidí podle tváří či chůze. Čtečky bezkontaktních karet, které vás identifikují když jdete kolem. Mikrofony napojené na internet a neustále odposlouchávající celé okolí pod záminkou ovládání hlasem (pro které přeci musí naslouchat každému šustnutí.) A ještě mnoho dalších senzorů. To vše se vám chce cpát do domácností v rámci „Smart“ spotřebičů. Ale tam máte pořád ještě možnost se bránit a odmítnout tato zařízení.

Proto IBM, Intel, Siemens a další technologické korporace přišly se konceptem „Smart Cities“, chytrých měst. Už víte, že slovo „smart“ znamená „informatizaci“, neboli shromažďování informací o vás a jejich předávání supervizoru-dohližiteli. To vystihuje podstatu „Chytrých měst“ dokonale: všude mají být kamery a RFID čtečky, které by pro autority – vládu, resp. samosprávu, a policii – dokázaly sledovat odkud kdo jde, kdo se s kým stýká a baví, a dohlížet, zda všichni dodržují veškeré předpisy. A samozřejmě i mikrofony, odposlouchávající okolí pod záminkou bezpečnosti či hlídání nočního klidu. A ještě řada jiných senzorů: jak říká česká propaganda pro Smart Cities od ČEZu:

Aby byla města chytrá, potřebují analyzovat život v ulicích. To jim umožní monitorovací systémy shromažďující data.

Chcete být monitorováni? Že ne? Smůla. Kamery a mikrofony se schovávají i na těch nejnenápadnějších místech: v lampách veřejného osvětlení, odpadkových koších, sloupech dopravních značek a billboardů. Chcete-li do „Chytrého města“, není před šmírováním úniku. Nebo vás do něj dokonce nepustí: interakce uživatele se „Smart“ městem je totiž založena na Smartphonu.

A ten může být povinností, bez které jednoduše legálně ani nezaparkujete, ani nemůžete jet MHD. Pochopte: „smart“ parkovací aplikace ukáže, kde kdo parkuje. Když ale nemáte smartphone, systém neví, že jste obsadili prakovací místo a navede tam někoho jiného. Ten bude frustrovaný. Nesdíleli jste své zaparkování ve „smart“ systému, tedy jste asociální sobci. A to by nešlo.

Není proto divu, že Google vypisuje mnohamilionové granty na přeměnu měst ve „Smart“. Chce přeci organizovat – a tedy mít – všechny informace na světě, pamatujete? A pokud se Smartphone s Googlím „Androidem“ stanou de facto povinností pro samotnou existenci v Chytrých Městech… Opět, totální dohled. A ani tento cíl není pro Google dost velký: založil si filiálku Sidewalk Labs, která chce ovládnout urbanistiku a diktovat, jak mají vypadat města, městečka a vesnice. Samozřejmě pro dobro všech: kvůli ochraně přírody, vyšší efektivitě, a tak dále.

Ale dobře; přestěhujete se na vesnici a najdete si práci v místním JZD jako opravář traktorů. Nevadí, i tak se vám technofašisté nacpou do soukromí: pořád mají vzduch.

A o prostředcích, jimiž se Dohledový kapitalismus vlamuje na váš dvorek, do vašeho bytu, na vaše cesty a jimiž dokonce otevřeně plánuje se vlámat až do vašeho těla, si povíme v příští, závěrečné části trilogie.

Reklamy

One thought on “Dohledový kapitalismus, část 2: technologie umožňující totalitu

Zanechat Odpověď

Vyplňte detaily níže nebo klikněte na ikonu pro přihlášení:

WordPress.com Logo

Komentujete pomocí vašeho WordPress.com účtu. Odhlásit / Změnit )

Twitter picture

Komentujete pomocí vašeho Twitter účtu. Odhlásit / Změnit )

Facebook photo

Komentujete pomocí vašeho Facebook účtu. Odhlásit / Změnit )

Google+ photo

Komentujete pomocí vašeho Google+ účtu. Odhlásit / Změnit )

Připojování k %s