Šmírovací kapitalismus aneb Jak Facebook, Google a další kšeftují s našimi daty, my přicházíme o demokracii a stáváme se loutkami
Tento text z pera Jaroslava Fialy vyšel původně v DeníkuN pod názvem Facebook a Google kšeftují s naším soukromím. Jsou to nová impéria. Protože se jedná o mimořádně palčivé téma a Jaroslav je umí velmi dobře vystihnout, domluvili jsme se, že zde můžeme jeho text publikovat.
…
„Každý zvuk, který Winston vydal a jenž byl hlasitější než velmi tiché šeptání, obrazovka zachycovala. (…) Člověk musel žít – a žil ve zvyku, který se stal pudovým – v předpokladu, že každý zvuk, který vydá, je zaslechnut, a každý pohyb, pokud není tma, je zaznamenán,“ píše George Orwell ve slavném dystopickém románu 1984.
Možná si ani neuvědomujeme, jak moc se dnešní doba Orwellově vizi přiblížila. Ne, to není sci-fi ani výplod bláznivých konspiračních teorií. Vítejte v jednadvacátém století – v éře digitálního kapitalismu, který mění náš svět stejně radikálně jako průmyslová revoluce nebo dnešní klimatická krize. A v souvislosti s koronavirem ho bude měnit ještě rychleji.
Jak vydělat na našem soukromí?
Před deseti lety zakladatel sociální sítě Facebook, Mark Zuckerberg, ohlásil „konec éry soukromí“. Pochvaloval si, že na Facebooku o sobě ochotně sdílíme všechny možné informace s jinými lidmi.
Zapomněl však dodat, že Facebook ani další firmy nepodnikají z lidumilství, ale informace o nás nutně potřebují k pohádkovým ziskům. Musí nás totiž co nejdetailněji znát, aby mohly informace o nás prodat inzerentům, a ovlivňovat naše chování.
Většina lidí má dnes už svůj digitální profil, který si žije vlastním životem a slouží jako ohromný zdroj výdělků pro jiné. A to platí dvojnásob v koronavirové době, kdy se ohromné množství lidských aktivit přesouvá na internet a zavádí se on-line sledování nemocných. Asi nejdetailnější vhled do dnešní revoluční změny přináší americká socioložka Shoshana Zuboffová v oceňované knize Vzestup kontrolně-sledovacího kapitalismu (Rise of Surveillance Capitalism, 2019).
Zuboffová, která je označována jako jedna z klíčových myslitelek dneška, tvrdí, že v ohrožení je samotná lidská svoboda, demokracie a svět, jak jsme ho znali. Jak to?
„Největším zlem nejsou ruské trollí farmy, ale Facebook,“ řekl nedávno datový analytik František Vrábel na serveru iRozhlas. Shoduje se s tím, co už dlouho píšou někteří IT novináři a odborníci.
Sociální sítě jako Facebook potřebují co nejvíc přitáhnout naši pozornost a motivovat nás k aktivitě a reakcím. Naše činnost na Facebooku o nás prozrazuje mimořádně cenné informace – ukazuje, na co rádi klikáme, o čem diskutujeme, čemu věříme, jestli jsme naštvaní, politicky angažovaní, nebo naopak pasivní.
Prozrazuje i to, jaké máme přátele, co děláme, čeho se bojíme – prostě jací jsme. A právě to jsou životně důležitá data, díky kterým si Facebook, Google, Apple, Microsoft i další firmy můžou udělat přesný obrázek o lidech a celých sociálních skupinách (třeba podle jejich věku nebo vzdělání.) Výsledkem je, že nás digitální korporace perfektně znají, umí předpovídat naše chování a podsunout nám na míru ušitou reklamu a obsah.
Logika digitálních firem je prostá: získat o nás co nejvíc informací a ty pak zpeněžit. Stačí k tomu málo. Miliardy lidí dnes využívají chytrý telefon, který sleduje naši polohu a obsahuje aplikace, které o nás sbírají informace, stejně jako sociální sítě. Navíc jsme obklopeni průmyslovými kamerami a využíváme „chytré“ spotřebiče v domácnosti. Ty jsou nám nabízeny jako pomocníci k ulehčení života, zábavě a informacím.
Jenže má to háček. Technologie o nás zároveň sbírají data, která hrají důležitější roli než samotné nabízené služby. Firmy potřebují proniknout do našeho soukromí a zevrubně poznat, jací jsme. Z informací o nás se pak stává skvělý byznys, který slouží inzerentům pro výrobu reklamy nebo politikům, kteří chtějí oslovit cílové skupiny voličů.
Shoshana Zuboffová dnes mluví o „novém ekonomickém řádu, který vytěžuje samotnou lidskou zkušenost jako surový materiál“. Klíčovou komoditou v něm jsme my sami a zmíněná data o nás.
Právě to je hlavní příčina, proč Facebook a další kanály tak rády pomáhají šířit senzacechtivé hoaxy, fake news, milují bombastické události a vyhrocené diskuse plné emocí. Jejich cílem je co nejvíc upoutat naši pozornost, nakopnout nás k aktivitě a z ní pak o nás vytěžit informace – data.
Firmy o náš často bez našeho vědomí sbírají i ty nejintimnější informace.
Naše chování na internetu je zkrátka báječný zlatý důl pro jiné. Jenže, jak upozorňuje Zuboffová, o co víc firmy vydělávají na datech o nás, tím víc jsme všichni zranitelní. Firmy o náš totiž často bez našeho vědomí sbírají i ty nejintimnější informace. A zatímco digitální giganti mají skvělý přehled o našich životech, my vůbec netušíme, která bije.
Objevení datových nalezišť
Jak jsme se do téhle situace dostali? Zuboffová vysvětluje, že průkopníkem „šmírovacího“ kapitalismu byl zhruba před dvaceti lety Google. Tento vyhledavač ještě v dřevních dobách internetu sbíral data o uživatelích pro zkvalitnění svých služeb (což firmy rády využívají jako záminku pro sběr dat o lidech dodnes).
Jenže po ekonomické krizi v roce 2001, známé jako „dot-com bubble“, čelil bankrotu. Aby se zachránil, vymyslel novou fintu – začal prodávat nasbíraná data o lidech reklamnímu průmyslu.
Navíc přišel na to, že ze získaných dat jde vyrobit přesné statistické odhady o tom, co si budou lidé chtít koupit, co je zajímá a na co kliknou. Zisky Googlu se během pár let zvýšily o tisíce procent. A zároveň bylo jasné, že čím lépe chcete na lidi zacílit reklamu, tím detailnější informace o nich musíte mít.
Hranice byznysu s daty pak radikálně posunul Facebook. Ten už rovnou dostal k dispozici podrobné profily svých uživatelů. A na obchodování s daty a reklamě postavil svoji existenci.
Hranice byznysu s daty pak radikálně posunul Facebook.
Uživatelé, kteří o sobě na sociální síti sdílejí informace, slouží jako surový materiál pro sběr informací. Facebook přesně ví, jak zacílit reklamu podle vašich koníčků, věku, názorů, lajků nebo fotek. A taky rád experimentuje.
Před pár lety si třeba pohrál s lidskými emocemi, když jedné skupině uživatelů záměrně zobrazoval jen pozitivní zprávy, kdežto druhé skupině negativní. Výsledkem byla změna nálad, aniž lidé tušili, že jsou součástí pokusu. Facebook tím získal důležitý důkaz, že umí ovlivnit lidské chování v reálném světě.
Zde jeden z mnoha rozhovorů se zmiňovanou Shoshanou Zuboffovou:
Velká šmírovací horečka
Bylo by však nefér říct, že za všechno může jen pár zlých digitálních korporací. Šmírování a obchod s daty totiž dnes využívá kdekdo. Jen v Česku pracují v online marketingu, e-shopech, médiích a dalších platformách stovky tisíc lidí, kteří tenhle typ byznysu považují za známou samozřejmost.
Podle právní společnosti Baker McKenzie Global dnes celých 47 procent všech firem na světě sdílí či prodává data o svých klientech za úplatu. Ostatně vzpomeňme si na skandál české antivirové společnosti Avast, jejíž dceřiná firma prodávala data o svých uživatelích korporacím jako Google, Microsoft či Pepsi.
Zuboffová upozorňuje na spoustu dalších příkladů. Třeba na chytré televize Samsung, které odposlouchávaly rozhovory v domácnostech. Na termostaty zachycující data z domácích sítí, chytré spotřebiče se zabudovanými mikrofony a na průmyslové kamery, jejichž záběry se využívají k analýze lidského chování a pocitů.
Žijeme uprostřed velké šmírovací horečky. A problém je, že se v ní moc neorientujeme.
Žijeme uprostřed velké šmírovací horečky. A problém je, že se v ní moc neorientujeme. Firmy si totiž svoje praktiky samozřejmě nechávají pro sebe. A i když je řada z nich dnes pod větším tlakem, aby nás nechaly nahlédnout pod pokličku, to, co z pod ní občas leze, není vůbec lichotivé.
Obyčejní uživatelé jsou často zaplavováni právními obezličkami a „smlouvami“, v nichž nevědomky souhlasí s odhalováním svého soukromí. Prostě odklikneme tlačítko „souhlasím“ a je to.
Nejde však jen o naši lenost. Zuboffová vysvětluje, že kdyby měl každý skutečně číst, co se píše ve smlouvách na internetu, strávil by tím stovky hodin času a potřeboval by tým právníků. Ve skutečnosti jde o velkou mocenskou asymetrii v neprospěch uživatelů.
A když dojde ke skandálu? Daná firma na oko sklopí uši, řekne, že už to nikdy neudělá a klidně zaplatí pokutu. Má totiž spočítané, že si ztráty vydělá zase zpátky. Internetový svět zkrátka připomíná Klondike nebo divoké české devadesátky. Jakákoliv regulace se vymáhá těžko.
Stírání rozdílu mezi člověkem a slepicí
V celém příběhu nám však chybí klíčový díl. Proč vlastně lidem šmírování a kšeftování s daty nevadí? Copak o něm neví, anebo se s ním smířili? Odpověď nabízí známý izraelský historik Yuval Noah Harari ve svém bestselleru Homo deus. Stručné dějiny zítřka (2018).
Zdá se, že šmírovací kapitalismus je součástí mnohem radikálnější změny celé lidské civilizace. Harari tvrdí, že jsme jako lidstvo vstoupili do zbrusu nové éry, plně srovnatelné s průmyslovou revolucí, v níž se rodí nové světové náboženství – „dataismus“.
Šmírovací kapitalismus je součástí mnohem radikálnější změny celé lidské civilizace.
Přichází konec víry v humanismus a lidskou jedinečnost. Člověk se místo toho plně podřizuje umělé inteligenci. Moderní věda říká, že máme zcela odevzdat naše životy počítačovým algoritmům, které nás pochopí lépe než my sami. A naše soukromí v tom pochopitelně nehraje žádnou roli. Je to jen další nášup dat pro superinteligentní stroje.
Harariho dílo je fascinující ukázkou toho, kudy se dnes lidstvo ubírá. Veškeré živé organismy a společenství jsou totiž čím dál víc považovány jen za shluky neosobních dat.
Zatímco humanismus tvrdil, že světu dává smysl lidská zkušenost a pocity, dataismus říká, že vše jsou jen toky informací určené pro počítače. My všichni a svět kolem nás nejsme víc než matematické vzorce – algoritmy –, které můžeme libovolně zkoumat a přetvářet.
Dataismus říká, že mezi člověkem a slepicí vlastně není moc velký rozdíl; jsou to jen dva shluky dat, z nichž jeden je trochu složitější. Lidské hledání smyslu a prožívání je taky marné. Google a Facebook řídí algoritmy, které nejenže vědí, jak se cítíte, ale čím dál lépe chápou i to, co si koupíte nebo koho budete volit.
Koronavirus a Velký bratr
Naše závislost na on-line světe se jasně vyjevuje v souvislosti s koronavirem. V této bezprecedentní globální krizi nám sociální sítě umožňují zmírnit společenskou izolaci, částečně udržet v chodu obchody a šířit aktuální informace.
Jenže jak varuje Harari, úřady se zároveň pomocí on-line technologií nově snaží sledovat nakažené lidi, zavádí výjimečná opatření, které bychom si ještě před pár měsíci neuměli představit a nutí nás k nebezpečné volbě mezi zdravím a naším soukromím.
Také v Česku zavádíme systém „chytré karantény“, který má sledovat lidi nakažené koronavirem pomocí dat z chytrých telefonů a kreditních karet. Jde o průlom do našeho soukromí, který přichází ve výjimečné situaci. Má oddělit zdravé od nemocných. Je však otázka, jestli jsme tím nespustili něco mnohem nebezpečnějšího, co jsme neměli šanci promyslet.
Nepovede sledování nemocných k jejich společenské stigmatizaci? A kde vlastně končí hranice mezi „výjimečným stavem“ a normální dobou? Jak už to bývá, nouzová opatření a sledování lidí s námi můžou zůstat i po odeznění epidemie. Dnes nemáme na výběr. Ale co později? Kdo nám zaručí, že datové technologie nebudou ještě víc ovládat náš život?
Kde vlastně končí hranice mezi „výjimečným stavem“ a normální dobou?
Koronavirová pandemie se může stát novým bodem zlomu ve vývoji šmírovacího kapitalismu. Technologie mohou v budoucnu ještě podrobněji monitorovat náš zdravotní stav, sbírat o nás detailní biometrické údaje a ty pak zpeněžit. Kontrola veřejného zdraví se může stát novým zlatým dolem pro datové firmy, které navíc státu rády vypomůžou se zaváděním represivních opatření.
Facebookový převrat
Nadšení pro technologie by nás nemělo zaslepit. Stále se za ním totiž skrývá kšeftování s naším soukromím a hrozba ještě větší kontroly našich životů. Je totiž naivní věřit, že když někdo disponuje tak obrovským množstvím dat o lidech, nebude toho chtít zneužít. Na rizika s tím spojená upozorňuje uznávaný britský politolog David Runciman v knize Jak končí demokracie (How Democracy Ends, 2018).
Runciman píše, že dnešní demokracie trpí těžkou krizí. Lidé cítí velké odcizení od politiky, nevěří, že jim vlády zlepší život, a mají za to, že státy fungují špatně. A právě na lidovou naštvanost dnes naskakují demagogové, kteří na sociálních sítích tvrdí, že „vracejí hlas lidem“. Jenže to je velký omyl.
Lidé cítí velké odcizení od politiky, nevěří, že jim vlády zlepší život, a mají za to, že státy fungují špatně. A právě na lidovou naštvanost dnes naskakují demagogové, kteří na sociálních sítích tvrdí, že „vracejí hlas lidem“.
Facebook a Twitter daly politikům velkou šanci komunikovat s lidmi napřímo a rychle. Každý status Donalda Trumpa sleduje sedmdesát milionů jeho fanoušků a Andreje Babiše desítky či stovky tisíc. Potíž je, že v politice roste moc oligarchů, kteří mají peníze na masivní PR a digitální reklamu. A musí to být zároveň šoumeni, kteří na sebe strhávají pozornost šokujícími výroky.
Demokracie se čím dál víc mění v infantilní divadlo, v rej bizarních hlášek a nesmiřitelných internetových diskusí. Jak už víme, Facebook vyhrocené debaty a zprávy miluje, protože díky nim získává víc dat o lidech. Politika se pak degraduje na boj o cílové skupiny „zákazníků“, ve kterém i menší neshody můžou přerůst do tvrdých mezilidských konfliktů.
Ponižování, panika, urážky či skandalizace lidí je pouze jeden produkt dnešní facebookové doby. Dalším je krmení digitálních firem daty a zvyšování jejich příjmů z reklamy. A třetím je ničení „zastaralé“ demokracie, jejíž pomalé instituce počítačovým algoritmům prostě nestačí.
Facebook i jiné datové korporace jsou tak mocné, že vytvářejí potenciální konkurenci státům. Kdyby dnes samy dohromady vytvořily stát, staly by se sedmou největší ekonomikou na planetě. A i když nevlastní armádu ani vojáky, pronikly do soukromí svých uživatelů lépe než jakákoliv tajná služba na světě. A jelikož všichni trávíme velkou část života on-line, jsou také novým místem, kde žijeme.
Demokracie se čím dál víc mění v infantilní divadlo, v rej bizarních hlášek a nesmiřitelných internetových diskusí.
Facebook se podobá novému impériu. Výraz „sociální síť“ zakrývá tvrdou hierarchii, kterou tvoří úzké vedení v čele s Zuckerbergem, jež má k dispozici kolosální množství citlivých dat. Nikdo dnes neumí zaručit, že se jejich „majitel“ nepokusí takovou moc zneužít – ať už vůči jednotlivým státům či na globální úrovni. Jeden národní stát proti Facebooku nezmůže zhola nic. Dnešní demokracie neumí na technologickou revoluci pružně reagovat, a možná k tomu ani nejsou vybavené. A leckterý politik naopak využívá datový kapitalismus k posílení vlastní moci.
Zde velmi povedený dokument o šmírovacím kapitalismu, kterým Shoshana Zuboffová provází:
Kdo má data, vládne všem
Je směšné, že dnešní konzervativní populisté tolik horují za „návrat k tradicím“, „národním hranicím“ a „starému světu“. Jsou to právě oni, kdo masivně využívají ty nejmodernější technologie, data a globalizovanou virtuální realitu, jež s tradicemi nemají nic společného.
Spíš chtějí zmanipulovat co nejvíc lidí a udržet jejich pozornost šokujícími výroky a chováním, což náramně vyhovuje nadnárodnímu datovému průmyslu. Jeho součástí jsme skoro všichni.
Shoshana Zuboffová odhaduje, že 98 procent všech známých informací už je přeměněno na data. A to má revoluční dopad. S proměnou všeho na data se totiž mění také povaha moci a bohatství. Dnes vyhrává ten, kdo má co nejvíc dat o lidech, ty nejlepší nástroje na jejich analýzu a umí ovlivnit naše chování.
Dříve bylo zdrojem bohatství a moci vlastnictví továrny nebo banky. Jenže nyní o všem čím dál víc rozhodují právě data a algoritmy. Jsou to dnes ty nejcennější výrobní zdroje, které převyšují zdroje ostatní, což si výrazně uvědomují i vládci v nedemokratických režimech. Nestačí mít jen peníze, policii a armádu; potřebujete také detailní přehled (data) o občanech. Svoje o tom vědí třeba v takové Číně, kde sbírání dat o lidech slouží ke kontrole celé společnosti.
Dříve bylo zdrojem bohatství a moci vlastnictví továrny nebo banky. Jenže nyní o všem čím dál víc rozhodují právě data a algoritmy.
Čína v posledních letech zavádí tzv. dohlížecí „systém sociálního kreditu“, který sleduje a vyhodnocuje chování lidí, posuzuje vaše přátelé či finanční situaci a podle toho vás buď odmění, anebo potrestá.
Ve spolupráci s místními digitálními korporacemi, které masivně sbírají data z internetových plateb a sociálních sítí, vás čínské úřady můžou umístit na černou listinu „závadných osob“ či dlužníků. A následně vám zabránit v nakupování věcí, jízdenek nebo vás třeba veřejně zostudit.
Říkáte si, že čínská „digitální totalita“ k nám nemůže dorazit? Ne tak rychle. Data o lidech už existují. A všeobecný strach z terorismu a nově z šíření koronaviru, posilují poptávku po přísnosti, větší kontrole a vládě silné ruky. Lidé se totiž obvykle vzdají soukromí a části svých svobod, když mají strach a touží po bezpečí. Právě dnes to můžeme vidět v přímém přenosu.
V čínském případě navíc nejde jen o snahu státu kontrolovat svoje občany, ale i o nízkou ochranu jejich soukromí a volnou ruku soukromých firem, které o nich masivně sbírají data. Dnešní digitální doba vytváří nové nerovnosti, které navazují na ty staré. Kromě toho, že existují bohatí a chudí či diskriminace podle barvy pleti, se nově hraje i o to, kdo má možnost shromažďovat a vyhodnocovat data o lidech. A v takovém případě se ocitáme na dost tenkém ledě.
Sázím na demokracii
Co s touhle šlamastykou můžeme udělat? Jako jednotlivci málo. Na Facebooku jsou dnes bezmála dvě a půl miliardy lidí. A i kdyby nebyli, všichni platíme kreditkou, používáme chytré telefony, nakupujeme online a hledáme na internetu. Tohle všechno generuje data, přičemž sociální sítě zdokonalily jejich sběr a třídění.
První nadějný výstřel přesto zazněl letos v lednu. Na sto čtyřicet světových vlád se totiž shodlo, že společně prosadí digitální daň na obří korporace jako Facebook, Google a Amazon. Vadí jim, že digitální giganti daní svoje příjmy ve státech s nízkou daňovou zátěží, i když mají svoje zákazníky v jiných zemích po celém světě.
Co s touhle šlamastykou můžeme udělat? Jako jednotlivci málo.
Donald Trump však v téhle souvislosti pohrozil státům, které digitální daň jednostranně zavedou, obchodní válkou. A je otázka, jak zamíchá kartami ekonomická krize, kterou čekáme kvůli koronaviru. Na záměru zavést digitální daň se muselo dohodnout zhruba 140 států OECD, aby byla taková iniciativa reálná – což znamená podobnou politickou sílu, kterou nyní používáme k řešení klimatické krize (tj. OSN). To jen na ilustraci obrovských rozměrů celého problému.
Na rozdíl od ekologické katastrofy či pandemie viru si však negativní následky digitalizace stále pořádně neuvědomujeme. Je snazší představit si nemoc a konec světa s vymíráním živočišných druhů, než odlidštěnou budoucnost v důsledku špiclování našich životů a technologického boomu.
Obecně je těžké si připustit, že virtuální svět není „zadarmo“ a že objem aktivit, které v online prostředí děláme bez nutnosti za ně platit, se na druhé straně překlápí v dobře zaplacenou sondu do našich životů. Kdyby to tak bylo, přece by to nebyla žádná svoboda, a to by člověk přeci poznal… Nebo ne?
Lhostejné pokrčení rameny však není řešení. Pořád máme štěstí, že žijeme v Evropě, kde platí přísnější pravidla na ochranu našeho soukromí než třeba v USA. Součástí této ochrany jsou regulace, které zpřísňují podmínky pro sběr citlivých osobních údajů (a to včetně v Česku dost neprávem vysmívaného GDPR).
Pořád ale platí, že počítače a šmírovací kapitalismus se vyvíjejí hrozně rychle. A představují obrovskou výzvu pro kritické vědce, datové analytiky a politiky, aby ho pochopili. Shoshana Zuboffová přirovnává naši dnešní situaci k počátkům průmyslového kapitalismu, kdy se teprve začalo diskutovat o škodlivosti dětské práce. Trvalo ještě dlouho, než se lidstvo shodlo, že dětská práce jako taková je špatná.
Stojíme na rozcestí. Nejde jen o to, že nás na internetu sledují reklamy. Autoři jako Zuboffová, Harari a Runciman ukazují, že v sázce je ve skutečnosti další směřování lidstva. Naše chování se skrze data stává moderní ropou či uhlím, a tedy perspektivním výrobním zdrojem pro jiné. Někdo jiný o nás zkrátka sbírá informace, vydělává na tom, a může zásadně ovlivnit ekonomiku, politiku a chod světa. Smíříme se s tím? V době pandemie koronaviru kdekdo tvrdí, že nám nic jiného nezbývá, že musíme řešit naléhavější věci a obětovat naše soukromí. Jenže to je omyl. Je na nás, jestli se v důsledku dnešní globální krize ocitneme ještě víc v područí šmírovacího kapitalismu a dovolíme jiným, aby si z nás dělali zlatý důl, anebo ne. Zuboffová k tomu nadějně dodává: „Šmírovací kapitalismus existuje teprve dvacet let. Demokracie je tu s námi už několik století. Já sázím na demokracii.“
…
PS.1: K tématu učitě doporučuji následujících cca 24 minut, kdy Sascha Baron Cohen vysvětluje fungování sociálních sítí
A též nový dokument Social Dilemma:
PS.2: Já o tomto tématu diskutoval minulý týden s Jitkou Holasovou v rozhovoru „Algoritmy jsou silnější než svobodná vůle„.
