Houstone, máme problém

Klíčovou úlohou absolventů kaptologie v technologických firmách (viz minulý díl) je tedy vyvinout algoritmy s cílem získat pro firmu co největší podíl na trhu pozornosti/vědomí. Málo se ví, že tyto algoritmy dnes fungují na stejných principech jako moderní herní automaty. Fungování světa herních automatů bravurně popsala v roce 2012 Natasha Dow Schüllová v knize Navržená závislost. Na schopnosti herních automatů připoutat k sobě lidi stojí například celá ekonomika Las Vegas.

Algoritmy sociálních sítí dnes fungují na stejných principech jako moderní herní automaty.

Za posledních dvacet let vytlačila nová generace strojů stoly na ruletu, Black Jack i kostky. Dnešní stroje už nemají žádnou páku ani nic mechanického. Jedná se o podobně sofistikované počítače, jako jsou dnešní chytré telefony, vytvořené týmy softwarových inženýrů, matematiků, grafiků a odborníků na reklamní texty. Cílem kasin je také maximalizovat time-on-device (čas strávený u stroje). Tomu se následně podřizuje každý detail fungování herních místností. Gambleři si mohou objednat jídlo a pití přes obrazovku. Osvětlení, dekorace, úroveň hlučnosti, dokonce i to, jak stroje voní, to vše je puntičkářsky vykalibrováno. Promyšlená není jenom míra osvětlení, ale dokonce i úhel, z jakého dopadá světlo. Z výzkumů vyplývá, že světlo stimuluje energii hráče nejlépe, když mu dopadá na čelo. Časté je nastavení „skorovýher“, kdy se výsledek nepodaří o jeden malý detail. Prohra je tak přerámována jako „skorovýhra“. Matematici nastavují algoritmus stroje tak, že hráči pokračují ve hře, i když prakticky nonstop prohrávají. Podle typů hráčů existují různé scénáře. Jsou hráči, kteří preferují možnost velkých výher, a hráči, kteří ocení spíše menší výhry. „Matematici ladí algoritmy tak, aby obešly šedou kůru mozkovou a mířily přímo na ještěrčí mozek,“ vysvětluje Natasha Dow Schüllová. A jako by to nestačilo, za frustrovanými hráči, kteří už zvažují odchod, přichází zaměstnanec kasina, tzv. luck ambassador, aby hráče poplácal po rameni a případně nabídl lístky na nějaká představení nebo kupóny na další gambling. Hráč netuší, že ambasador štěstí přišel na základě dat, která na monitoru signalizují, že se přiblížil svému „prahu bolesti“. Nabídka jídla zdarma v místním steak-housu naředí bolest potěšením a dodá hráči motivaci do dalšího hraní.

Prohra je tak přerámována jako „skorovýhra“. Matematici nastavují algoritmus stroje tak, že hráči pokračují ve hře, i když prakticky nonstop prohrávají.

Není zajímavé si uvědomit, jak se jedno české město za druhým snaží vytlačit ze svých center herny, a přitom má každý své privátní kasino v kapse?

Houstone, máme problém

Přes mainstreamový technooptimismus sílí i na nejvyšších pozicích v Silicon Valley hlasy, že čelíme velkému problému. Sean Parker, bývalý prezident Facebooku, si veřejně postěžoval na „neočekávané důsledky“, které jeho platforma pomohla vytvořit. „Jen Bůh ví, co to dělá s mozky našich dětí.“ (zde). Justin Rosenstein, člověk, který vytvořil facebookový like a Google Chat, dnes veřejně lituje toho, že přispěl k vytvoření technologie, kterou považuje za psychicky poškozující. „Všichni jsou dnes roztěkaní,“ říká Rosenstein (obojí zde). Zdá se, že vážnost situace si uvědomují dokonce i někteří současní šéfové. CEO Snapu Evan Spiegel varoval před rolí sociálních médií v bezmyšlenkovitém nahánění „přátel“ nebo „bezcenném vyrušování“ (zde). Šéf Twitteru Jack Dorsey prohlásil, že musí zlepšit „konverzační zdraví své platformy“ (zde). Dokonce Mark Zuckerberg ohlásil už v lednu 2018, že Facebook má novou prioritu – „maximalizovat dobře strávený čas“ spíše než celkový čas (zde).

Podle Harrise je nutné udělat následující tři věci:

1) Je třeba připustit, že svobodná vůle je mýtus (o tom více zde). Vůli samozřejmě máme, ale není svobodná ve smyslu, jak svobodu chápeme. Ve světě, kdy podobu stále větší části našich životů určuje několik technologických platforem, to platí stále více. Až si dokážeme připustit, jak snadné je naši mysl naprogramovat, jak jednoduché je naimplantovat do ní cizí myšlenky a jak ochotně věnujeme čas něčemu, co jsme si sami vůbec nevybrali, nebudeme potom chtít rozumět tomu, co se to děje, a bránit se proti tomu? Potřebujeme nové modely a systémy zodpovědnosti. Je nutné, aby lidé v řídicích pozicích fungovali transparentně a podřizovali se tomu, co chceme my, ne několik málo akcionářů. Jedinou formou etického přesvědčování je to, kde jsou cíle přesvědčujícího v souladu s cíli přesvědčovaného. Z toho vyplývá, že je třeba začít zpochybňovat i velké systémové záležitosti, jako je například dnešní model reklamy.

Naprostý základ naší obrany vůči manipulaci ze strany technologických giga-platforem je pochopit, že svobodná vůle je mýtus.

2) Nakonec potřebujeme vyvinout úplně nový způsob navrhování webů a mobilních aplikací, aby technologie lidem umožňovala žít tak, jak skutečně chtějí, aby je obohacovala a navzájem propojovala.

3) Jak je vidět, digitální obři tak, jak dnes fungují, jsou další zakouřenou zasedačkou, dalším systémovým problémem, který na individuální úrovni nevyřešíme. Přesto je nás stále víc, kteří se snažíme závislostem na obrazovkách nějak stavět. Můj kamarád Adam se například rozhodl vytlouct klín klínem, tedy aplikaci aplikací. Ta jeho mu v počítači umožňuje „pozamykat“ místa, kam nechce, aby ho to pustilo jindy než v konkrétně stanovený čas. Zaujalo mě, že se ta jeho aplikace jmenuje Freedom, tedy svoboda. Možná nás to celé nakonec naučí, co to svoboda vlastně je (o tom např. zde).