11.11.19

Bořivoj Brdička: Odpor vůči ovlivňování lidí online podle Williamse

Zpráva o knize vědce a bývalého specialisty Google na reklamní strategie vysvětlující postupy platformních systémů disponujících umělou inteligencí používané k ovlivňování uživatelů vyzývající k odporu.

O Jamese Wilsona Williamse jsem se začal zajímat, když jsem zjistil, že si ho CoSN pozvalo jako hlavního řečníka na svou výroční konferenci. Jedná se o dalšího z řady odborníků, kteří varují před bezmyšlenkovitým využíváním současných online platforem – tedy hlavně sociálních sítí. Že ví, o čem mluví, prokazuje jeho profesní dráha. Jako student to dotáhl až k doktorátu na Oxfordu, kde se stal posléze vědeckým pracovníkem. 10 let pak působil jako specialista na reklamní strategie u Google, aby se nakonec na Oxford zase vrátil. Jeho životní dráha je tak velmi podobná Tristanu Harrisovi, na jehož kampani proti ovlivňování lidí technologiemi se podílí (viz Dobře strávený čas podle Tristana Harrise).

Jamese proslavila jeho kniha Stand Out of Our Light: Freedom and Resistance in the Attention Economy (Běžte nám ze světla: Svoboda a odpor v ekonomice pozornosti). Za zmínku stojí již samotný způsob jejího vzniku v rámci Nine Dots Prize. Jedná se o program, který vybírá jednu z anonymních odpovědí (ve skutečnosti vlastně již námětů na dosud nenapsanou knihu) o délce max. 3 tisíce slov na danou otázku a poskytuje autorovi 100 tisíc dolarů na tvorbu. Ta otázka v roce 2016 zněla: „Likvidují digitální technologie politiku?“ Vítězem se stal James Williams. Cambridge University Press nabízí PDF celé knihy zdarma.

James se inspiroval u starořeckého filozofa Diogena (4. st. př. n. l.), který údajně na dotaz největšího panovníka té doby Alexandra Velikého, co pro něj může udělat, odpověděl: „Odstup mi ze slunce.“ Na tomto příběhu buduje analogii se současnou mocí v podobě digitálních Alexandrů, kteří lidem skutečně „plní mnohá jejich přání“ [1, str. 3]. Aby ta analogie dávala smysl, je třeba si uvědomit, že i tito světoví digitální vůdci mají ve zvyku nám bránit vidět věci nezkresleně. Hlavním pomocníkem v této jejich snaze je upoutávání naší pozornosti.

Díky prokazatelně existujícímu ovlivňování se skutečné potřeby lidí a cíle na technologie se orientujících společností rozcházejí. Typickými lidskými potřebami jsou např. naučit se hrát na piano, trávit více času s rodinou, přečíst si knihu apod., zatímco hlavním cílem technologiemi podporovaných online platforem je přimět uživatele, aby na nich trávil co nejvíce času a prohlédl si co nejvíce obsahu, který přizpůsobují jeho preferencím. Ve skutečnosti nevytvářejí takové produkty jako jiní výrobci, snaží se utvářet podle svých potřeb samotné uživatele. Ve svém důsledku tak formují celou společnost (Foggův model ovládání lidí technologiemi).

James v této souvislosti připomíná známé dilema, které popsal v roce 1984 ve své knize Ubavit se k smrti Neil Postman. Jde o to, zda další vývoj lidstva bude připomínat spíše Orwellovu Farmu zvířat nebo Huxleyho Konec civilizace (viz otázka „Jakých rizik bychom se v nejbližší budoucnosti měli vyvarovat?“ v Rozhovoru s vizionářem). Skoro to začíná vypadat, že moderní technologie vybavené umělou inteligencí jsou schopny obě katastrofické vize spojit a zábavy chtivé občany ovládnout.
James připouští, že funkční řešení nezná, ale trvá na tom, že se musíme touto problematikou zabývat. Jestliže tvrdíme, že technologie ovlivňují vědomí lidí, je třeba si definovat, co tím vlastně myslíme. Inspirován filozofem Harry Frankfurtem James používá pro popis vědomí přirovnání ke světlu, které nám umožňuje vidět věci kolem sebe. Prostřednictvím světla definuje tři typy vědomí [1, str. 49]:

Bodové světlo – naše okamžitá schopnost obrátit pozornost k úkolu, na němž pracujeme;
Světlo hvězd – naše schopnost nasměrovat svůj život ke splnění vyšších cílů (navigovat podle hvězd);
Denní světlo – základní schopnosti umožňující definovat naše životní cíle jako např. reflexe, metakognice, chápání, inteligence ad.

To, jaké světlo na nás svítí, nemáme plně pod kontrolou, a má to přímý vliv na naše chování. Součástí života většiny dnešních lidí je prostředí spoluvytvářené technologiemi (v mnoha případech okupuje podstatnou část bdělého stavu). Takže působí na všechny typy vědomí (světla). Rozpoznat tento vliv je nejjednodušší u světla bodového. Sem patří všechny všeobecně známé přímé útoky na naši pozornost – cukrátka mysli (reklamy, personalizovaný obsah, prodlužování pobytu na soc. sítích apod.). James používá termín „clickbait“, což je obsah, jehož úkolem je přimět návštěvníka, aby klikl na odkaz na určitou webovou stránku.

Celý článek na spomocnik.rvp.cz.

Žádné komentáře:

Okomentovat