25.3.19

Bořivoj Brdička: Démonologie podle Marka Pesceho

Zpráva o setkání dvou vrcholných odborníků v oboru vzdělávacích technologií – Douglase Rushkoffa a Marka Pesceho, kteří se v rámci kampaně Rushkoffovy knihy Team Human sešli v New Yorku, aby realizovali veřejné vystoupení doplněné nahráváním podcastu.

Nedávno došlo k zajímavé události. Dvě nám dobře známé, bydlištěm značně vzdálené osobnosti, se setkali tváří v tvář. Důvodem byla kampaň profesora teorie médií a digitální ekonomiky na City University of New York Douglase Rushkoffa (Ovládej, abys nebyl ovládán!), kterou organizuje na podporu prodeje své poslední knihy Team Human. V newyorské Civic Hall se sešel s australským futuristou, autorem, vynálezcem a mágem Markem Pescem (Pesceho hypermimesis) [1]. Vznikla přitom tato nahrávka.

Mark Pesce se tak stal jedním z členů Douglasova Human týmu. Podstatou jeho činnosti je snaha zachovat v lidské společnosti soulad mezi individuálním svobodným rozhodováním a prosazováním všem prospěšných společných zájmů. Největší překážkou se v poslední době stávají umělou inteligencí podporované a prostřednictvím internetu fungující platformy, které lidi de facto rozdělují a zvyšují jejich radikalizaci (viz Digitální dissensus). Tým Human proto pracuje na budování pochopení důležitosti lidské pospolitosti za účelem obrany proti nevhodnému ovlivňování prostřednictvím technologií.

Ještě před 10 lety vypadal internet docela jinak. Zdálo se, že se stane místem propojování různých lidí, spolupráce a sdílení (kultura konektivity podle José van Dijck). Některé příznačné aktivity té doby jsou dodnes velmi aktuální. Je to např. hnutí open source, otevřené vzdělávací zdroje nebo dnes tak často používaná Wikipedie. Povšimněte si té skutečnosti, že všechny jsou dílem samotných účastníků sítě bez komerčních zájmů a vlivu umělé inteligence. Jedná se o produkty shromažďující jen lidské znalosti. Jako Tým Human bychom se měli soustředit na jejich další rozvoj.

Bohužel jsme spíše svědky toho, jak vliv získávají platformy ovládané algoritmy, které využívají možností strojového učení. Ty se snaží každého uživatele přimět, aby setrvával v jejich prostředí co nejdéle. Předkládají mu, bez ohledu na pravdivost sdělení, to, co se mu líbí a posilují bezmyšlenkovité a bezpracné přijímání mediálních sdělení. Taktéž vedou k individualismu. Vyvolávají snahu sebe sama prezentovat v lepším světle a potřebu být v online světě rozeznatelný a uznávaný.

Mark ve svých přednáškách vysvětluje, že se během posledních 2–3 let stávají praktiky platforem neúnosné. Nikdy nezapomene zmínit aféru, která rozvířila mediální kruhy (zvláště v Austrálii) na jaře 2017. Tehdy vyšlo (díky whistleblowerům) najevo, že Facebook nabízí zadavatelům reklamy možnost oslovit mladé lidi přesně v okamžiku emocionálního vypětí, které již je schopen identifikovat v reálném čase. Případ asi nejdůkladněji popisuje Wired [2]. Bez souhlasu uživatelů to samo o sobě je vážným porušením práva na soukromí, o to horší, jedná-li se o nezletilé.
Problém je ale ještě mnohem vážnější. Známý je výzkum, který Facebook realizoval již v roce 2014 [3]. Tehdy proběhl poměrně úspěšný experiment, v němž se ověřovala schopnost bez vědomí uživatele ovlivnit jeho náladu na základě toho, jaké zprávy dostává. To znamená, že Facebook je nejen schopen reklamu předložit uživateli v okamžiku, kdy je na ni emočně naladěn, ale že vhodnou emoci dokáže též uměle když ne přímo vyvolat, tak určitě alespoň přiživit. Člověk si pak koupí třeba i to, co nepotřebuje. Pokušení ovládat touto cestou třeba také politické smýšlení je samozřejmě obrovské.

Vypadá to, že jsme díky GDPR v Evropě zavedli pravidla, která tyto manipulativní postupy značně omezí, ale nenechme se mýlit, nejprve je musíme umět odhalit, což nemusí být snadné. Umělá inteligence začíná být schopna fungovat tak, že bude obtížně identifikovatelná. Platformní algoritmy jsou zásadně tajné! Další otázkou je, zda si běžní uživatelé internetu umí zjistit, co znamená, dávají-li souhlas se zpracováním svých osobních dat. A tak nám nezbývá než konstatovat, že se velké sociální platformy stávají nástrojem sledování a globálního ovlivňování myšlení (chování) lidí. Díky tomu, že se vyvíjelo statisíce let jen v kontaktu mezi lidmi, je poměrně snadno předvídatelné.

Zvláště mladí lidé nemají vyvinutou schopnost se bránit. Často se dostávají do závislosti. Věří něčemu, co umí číst jejich myšlenky, zná jejich slabiny, umí se přizpůsobit jejich náladě a ovládá je ne k jejich prospěchu, ale ke svému. Kdybychom žili v 15. st., asi bychom něco takového nazvali démonem. Proto mluvíme o Pesceho démonologii jako o fenoménu, který jednoduše ukazuje, jaký problém se v pozadí skrývá. Nechat se ovládat je ve skutečnosti hodně podobné situaci, v níž se ocitl Faust, když uzavřel smlouvu s ďáblem.



Celý článek na spomocnik.rvp.cz.

Žádné komentáře:

Okomentovat