25.6.18

Bořivoj Brdička: Když velký bratr dostane velká data

Zpráva o tom, jakého pokroku dosahuje plošná aplikace umělé inteligence a hlubokého učení na velkých datech za účelem kontroly lidí (stabilizace společnosti) v Číně, to vše v souvislosti se školstvím.

Velká data byla nejdříve využívána ke komerčním účelům formou cílené reklamy. Ve školství se v poslední době často setkáváme se snahou analyzovat data vyprodukovaná žáky při práci s digitálními přístroji za účelem hodnocení výsledků jejich učení (learning analytics, personalizace). Že je to záležitost riskantní z pohledu ochrany osobních údajů, je nám, doufám, jasné. Demokratická společnost však má prostředky, jak nekalým praktikám čelit. Viděli jsme to na eliminaci snah firmy inBloom v USA získávat velká data od žáků, proti čemuž se postavili rodiče, a dosáhli soudního zákazu (viz Současný stav vývoje systémů adaptivního řízení výuky včetně diskuze pod článkem). Aktuálně zaváděné evropské GDPR je zřejmým důsledkem tohoto vývoje.

S demokracií však na tom je současný svět dost špatně. Jsme svědky toho, jak se o netransparentní zpracování velkých dat o občanech pokoušejí bezpečnostní agentury téměř všech zemí (viz Edward Snowden). Co se může stát, dostane-li se takový nástroj umožňující analyzovat činnost lidí na velkých datech do rukou totalitní moci, můžeme pozorovat v Číně [1]. Vláda zde zavádí reputační systém tzv. „sociálních kreditů“. Jedná se zjevně o způsob, jak ještě více posílit moc vládnoucí strany a eliminovat všechny známky opozice v samém zárodku. Informací je velmi málo. S jistotou lze říci, že v pozadí bude pracovat podobný algoritmus založený na umělé inteligenci, jaký používají nejrozšířenější komerční platformy, včetně naprosto stejné neprůhlednosti. Jen cíl je trochu jiný. Namísto maximalizace stráveného času se v tomto případě jedná o nástroj centralizovaného ovládání obyvatel.

Čína má v tomto dlouhou tradici již od té doby, kdy se komunisté v čele s Mao Ce-tungem chopili moci (1949). V současné době existuje větší množství lokálních kreditních systémů provozovaných místními úřady hodnotících chování občanů [2]. Též jsou vyvíjeny online zákaznické kreditní systémy založené na hodnocení chování uživatelů sociálních sítí a nákupních portálů (např. Sesame Credit). Do roku 2020 mají být všechny tyto aktivity propojeny v rámci jednoho národního systému. Ten se již začal experimentálně ověřovat.

Systém shromažďuje dostupná data o všech občanech ČLR. Kromě základních dat z registru obyvatel (adresa, fotka) ví, co čtou i co vkládají na sociální sítě (za pochvalu vlády přiděluje kladné body a naopak), sleduje, zda nejezdí načerno, platí včas účty, neruší noční klid, starají se o seniory apod. Jména občanů s nejvyšším sociálním kreditem jsou již dnes lokálně zveřejňována a mají všelijaké výhody. Pro ty, kteří se ocitnou na opačné straně tohoto „žebříčku“ to může mít i velmi nepříjemné důsledky. Zde je 5 příkladů již existující praxe [3]:
  1. Zákaz cestovat letadlem či rychlíkem
    Dle sdělení Channel News Asia vstoupilo toto opatření v platnost 1. 5. 2018 a týká se od počátku 9 milionů lidí s nejnižším sociálním kreditem. Součástí zákazu je pochopitelně též nemožnost vycestovat do zahraničí.
  2. Zákaz studovat
    Beijing News informovali o tom, že 17 lidem, kteří odmítli nastoupit vojenskou službu, bylo znemožněno studovat na vysoké škole. (To je ale jen vrchol ledovce, protože dostatečná úroveň sociálního kreditu jistě bude podmínkou přijetí na všech lepších čínských univerzitách.)
  3. Nemožnost získat lepší zaměstnání
    Občané s nízkým sociálním kreditem nemají šanci získat lepší zaměstnání ve státních i soukromých firmách.
  4. Zákaz ubytovat se v lepším hotelu
    Dle informací zjištěných BBC má sociální kredit též vliv na možnost ubytovat se v hotelu. Lidé s vyšším kreditem nemusí platit zálohu.
  5. Zveřejnění seznamu „špatných občanů“
    Lidé s nejnižším kreditem jsou zapsáni do veřejně dostupného seznamu, což má za následek nejen hanbu, ale též mnoho dalších komplikací v běžném životě – nemožnost cestovat, získat půjčku, byt, nedostatkové zboží apod.
Jak vidno, tento systém má mnoho společných rysů s tím, co jsme my pamětníci zažívali v dobách budování socialismu i u nás. Dokáži si docela dobře představit, jaké důsledky bude mít, pokud budou existovat úředníci s právem skóre jednotlivých občanů upravovat.

China's social credit system



Celý článek na spomocnik.rvp.cz.

Žádné komentáře:

Okomentovat