27.5.19

Bořivoj Brdička: Je umělá inteligence rizikem pro demokracii?

Článek seznamuje s názory Amy Webb, profesorky New York University a zakladatelky Future Today Institute. Je další z řady akademiků, kteří varují před katastrofickým vývojem společnosti vyvolaným technologiemi. K nápravě jsou nutné základní digitální kompetence většiny občanů.

Dnes se seznámíme s názory Amy Webb, profesorky New York University a zakladatelky Future Today Institute. Oborem, kterému se věnuje na vědecké úrovni, je futurologie – tedy předvídání budoucnosti. To je problematika, která nás zajímá, zvláště když se týká umělé inteligence (AI). Název poslední Amyiny knihy hovoří za vše – Velká devítka: Jak technologičtí obři a jejich myslící stroje mohou zdeformovat humanitu (The Big Nine: How Tech Titans & Their Thinking Machines Could Warp Humanity).

Podle Amy „jsme dosáhli bodu zlomu. Musíme udělat krok zpět a podívat se, kam jdeme.“ [1] Současný vývoj technologií se dostal na nebezpečnou cestu. Problém je v tom, že velcí hráči jako Google, Microsoft, Amazon, Facebook, IBM a Apple (G-MAFIA) v Americe se orientují na krátkodobou maximalizaci výnosu na kapitalistickém trhu znemožňující dlouhodobé plánování, zatímco ti čínští, jako jsou Tencent, Alibaba a Baidu, procházejí konsolidací a shromažďují obrovské množství dat, aby posílili autoritářské ambice vlády.

Zvolna se dostáváme do situace, kdy budou systémy umocněné AI dělat bez nás za nás závažná rozhodnutí. Není třeba hned jako největší riziko zmiňovat inteligentní zbraně. Dokumentovat to lze třeba na mnohem známějším příkladu superpočítače Google AlphaGo, který se v roce 2016 proslavil vítězstvím nad mistrem světa ve hře GO (Co dokáží stroje schopné hlubokého učení). Tehdy byl představitelem tzv. „slabé“ inteligence (ANI – viz Co bychom měli vědět o botech). Zvládal „jen“ tu jednu hru. Následovník AlphaGo, AlphaZero se dnes chlubí tím, že již zvládá 3 na logické myšlení náročné hry najednou (GO, šachy a šógi). [2] To znamená, že se z jednoúčelové umělé inteligence (slabé) zvolna přesouvá do kategorie umělé inteligence silné (AGI).

Ještě mnohem důležitější však je, že původně týmem DeepMind nasazená metoda hlubokého učení pracovala na základě dat získaných vložením tahů všech známých partií odehraných lidmi. Na základě těchto dat počítala pravděpodobnost úspěšného tahu v dané situaci. A vlastním hraním se pak zdokonalovala. Tento postup je ale pro úlohy strojového učení s jasně definovanými (algoritmem popsatelnými) pravidly již, zdá se, překonaný. Ukázalo se, že AlphaZero se může učit hrát i bez dat vytvořených lidmi. Prostě hraje sám se sebou a zdokonaluje se tak rychle, že se během 3 dnů dostane na úroveň vyšší než kterýkoli člověk. Velmistři občas s úžasem zírají na to, jak neobvyklé úspěšné tahy takový stroj použije.

Je to tak. Již dnes jsou oblasti, v nichž, chceme-li dosáhnout nejlepších výsledků, musíme řešení nechat jen na strojích. Denně přitom můžeme pozorovat tisíce různých posunů ve vývoji, které schopnosti těchto technologií dále vylepšují.

Pro budoucnost je zásadní otázkou, zda jsou vyspělé západní státy schopné na stávající situaci reagovat v politické rovině. Zdá se, že právě probíhá souboj v tom, která orientace převládne – zda to bude demokracie založená na svobodné vůli občanů, či totalita založená na ovládání společnosti nyní nově podpořená lidmi generovanými daty. Klíčový vliv bude mít úroveň vzdělání většiny (hlavně mediální gramotnost). Přesněji řečeno, to, zda si lidé budou schopni uvědomit, že jsou všudypřítomnými AI systémy ovlivňováni (Stává se svobodná vůle pouhou iluzí?).

Chceme-li alespoň v nějaké modifikované podobě zachovat společnost s převládajícím demokratickým principem fungování, musíme urychleně zavádět systémová opatření vyžadující značné investice. Zatím je to ale spíše tak, že je vývoj AI v demokratickém světě financován hlavně ze soukromých peněz. A soukromí investoři jsou ve svobodném světě na státě nezávislí (na rozdíl od Číny, která v AI spatřuje strategickou zbraň budoucnosti), a udělají vše pro co nejrychlejší návratnost svých investic. Proto jsme svědky toho, jak G-MAFIA mohutně investuje do vývoje bez ověřování a sdílení výsledků, a díky tomu dělá velké množství špatných rozhodnutí.

My v USA trpíme tragickým nedostatkem předvídavosti. Jestli nezměníme stávající vývoj, blíží se pravděpodobně katastrofa“ [1], říká Amy a formuluje několik doporučení, která mají potenciál katastrofické trendy změnit:
  • Vyvolat diskuzi o důsledcích svobody projevu v situaci, kdy neexistuje pro šíření názorů žádné omezení.
  • Vysvětlovat lidem, že je třeba se starat o to, co se děje s jejich daty.
  • Zavést regulaci sociálních sítí.
  • Komerční sektor musí do své činnosti integrovat udržitelný rozvoj světa (dlouhodobé plánování). To by se mělo projevit např. již při náboru zaměstnanců.
  • Vysoké školy musí zavést nové tzv. hybridní studijní programy, které budou technické vzdělávání kombinovat s humanitním (a naopak). Etika nesmí být vnímána jako samostatné téma, musí být integrována do studia napříč všemi kurzy.
Celý článek na spomocnik.rvp.cz.

10 komentářů:

E.Kocourek řekl(a)...

Nejen umělá, ale i přirozená lidská inteligence je rizikem pro demokracii, neboť snadno odhalí, že demokracie je NEFUNKČNÍ způsob správy věcí veřejných. ////

Poučení z antických dějin říká, že demokracie fungovala pro obec do velikosti cca 5000 občanů. Když ještě mocní a bohatí sdíleli rizika svého vládnutí se spoluobčany. Když válečná galéra plula do bitvy, chuďasové v podpalubí veslovali, střední třída na palubě ve zbroji představovala výsadek, a na můstku boháč velel. Když velel špatně, šli ke dnu všichni. ////

Když se z obce stala mocnost, nebo z Atén dokonce velmoc, demokracie přestala fungovat. A "mazané" vynálezy jako ostrakismus to nedokázaly zachránit. Peršané se naučili hrát demokratickou hru a vždy se jim vyplatilo, nežli platit svou armádu, raději uplatit demokratického politika. ////

Nakonec si demokrati mohli blahopřát, že si je podmanil Filip Makedonský dříve, nežli se za perské peníze vzájemně vyvraždili. ////

E.Kocourek řekl(a)...

Sluníčkářský manifest blbosti z pera Amy Webb, předkládaný panem Brdičkou, opakuje známé sluníčkářské pošetilosti. ////

v USA trpíme tragickým nedostatkem předvídavosti -- Ano, ale to s AI nikterak nesouvisí. ////

budou systémy umocněné AI dělat bez nás za nás závažná rozhodnutí -- Situace dobře známá ze zastupitelské demokracie. AI určitě nebude dělat horší rozhodnutí nežli těch 281 vyvolených expertů na všechno v Parlamentu. ////

vyvolat diskuzi o důsledcích svobody projevu -- Ano, svoboda projevu škodí sluníčkářům a hlupákům. ////

Vysvětlovat lidem, že je třeba se starat o to, co se děje s jejich daty -- Kupodivu, správně. ////

Zavést regulaci sociálních sítí. -- A což takhle rovnou zakázat, milí sluníčkáři? Nebo to až později? ////

Komerční sektor musí do své činnosti integrovat udržitelný rozvoj světa -- A jedině sluníčkáři vědí, co to je. ////

již při náboru zaměstnanců -- Sto sluníčkářů povinně do každé firmy! ////

Vysoké školy musí zavést nové tzv. hybridní studijní programy -- Aby se nikdo nic pořádného nenaučil, a aby všichni byli blbí jako sluníčkáři. ////

Karel Lippmann řekl(a)...

"Vysoké školy musí zavést nové tzv. hybridní studijní programy, které budou technické vzdělávání kombinovat s humanitním (a naopak). Etika nesmí být vnímána jako samostatné téma, musí být integrována do studia napříč všemi kurzy."

Alespoň zamyslet by se nad tím mohli ti, kteří humanitními vědami opovrhují. Hluboce zamyslet by se ale měli zejména ti, kteří, inspirováni metodologií věd přírodních, různými podobami standardizace obsahu humanitních věd "osekávají" smysl jejich výuky. Pod záminkou "spravedlivého" hodnocení výsledků. Jen k těm vědám jsou velice "nespravedliví".

Jak snadno dostane člověk nálepku "sluníčkáře". Jak by ten, kdo ji "naslinil", označil sebe?

Josef Soukal řekl(a)...

Pane Lippmanne,

pod záminkou zpřístupnění středoškolského vzdělání téměř všem jsme se dostali do situace, kdy pojem "spravedlivé hodnocení" téměř ztratil smysl; pod záminkou "posílení vztahu hodnotící učitel – žák" je politickou silou prosazována vysoce nekompetentní novela zákona. Takže než začnete někoho nepodloženě obviňovat, ujasněte si, jaké "osekávání" a jakou etiku prosazujete Vy.

Karel Lippmann řekl(a)...

Pane Soukale, vyzývat Vás k věcné reakci by bylo marné. Věc je ve ve své podstatě zřejmá. Smysl výuky jazyka a literatury spočívá ve schopnosti interpretovat jimi reprezentovanou a vytvořenou polysémantickou skutečnost. Zdaleka nestačí vyznat se jen v jejich technickém ustrojení, ale prostřednictvím interpretace se orientovat nejen v nich, ale i ve světě. Co nejobezřetněji, s respektem ke všem dostupným faktům. Současné pojetí předmětu, reprezentované maturitou, to nevyžaduje a svým závazným obsahem v potřebném a za jiných okolností i možném rozsahu ani neumožňuje. Úplně stačí přečíst si katalog a závaznou strukturu zkoušky. To je krajně nespravedlivé vůči všem žákům beze zbytku! A "spravedlivě" hodnotit zcela "nespravedlivý" (neboť metodologii přírodních věd obětovaný) obsah humanitních věd nelze, je to absurdní a vrcholně neetické. Ano, za těchto okolností pojem "spravedlivé hodnocení" ztratil smysl. Omezit zpřístupnění středního vzdělání tímto způsobem je nepřijatelné. Žádné jednorázové třídění lidských schopností nemůže být jednoznačně spravedlivé. S tím bychom se měli smířit, ne toho využívat k prosazování parciálních záměrů, které nešetrně zasahují samotnou podstatu toho, proč vůbec do školy chodíme. Ve škole si máme osvojit to, co budeme v životě potřebovat. Různé typy věd to dělají různě, mají jiný obsah, jiné dílčí cíle, odlišné metody, ale nakonec pouze jeden smysl: respekt ke světu a životu. Škola je povinna vzít to na vědomí.

Josef Soukal řekl(a)...

Pane Lippmanne,

už několikrát jsem Vám ukázal, že jednak zaměňujete nastavenou úroveň zkoušky za její smysl, jednak ve svém pojetí ústní zkoušky nejste schopen ověřit interpretační schopnosti o nic lépe než ti, již využívají prostoru, který jim stávající zkouška dává. Také nerespektujete fakt, že pokud výsledky nějaké části zkoušky odrážejí schopnosti žáků, pak jsou to výsledky testu. Atd. Spravedlivé hodnocení není žádná fikce, ale naopak jeden z fundamentů školství. Jestliže se kvůli svým vlastním zájmům přimykáte k těm, kteří elementární řád rozbíjejí, nestojí veškeré vaše lamentace za fajfku tabáku. A pokuste se už jednou alespoň sám sobě přiznat, že dnešní maturita z češtiny umožňuje navzdory Vašim proklamacím připraveným nadaným žákům předvádět výborné výkony.

Karel Lippmann řekl(a)...

Pane Soukale, zase jen cosi bez jediného dokladu tvrdíte. Znovu mohu proto jen opakovat, že dokud neodkryjete své až dosud v trezoru uzamčené konkrétní příklady, např. ty, které ústí k předvádění výborných výkonů u maturity (bylo by dobré vědět, co za takový výkon pokládáte, např. odborně zdatnou, avšak pro vzdělání žáků-laiků víceméně nevhodnou a smysl postrádající analýzu Máje od pana Ibrahima?), nebudu s Vámi věcně diskutovat. Není totiž o čem. Jakou "spravedlivou" známku byste si za své výkony zasloužil? Držíte se tématu, jak to vyžaduje slohová práce? A jaký slohový útvar bez konkrétních dokladů všech svých tvrzení vlastně využíváte?

Osočil jste mě z prosazování vlastních zájmů. Doložte to! A současně doložte, že to, co navrhuji (nic, na rozdíl od Vás, bezohledně neprosazuji), je v rozporu se zájmy žáků.

Opět jsem si jist tím, co bude následovat. Neodpovím, protože tuhle úroveň diskuse už zkrátka neberu.

Anonymni z 21:30 řekl(a)...

Jak snadno se dnes člověk stane populistou, fašistou, islamofobem, rasistou...

Stačí vyrazit na sluníčko.

Josef Soukal řekl(a)...

Pane Lippmanne,

odpovědět byste měl - především odůvodnit dvoje nařčení z prvního dnešního komentáře. Jinak jste obyčejný pomlouvač.

Nicka Pytlik řekl(a)...

O rizicích není pytlikům nic moc známo.
Turingův test byl už mnohokrát prolomen, a tak pytlici kolikrát nejsou schopni rozpoznat, jestli spolu diskutují pitomci, a nebo umělí inteligenti.
V každém případě o inteligenci se nedá, a ještě dlouho nebude dát hovořit. Pořád se tu jedná jen o pokusy zprovoznit docela prosté modely dílčích projevů lidské mysli. Dokud se stroj nebude chovat jako trdlo, nelze o inteligenci hovořit ani náhodou.

Okomentovat