13.2.17

Bořivoj Brdička: Superinteligence podle Macieje Cegłowského

Výtah z přednášky kalifornského počítačového experta Macieje Cegłowského se zabývá budoucím vývojem umělé inteligence a katastrofickými předpověďmi, že ovládne svět a zničí naši civilizaci.

Maciej Cegłowski (česky Matěj, anglicky Matthew) je Američan polského původu. Z Polska odešel s rodiči jako šestiletý v době, kdy se tehdejší prezident Jaruzelski rozhodl potlačit protestní celonárodní hnutí Solidarność silou vojenské junty (1981). Dnes žije v San Franciscu a stal se z programátora webů úspěšným realizátorem počítačových projektů. Tím posledním je placená služba na správu webových zdrojů Pinboard. Dění v Silicon Valley sleduje z bezprostřední blízkosti.

Možná proto ho organizátoři nedávného setkání vývojářů webu (WebCamp Zagreb 2016) pozvali, aby jim řekl něco o současném vývoji v oblasti umělé inteligence (AI). Maciej svou přednášku nazval Superintelligence: The Idea That Eats Smart People (Superinteligence: Představa požírající chytré lidi). Jak již asi tušíme, je to problematika ovlivňující též budoucnost školství. Podívejme se, s čím Maciej do Záhřebu přijel. Z hodinové přednášky vyberu jen to nejdůležitější.

V zásadě se jedná o polemiku s katastrofickým chápáním směřování umělé inteligence k převzetí kontroly nad vývojem Země a lidstva spolu s ní. Na počátku současného pojetí této, zatím spíše vědecko-fantastické poplašné předpovědi tzv. alarmistů, byl nejspíše Ray Kurzweil a jeho Zákon zrychlujících se změn (viz Ray Kurzweil, umělá inteligence a výuka jazyků), který předpovídá, že AI svými schopnostmi v docela blízké budoucnosti překoná lidskou inteligenci. Podle těchto teorií by měl současný exponenciálně se zrychlující vývoj světa dospět až k nespojitosti (Singularita podle Vinge, Superpočítače, singularita a učitelé 21. století). Maciej se vymezuje vůči jednomu z významných představitelů alarmistů Nicku Bostromovi, který vede oxfordský Future of Humanity Institute. Do této skupiny však patří i mnoho dalších známých osobností a investorů ze Silicon Valley (Peter Thiel a volba amerického prezidenta).

Maciej nejprve shrnuje základní teze Bostromovy poslední knihy Superintelligence: Paths, Dangers, Strategies:
  1. Člověk je schopen racionálně myslet a tento proces lze simulovat.
  2. V lidském mozku se neděje nic nadpřirozeného, čili strukturu i obsah lze teoreticky sejmout, kopírovat a emulovat pomocí neuronové sítě.
  3. Rozvoj inteligence (schopnosti myslet) je založen na přirozeném vývoji.
  4. Úroveň myšlení je závislá na podmínkách rozvoje. V prostředí, které bude mít pro tento rozvoj lepší podmínky (rychlost, kapacita paměti), může dospět dále.
  5. AI nemusí u každého jedince (stroje) začínat znovu s učením. Potřebné „poznatky“ přebírá hotové.
  6. AI má přirozenou snahu sebe sama stále zdokonalovat.
Pokud všechny tyto teze přijmeme, nezbývá nám než očekávat katastrofu. Technologie svými schopnostmi předčí člověka a budou se dále zdokonalovat, dokud nedospějí k limitům, které jim dosažené technické řešení umožní. O lidstvo se přestanou starat.

To jsou typické hypotézy alarmistů, jež poněkud připomínají konspirační teorie, jako je třeba UFO. V situaci, kdy se vás někdo snaží o čemkoli nejistém přesvědčit, je vhodné věc prozkoumat epistemologickým pohledem. To znamená zamyslet se nad tím, jak takový alarmista dospěl k přesvědčení, které má? Zda jsou teze, z nichž vychází, správné? Určité podezření je od počátku při pohledu zvnějšku na místě, protože tyto předpovědi jsou často šířené jako memy se záměrem upoutat pozornost a nasměrovat finanční toky. Jelikož však jsou lidé, kteří patří k alarmistům, často velmi chytří, je vhodné se nad jejich vývody opravdu důkladně zamyslet.

A to je přesně to, co Maciej udělal. Předkládá celou řadu Bostromovým tezím odporujících argumentů. Vyberu ty nejpádnější:
  1. AI je jiná než lidská. Ve skutečnosti je diskutabilní, zda je správné ji tímto termínem vůbec označovat. Pokud připustíme, aby sebe sama zdokonalovala, je obtížné se zkušenostmi zatíženými dosavadní evolucí na Zemi předvídat, kterým směrem se bude ubírat.
  2. Totéž platí i obráceně. AI nebude myslet jako člověk. Nedokáže tak snadno lidstvo ovládnout. To otevírá prostor pro výhodnou spolupráci (Přichází druhá počítačová revoluce).
  3. Je skoro nemožné, aby se nám podařilo stvořit nezávislou AI bez chyby. Zatím vše, co člověk udělal, mělo na počátku nějakou chybu a muselo se to opravovat. To znamená, že i AI nebude jistě dělat přesně to, co si dnes představujeme. Maciej tento argument označuje za „slovanský pesimismus“ a dává takovýto příklad: „Pokud AdSense (služba Google umožňující příjem z reklamy) bude schopná samostatně vnímat, možná přidá sama sebe do systému samořízených aut a nechá je sjet ze skály.
  4. Nejlepších výsledků AI doposud dosahuje při zpracování opravdu velkých dat pomocí poměrně málo inteligentních algoritmů založených na neuronových sítích (Co dokáží stroje schopné hlubokého učení). K superinteligenci má daleko.
  5. Superinteligence nebude na počátku skoro nic umět a bude se muset učit. Při tom bude interagovat s naším světem. Ten ale funguje v mnohem pomalejším čase, jemuž se bude muset přizpůsobit.

Celý článek na spomocnik.rvp.cz.

1 komentář:

Nicka Pytlik řekl(a)...

Pokud všechny tyto teze přijmeme, nezbývá nám než očekávat katastrofu.

K naplnění katastrofických scénářů v případě polské superinteligence nedojde přinejmenším ještě půl roku, tak jak k tomu nedošlo ani v případě české superinkluze.
Takže v klidu... Ostatně, co na to zdatný scénárista Feřtek?

Okomentovat