Čtvrtý věk by Zoner Press

TECHNOLOGIE PŘETVOŘILA LIDSTVO JEN TŘIKRÁT V HISTORII:

Před 5000 lety jsme vynalezli kolo a písmo, což vedlo až ke konstituci národních států.

Nyní jsme na prahu čtvrtého věku, tedy v éře další zásadní změny, kterou přinesly dvě technologie: umělá inteligence a robotika. V knize Čtvrtý věk předkládá Byron Reese mimořádné a přehledné informace o tom, jak jsme se dostali do tohoto bodu a jak bychom měli přemýšlet o tématech, kterým budeme brzy všichni čelit: vědomí strojů, automatizace, zaměstnání, kreativní počítače, radikální prodloužení života, umělý život, etika umělé inteligence, budoucnost válčení, superinteligence a důsledky extrémní prosperity. Prostřednictvím otázek Jste stroj? či Mohou počítače cítit a prožívat? zapojí autor čtenáře do diskuse o špičkové robotice a umělé inteligenci. Poskytne mu rámec a pomocnou ruku, pomocí kterých porozumí, jak se pravděpodobně lidstvo promění a jak bude vypadat další technologický pokrok, jehož jsme všichni součástí.

Zoner Press tel.: 532 190 883 e-mail: knihy@zoner.cz www.zonerpress.cz ZONER software, a.s., Nové sady 18, 602 00 Brno

DOPORUČENÁ CENA: 475 KČ KATALOGOVÉ ČÍSLO: ZRK2116

ISBN 978-80-7413-490-6

9 7 8 8 0 7 4

1 3 4 9 0 6

ČTVRTÝ VĚK

Před 10 000 lety jsme rozvinuli zemědělství, což vedlo ke vzniku měst a k válčení.

Č T V R T Ý V ĚK Inteligentní roboti, myslící počítače a budoucnost lidstva

BY RON R EES E

Před 100 000 lety jsme se naučili používat oheň, což vedlo ke vzniku jazyka.

EDICE TECHNOLOGIE

BYRON REESE

Čtvrtý věk Inteligentní roboti, myslící počítače a budoucnost lidstva Byron Reese Šéfredaktorka: Iva Šišperová Odpovědná redaktorka: Gabriela Kostašová Překlad: Jakub Goner DTP: Mgr. Petr Bernát (dle originálu publikace) Obálka: Mgr. Petr Bernát Copyright © ZONER software, a.s. Vydání první v roce 2022. Všechna práva vyhrazena. Zoner Press Katalogové číslo: ZRK2116 Všechna práva vyhrazena. Žádná část této publikace nesmí být reprodukována ani distribuována žádným způsobem ani prostředkem, ani reprodukována v databázi či na jiném záznamovém prostředku či v jiném systému bez výslovného svolení vydavatele s výjimkou zveřejnění krátkých částí textu pro potřeby recenzí.

Dotazy týkající se distribuce směřujte na: Zoner Press ZONER software, a. s. Nové sady 18, 602 00 Brno tel.: 532 190 883 e-mail: knihy@zoner.cz www.zonerpress.cz www.facebook.com/Zonerpress www.instagram.com/zoner_press_brno/

ISBN 978-80-7413-490-6

ČTVRTÝ VĚK Inteligentní roboti, myslící počítače a budoucnost lidstva

B Y RO N R EES E

OBSAH

Předmluva

Úvod

ČÁST PRVNÍ: DLOUHÁ A NÁROČNÁ CESTA KE DNEŠKU PROMÉTHEŮV PŘÍBĚH

19 21

1. První věk: jazyk a oheň

2. Druhý věk: zemědělství a města

3. Třetí věk: písmo a kolo

4. Čtvrtý věk: roboti a umělá inteligence

5. Tři velké otázky

ČÁST DRUHÁ: ÚZKÁ UMĚLÁ INTELIGENCE A ROBOTI PŘÍBĚH JOHNA HENRYHO

67 69

6. Úzká umělá inteligence

7. Roboti

8. Technické otázky

9. Připraví roboti všechny lidi o práci?

10. Jsou nějaká místa před roboty v bezpečí?

137

11. Velké otázky

149

12. Roboti ve válce

165

čtvrtý věk

ČÁST TŘETÍ: OBECNÁ UMĚLÁ INTELIGENCE PŘÍBĚH ČARODĚJOVA UČNĚ

169 171

13. Lidský mozek

173

14. Obecná AI

183

15. Měli bychom konstruovat obecnou AI?

195

ČÁST ČTVRTÁ: POČÍTAČE A VĚDOMÍ PŘÍBĚH JOHNA FRUMA

219 221

16. Prožívání

223

17. Svobodná vůle

229

18. Vědomí

235

19. Osm teorií vědomí: mohou počítače získat vědomí?

253

20. Lze počítače implantovat do lidského mozku?

273

21. Nová definice humanity

279

ČÁST PÁTÁ: CESTA DO BUDOUCNOSTI PŘÍBĚH JEANA-LUCA PICARDA

283 285

22. Život ve čtvrtém věku

287

23. Řešení všech technických problémů

297

24. Vítězství nad smrtí

319

25. Možné problémy

325

26. Pátý věk

329

Poděkování

333

P Ř ED M LU VA

(Doporučuji, abyste si ji přečetli. Není to jen obvyklá slovní vata.)

oboti. Pracovní místa. Automatizace. Umělá inteligence. Myslící počítače. Superinteligence. Hojnost. Budoucnost bez práce. „Zbyteční“

lidé. Konec nedostatku. Kreativní počítače. Vláda robotů. Neomezené bohatství. Ztráta práce. Trvalá chudoba. Nejspíš nemine den, kdy by se ve vašem zpravodajském souhrnu neobjevilo některé z těchto hesel. Některé články vyznívají pozitivně a jsou plné naděje v budoucnost. Jiné však s obavami líčí dystopické vize. Tento rozpor působí překvapivě. Odborníci na uvedená témata jsou vesměs inteligentní a informovaní, ale jejich předpovědi budoucího vývoje se od sebe neliší jen trochu, ale zásadně se rozcházejí a diametrálně si protiřečí. Proč se tedy Elon Musk, Stephen Hawking a Bill Gates obávají umělé inteligence (AI – artificial intelligence) a znepokojeně prohlašují, že tato technologie může v blízké budoucnosti ohrozit přežití lidstva? A jak je možné, že stejně význačné kapacity (patří k nim Mark Zuckerberg, Andrew Yan-Tak Ng a Pedro Domingos) tento postoj považují za natolik přehnaný, že jim prakticky nestojí za polemiku? Zuckerberg dokonce lidi, kteří hlásají katastrofické scénáře, označuje za „pořádně nezodpovědné“. Andrew Ng, jeden z nejvýznamnějších současných expertů na AI, zase takové starosti přirovnává k obavám o „přelidnění Marsu“. Poté, co Elon Musk prohlásil, že „AI zásadně ohrožuje existenci lidské civilizace“, Pedro Domingos, významný

Předmluva

výzkumník a autor působící v oboru AI, napsal na Twitteru: „Stručný komentář: ach jo.“ Členové obou skupin si jsou svým postojem naprosto jistí a se stejnou suverenitou zavrhují myšlenky druhé strany. Co se týče robotů a automatizace, situace je obdobná. Odborníci se nemohou více rozcházet. Někteří říkají, že automatizace zlikviduje všechna pracovní místa, nebo nás přinejmenším brzy čeká trvalá velká hospodářská krize, kdy část pracovní síly nebude schopna konkurovat robotické práci, zatímco druhá část populace si bude užívat luxusu díky tomu, že obsadí futuristická místa ve špičkových technologiích. Jiní v reakci na takové vize jen obrací oči v sloup a upozorňují, že automatizace dlouhodobě zvyšuje produktivitu a mzdy zaměstnanců. Spekulují, že větším problémem bude nedostatek lidských pracovníků. Zastánci protikladných vizí se sice zpravidla nepouští do pěstních soubojů, ale netají se vzájemným pohrdáním. Nakonec v otázce, zda počítače získají vědomí, a tím také ožijí, se experti znovu neshodnou. Jedni věří, že počítače samozřejmě mohou být vědomé. Kdo to popírá, podléhá podle nich jen hloupým předsudkům. Jiní však rozhodně nesouhlasí a prohlašují, že počítače se od živých bytostí zásadně liší a samotná koncepce „živého stroje“ je vnitřně rozporná. Ti, kdo takovou debatu sledují, obvykle podléhají zmatku a frustraci. Kakofonie nesmiřitelných postojů je často vede k tomu, že vzdávají svou snahu udělat si vlastní názor. Dochází k závěru, že když se na budoucím vývoji neshodnou ani lidé, kteří stojí v čele technologického vývoje tohoto oboru, my ostatní nemáme žádnou šanci. Začínají se na budoucnost dívat se strachem a úzkostí a docházejí k přesvědčení, že tyto zásadní otázky musí být ze své podstaty neřešitelné. Existuje z těchto dilemat nějaké východisko? Domnívám se, že ano. Nejdříve si musíme uvědomit, že experti se nepřou proto, že by znali odlišná fakta, ale proto, že věří jiným věcem. Například zastánci vědomých počítačů nezaujali tento postoj z důvodu, že by o vědomí věděli více než jiní. Příčinou je jejich principiální přesvědčení, že lidé jsou v zásadě stroje. Jestliže lidé jsou stroje, dá rozum, že nakonec zkonstruujeme mechanického člověka. A ti z opačné strany věří, že lidé nejsou jen čistě mechanické bytosti, stroje tedy nikdy nemohou získat vědomí.

Předmluva

Tím se tedy zabývá tato kniha: rozebírá základní přesvědčení, z nichž pramení různé názory na roboty, pracovní místa, umělou inteligenci a vědomí. Kniha by měla být průvodcem těmito zapeklitými otázkami. Analyzuje všechny výchozí předpoklady názorů, které experti tak nadšeně a sebevědomě šíří. Nemám vůbec v úmyslu v knize propagovat vlastní názory na příslušná témata. Své postoje se sice nesnažím za každou cenu skrývat, ale pro vás jako čtenáře škrt nemají valný význam. Jde mi o to, abyste po dočtení této knihy získali jasnou představu, jaké odpovědi na základní otázky jsou v souladu s vaším přesvědčením. Když pak uslyšíte nějakého giganta ze Silicon Valley, zasloužilého profesora nebo laureáta Nobelovy ceny, jak se sebevědomě vyjadřuje k robotům, trhu práce nebo umělé inteligenci, ihned budete rozumět tomu, ze kterých idejí ve svých úvahách vychází. Kde takovou cestu začít? Nezbude nám než se vrátit do dávné minulosti, kdy lidé objevili jazyk. V této knize se nebudeme zabývat problematikou tranzistorů, neuronů a algoritmů. Soustředíme se na povahu reality, lidskosti a myšlení. Ke zmatkům dochází tehdy, když začínáme od otázek jako „Ve kterých profesích roboti nahradí lidi?“, místo abychom se ptali: „Co to jsou lidé?“ Teprve když odpovíme na druhou otázku, můžeme smysluplně řešit tu první. Zvu vás tedy na rychlou procházku po 100 000 letech lidské historie. Přitom se budeme věnovat velkým otázkám a zkoumat budoucnost, která nás čeká. Jsem rád, že jste si mě vybrali jako průvodce. Byron Reese Austin, Texas

Ú VO D

okud bychom měli charakterizovat posledních sto let, asi bychom zmínili, že v té době došlo k mimořádnému množství změn. Říká se,

že naše životy zásadně proměnily desítky, nebo dokonce stovky revolučních vynálezů. Jejich seznam zahrnuje automobil, leteckou dopravu, televizi, osobní počítač, internet a mobilní telefon. Změny jsou doslova všudypřítomné. Člověk ovládl atom, cestoval do vesmíru, vynalezl antibiotika, vymýtil neštovice a sekvenoval genom. Z hlediska celých dějin lidského druhu se toho však za uplynulých pět tisíc let změnilo jen málo. Stejně jako lidé, kteří žili před pěti tisíciletími, i my máme maminky, tatínky, děti, školy, vlády, náboženství, války i mír. Také slavíme narození a truchlíme nad mrtvými. Ke všem lidským kulturám neodmyslitelně patří sport, svatby, tanec, šperky, tetování, móda, klepy, společenská hierarchie, strach, láska, radost, štěstí a extáze. Při pohledu touto optikou se lidstvo za celé věky příliš nezměnilo. Nadále se ráno vydáváme do práce, jen máme jiné dopravní prostředky. Ve starověké Asýrii batolata tahala na provázku malé dřevěné koníky na kolečkách. V antickém Řecku se chlapci bavili přetahováním lana. Egypt faraonů byl vyhlášený svou kosmetikou a Peršané již před tisíci lety slavili narozeniny podobně jako my – při setkáních, kdy oslavenci dostávali dárky a podávaly se speciální dezerty.

Úvod

Naše éra nestojí za pozornost kvůli změnám, ke kterým již došlo, ale spíše kvůli těm, které jsme dosud nezažili. Je opravdu úžasné, jak jsme podobní našim předkům. Ve starověkém Římě gladiátoři vystupovali jako dnešní celebrity, když před utkáním recitovali reklamu na různé výrobky: „Já používám jen meče od Antinia. Lepší meč prostě nenajdete.“ A stejně jako v naší době také v minulosti žili lidé, kteří se dopouštěli ničivých činů kvůli pochybné slávě – jako dne 21. července roku 356 př. n. l., kdy žhář jménem Hérostratos zapálil Artemidin chrám v Efezu, jeden ze sedmi divů starověkého světa, jen proto, aby se navždy zapsal do historie. V Efezu se proto trestalo i pouhé vyslovení jeho jména, ale Hérostratos nakonec svého cíle dosáhl. Návštěvy v dávných dobách oznamovaly svůj příchod klepáním. Na dveřích je již tehdy vítal mosazný lev s kruhem v tlamě. Když chtěli svatební hosté před pěti tisíci lety novomanželům popřát štěstí, házeli po nich zrnky rýže. Pokud se v současnosti dočteme, že archeologové vykopali dávné projektily do praku s vyrytým slovem „trefa“, nikdo nám ten vtip nemusí vysvětlovat. Lidé ve starověku byli stejní jako my. O tom, že se lidská povaha od té doby vůbec nezměnila, se můžeme přesvědčit v knize Povahopisy, kterou napsal řecký filozof Theofrastos před 2300 lety. Zesměšňoval zde celé lidstvo, které roztřídil na jednotlivé typy, jako například Lichotník, Neotesanec nebo Vypravěč. Znáte-li někoho, kdo fotografuje svá jídla a snímky zveřejňuje na internetu, možná v něm poznáte postavu, kterou Theofrastos nazývá Žvanil, jenž „nejdříve veřejně pochválí svou ženu, pak vypráví, co se mu v noci zdálo, a popíše chod po chodu, co měl na oběd“, a nakonec zalituje, že „lidé už nejsou, co bývali“. Theofrastos později charakterizuje Hlupáka: „Když jde na představení, najdou ho nakonec spát v prázdném divadle… Po vydatné večeři musí v noci vstát, ale z rozespalosti nedokáže najít dveře od domu a pokouše jej sousedův pes.“ Když ji porovnáme s takovou historií, naše doba se opravdu příliš neliší. Já vlastně tvrdím, že věci se v lidské historii zásadně změnily jen třikrát. Pokaždé to způsobila technologie. Nikoli jediná idea, ale skupina

Úvod

souvisejících technologií, která nás proměnila principiálním a trvalým, dokonce biologickým způsobem. Opravdu k tomu nedošlo vícekrát. Zatím nastaly jen tři velké změny. Tato kniha se věnuje té čtvrté.

24 Vítězství nad smrtí

ejstarším příběhem, který se zachoval v písemné podobě, je epos o Gilgamešovi. Jeho dosud nalezené fragmenty pocházejí z doby

asi před čtyřmi tisíci lety, ale příběh se tehdy nepochybně již dlouho tradoval v ústní formě. Hrdinou je král Gilgameš, který jednoho dne se svým přítelem Enkiduem bojuje proti Nebeskému býku. Enkidu umírá a Gilgameš si poprvé s hořkostí uvědomuje svou smrtelnost. Přísahá, že bude žít navždy. Vyhledá svého předka Utnapištima a ptá se jej, jak získat nesmrtelnost. Utnapištim mu odpovídá, že to není možné, že bohové poctili nesmrtelností jen jeho Utnapištima a jeho ženu a nikdo další už tento dar nedostane. Na

dně oceánu však roste rostlina, která může Gilgamešovi vrátit mládí. Najde ji, ale než ji může sníst, spolkne mu ji had. Gilgameš si nakonec uvědomí, že jeho úsilí bylo marné. Přichází na to, že jedinou skutečnou nesmrtelnost lze získat díky činům, které člověk dokáže během svého života. Pokud opravdu vynikne, má potom šanci, aby na něj lidé vzpomínali navždy. Příběh uvádím ze dvou důvodů. Za prvé je podle mého názoru příznačné, že nejstarší lidský příběh vypráví o neúspěšné snaze uniknout před

319

čtvrtý věk

nevyhnutelnou smrtí. A za druhé k nám tato pověst stále promlouvá i po tisících letech. Koncem roku 2015 bylo v Iráku nalezeno dalších dvacet nových řádků tohoto eposu a zpráva o tom se dostala na titulní stránky všech světových médií. Je možné, že ve čtvrtém věku uspějeme tam, kde Gilgameš prohrál? Již jsme se zamýšleli nad tím, zda cestu k nesmrtelnosti nenabízí nahrání lidského vědomí do stroje. Jak je tomu však s prodloužením naší fyzické existence? V kapitole 22 jsem prohlásil, že lidé časem vyřeší všechny čistě technické problémy. Je smrtelnost pouze technický problém? Domnívám se, že ano. Stále více lékařů navrhuje, že bychom měli stáří klasifikovat jako nemoc. Může se zdát, že to je pouze sémantická změna, avšak mohla by ovlivnit naši perspektivu a odstranit fatalismus, s jakým stárnutí a smrt přijímáme. Zároveň by nás mohla přimět, abychom na stárnutí pohlíželi jako na potíž, která přirozeně vyžaduje hledání léčby. Před sebou máme jen konečný věk z mnoha důvodů, ale všechny působí jako typické technické problémy. Proč bychom nemohli opravit a nahradit tělesné orgány a systémy, které časem začínají selhávat? Proč stárneme a umíráme? Vědci spekulují, že to má jen několik málo obecných důvodů. Lidská DNA může mutovat, což vede k nádorům. Případně mutují mitochondrie a tělo přestává správně fungovat. Dalším důvodem je metabolický odpad, který se v těle časem hromadí. Tělo připomíná hru Tetris: všechny úspěchy mizí a vrší se jen chyby. Jeden takový příklad představují plaky v mozcích lidí s Alzheimerovou nemocí. Další problém souvisí s dělením buněk. Buňky se někdy dělí příliš často a jindy se zase dělit přestávají. Důsledkem jsou syndromy jako Parkinsonova nemoc. Další příčinou stárnutí je mizení telomer, což jsou opakované sekvence na koncích chromozomů, které chrání DNA před degradací. Enzymy kopírující DNA se nedostávají až na konec vlákna, které se proto při každém dělení buňky zkracuje. Ze začátku to vůbec nevadí. Buňky na konec každého vlákna DNA chytře přilepí kusy nesmyslného kódu. Říká se jim telomery. Pokud však buňky projdou maximálním počtem dělení, telomery se úplně rozpadnou. Ve stále kratších kopiích DNA pak začínají chybět důležité sekvence a tělo začíná chátrat.

320

Vítězství nad smrtí

Naštěstí se nabízí řešení. Existuje enzym zvaný telomeráza, který po své aktivaci dokáže telomery prodloužit. U lidí se aktivuje při nitroděložním vývoji, kdy buňky procházejí mnoha děleními. Naneštěstí se aktivuje také v různých nádorech, jejichž buňky kvůli tomu získávají „nesmrtelnost“ a tím se komplikuje jejich léčba. U humrů je telomeráza aktivovaná stále a tito živočichové přirozeně nestárnou. Jestliže porovnáme orgány humrů starých padesát a pět let, těžko dokážeme najít jakýkoli rozdíl. Jaké by to bylo nestárnout? Neznamenalo by to ještě nesmrtelnost. Podle jednoho pojistného odhadu by člověk žil asi 6500 let. Tak dlouho by v průměru trvalo, než by podlehl nějaké mimořádné nehodě, například by zrovna procházel pod oknem, ze kterého by vypadl klavír. V takovém světě by smrt působila ještě tragičtěji, protože náhlá smrt by člověku nevzala jen čtyřicet let života, ale třeba čtyři tisíce. Kdy lidé dokážou stárnutí zastavit? Tohoto cíle nemusíme dosáhnout najednou. Pokud se očekávaná délka života začne každým rokem prodlužovat o více než rok, znamená to, že jsme uspěli. Někteří naznačují, že by se to mohlo stát během dvaceti pěti let. Obecná AI by tento problém mohla vyřešit za dvacet pět minut. Třeba se jí to podaří a pak se rozhodne, že nám postup neprozradí. Chtěli byste žít navždy? Traduje se staré zenové požehnání: „Ať zemře tvůj otec, ať zemřeš, ať zemře tvůj syn.“ Jedná se o požehnání, protože je hrozné, když se toto přirozené pořadí změní. Jako otec čtyř dětí bych se cítil strašně, kdybych je měl přežít. Ale obecně by mi nevadilo, pokud bych neumřel. Bylo mi čtyřicet a už občas za krkem cítím studený dech smrti. Zřetelně si uvědomuji, že podle současných tabulek dožití je pravděpodobnější, že mám již většinu svých dní za sebou. Přitom mám tolik plánů, že bych jimi dokázal vyplnit tucet životů. Nejde o to žít věčně, ale o to, abychom mohli sami zvolit čas a způsob své smrti. Bylo by skvělé, kdybychom mohli ovládat celý svůj život a žít až do chvíle, kdy bychom spolu s Juliem Caesarem prohlásili: „Mám za sebou dostatek let i úspěchů.“ Někteří lidé také argumentují, že kvůli své smrtelnosti musíme určovat priority a volit z nabízených možností, protože máme k dispozici jen

321

čtvrtý věk

omezený čas. Ve světě bez stárnutí by odkládání na později získalo úplně nové rozměry. Lidé by si běžně říkali: „Ále co, pustím se do toho za několik století.“ Jiní tvrdí, že starší lidé by měli umírat, protože se tak svět otevírá novým idejím a pokroku. Představte si, že by s námi dodnes žili lidé ze 17. či třeba 19. století, kteří by mohli stále vládnout. Nebrzdili by pokrok a směřování k rozvoji civilizace? Problém stárnutí můžeme také chápat tak, že díky smrti může živá příroda zůstávat věčně mladá. Možná se svět zbavuje starých tvorů stejně, jako nám odpadávají šupiny suché kůže. Život na Zemi již existuje celé věky, ale přitom je stále mladý a neustále se obnovuje. Většina životních forem má pouze několik dní, měsíců či let, takže duch planety pulzuje mladistvou energií. Celá idea, že bychom mohli oklamat smrt, však může být iluzorní. Možná děláme stejnou základní chybu, jaké se dopustil již Gilgameš. Pokaždé, když najdeme kouzelnou rostlinu, která nám dá věčný život, ukradne nám ji nějaký had. Existuje mnoho pádných argumentů, podle nichž radikální prodloužení života není možné. Díky všem pokrokům medicíny jsme omezili novorozeneckou úmrtnost, vyléčili jsme mnohé nemoci a pomohli jsme lidem, aby si dokázali déle zachovat aktivní životní styl, ale přitom jsme maximální očekávanou dobu života příliš neprodloužili. V současnosti na světě žije asi 400 000 lidí, kteří překročili stovku. Pouze 400 z nich se však dožije svých 110. narozenin. Jen jeden z tisíce. Pouze 40 lidem se historicky podařilo dosáhnout věku 115 let a jen o jediné ženě víme, že oslavila 120 let. Procento lidí, kteří se dožívají sta let, se sice stále zvyšuje, ale počet těch, kteří se dočkají věku 125, zůstává nulový. K té hranici se prostě dosud nikdo nepřiblížil. Jakmile se podaří najít metody na odvrácení stárnutí, mohou se objevit jiné problémy. Lidé mají dvacet tisíc genů a každý z nich může mít jen omezené možnosti. Navzdory všem pokrokům ve výpočetní technice musíme své počítače čas od času restartovat. Složité systémy možná prostě nelze dovést k dokonalosti. Biochemik Craig Venter, který poprvé sekvenoval lidský genom, se domnívá, že stárnutí nikdy nezastavíme.

322

Vítězství nad smrtí

Myslím, že se nám to nikdy nepodaří. Vím toho o biologické realitě poměrně dost. Jak jsem již říkal: toužíte-li po nesmrtelnosti, udělejte za svého života něco užitečného. A ke stejnému závěru došel i Gilgameš.

323

TECHNOLOGIE PŘETVOŘILA LIDSTVO JEN TŘIKRÁT V HISTORII:

Před 5000 lety jsme vynalezli kolo a písmo, což vedlo až ke konstituci národních států.

Zoner Press tel.: 532 190 883 e-mail: knihy@zoner.cz www.zonerpress.cz ZONER software, a.s., Nové sady 18, 602 00 Brno

DOPORUČENÁ CENA: 475 KČ KATALOGOVÉ ČÍSLO: ZRK2116

ISBN 978-80-7413-490-6

9 7 8 8 0 7 4

1 3 4 9 0 6

ČTVRTÝ VĚK

Před 10 000 lety jsme rozvinuli zemědělství, což vedlo ke vzniku měst a k válčení.

Č T V R T Ý V ĚK Inteligentní roboti, myslící počítače a budoucnost lidstva

BY RON R EES E

Před 100 000 lety jsme se naučili používat oheň, což vedlo ke vzniku jazyka.

EDICE TECHNOLOGIE

BYRON REESE