Súčasné chápanie sveta a budúce výzvy
7.3.2019

Národný projekt Zvýšenie inovačnej výkonnosti slovenskej ekonomiky – inovujme.sk prináša druhý článok od svetoznámeho futurológa Gerda Leonharda. Je pokračovaním úspešnej spolupráce nadviazanej vydaním slovenského prekladu jeho bestselleru Technológia vs. humanita a jeho účasťou na rovnomennej konferencii, ktorá sa konala v Bratislave v novembri 2018.

Vitajte v Pekleraji!

Je čoraz viac jasnejšie, že budúcnosť vzťahu človeka a stroja vo veľkej miere závisí od ekonomického systému, v ktorom bol stvorený.

Pozeráme sa na niečo, čo ja rád nazývam výzvy typu „Pekloraj“. Pohybujeme sa kolísavou rýchlosťou smerom k svetu, ktorý môže priniesť nirvánu, k svetu, kde už nebudeme musieť pracovať, aby sme sa uživili, väčšinu našich problémov vyriešia technológie a my si budeme užívať univerzálny blahobyt – niekedy nazývaný aj ekonomikou Star Treku.

Budúcnosť nás môže zaniesť do dystopickej spoločnosti (dystópia ako opak utópie), ktorá je riadená a dozorovaná superpočítačmi, sieťovými botmi, superinteligentnými softvérovými agentmi – strojmi a algoritmami, cyborgmi a robotmi – alebo, lepšie povedané, tými, čo ich vlastnia. Vo svete, kde „nevylepšení“ ľudia budú tolerovaní ako domáce zvieratá alebo ako prinajlepšom nutná obtiaž, alebo, v najhoršom, zotročení spolkom cyborgových bohov, temná spoločnosť, bez zručností, pocitov, stelesnenia, bez akejkoľvek ľudskosti.

„Možno sa dožijete toho, že uvidíte horory vytvorené človekom presahujúce vašu predstavivosť a pochopenie.“

Nikola Tesla

Je to paranoidný pohľad?

Pozrime sa na situácie, ktoré sa dejú každý deň – nízkonákladové a všade prítomné digitálne technológie, ktoré nám umožnili outsourcovať naše myslenie, naše rozhodnutia a naše spomienky na mobilné zariadenia, ktoré sú lacnejšie ako kedykoľvek predtým, a za sebou si nesú inteligentný cloud. Tieto „externé mozgy“ sa formujú veľmi rýchlo z pozície „poznám ťa“ na „reprezentujem ťa“, až k bodu „stávam sa tebou“. Faktom je, že sa stávajú našou digitálnou kópiou, a ak vás tento fakt nevyviedol z miery, predstavte si, akú schopnosť bude mať tento externý mozog, ak v najbližších piatich rokoch stonásobne zosilnie.

Navigácia v neznámom meste? Nemožná bez Google maps. Nevieme sa rozhodnúť, kam dnes pôjdeme večerať? TripAdvisor nám to povie. Nemám čas odpovedať na všetky emaily? Nový inteligentný asistent od Gmailu to urobí za mňa.

Ak sa zamýšľame nad konvergenciou človek – stroj, ešte nie sme úplne v situácii, kedy my môžeme ostať doma, kým náš cyborg dvojník tam vonku žije náš život, tak ako vo filme Surrogates11 s Bruceom Willisom. Nie sme ešte ani schopní kúpiť si syntenizovaných ľudí, ktorí by prevzali rôzne úlohy a poskytovali spoločnosť tak, ako v televíznom seriáli Humans kanálu AMC. Ale nie sme od toho ani až tak ďaleko. V tomto článku sa pokúsim vysvetliť, prečo si nemyslím, že nastane scenár dystópie. Zároveň predložím argumenty, podľa ktorých práve teraz stojíme pred fundamentálnymi rozhodnutiami, kedy si volíme, do akej miery necháme technológiu vplývať na náš život, život našich blízkych a životy našich budúcich generácií. Niektorí vedci môžu povedať, že už sme prešli ten bod, v ktorom sa tieto zmeny dali ešte ovplyvniť, a že už sa nachádzame v ďalšom štádiu našej „prirodzenej“ evolúcie. Ja osobne s týmto tvrdením silne nesúhlasím, a hneď aj vysvetlím, prečo si myslím, že človek môže z tohto stretu so strojom vyjsť nakoniec ako víťaz.

Technológia a ľudstvo konvergujú a my sa nachádzame v bode obratu

Keď som začal písať knihu Technológia vs. humanita, vynorili sa mi tri dôležité slová – exponenciálny, kombinatorický a rekurzívny.

1. Exponenciálny

Technológia napreduje exponenciálne. Aj napriek základným zákonom fyziky, ktoré definujú najmenšiu možnú veľkosť mikročipu, ktorá už nie je zrejme ďaleko od veľkosti, ktorú práve dosahujeme, technologický vývoj sa riadi Moorovými zákonmi. Krivka výkonu pokračuje v exponenciálnom raste, pričom ľudia očakávajú a rozumejú lineárnemu, postupnému napredovaniu. Tento fakt pre nás znamená kognitívne výzvy: technológia rastie exponenciálne, kým ľudia sa naďalej (a dúfam, že to tak aj zostane) vyvíjajú lineárne.

2. Kombinatorický

Výhody jednotlivých technológií sa začínajú kombinovať a integrovať. To, čo úplne mení hru, je, že umelá inteligencia, hlboké učenie, internet vecí a editovanie ľudského genómu sa začínajú prelínať a navzájom posilňovať. Už sa neaplikujú ako špecifické, individuálne domény – namiesto toho prechádzajú ako vlny cez množstvo sektorov. Napríklad CRISPR-Cas9, čo je pokročilá technológia editovania ľudského genómu, nám v konečnom dôsledku umožní zvíťaziť nad rakovinou, a tým dramaticky predĺži náš život. A to sú smery vývoja, ktoré prevrátia hore nohami systém zdravotníctva, sociálne zabezpečenie, našu prácu a kapitalizmus ako celok.

3. Rekurzívny

Technológie ako umelá inteligencia, kognitívne počítače, hlboké učenie v konečnom dôsledku môžu viesť ku rekurzitivite (vzájomnému posilňovaniu) zdokonaľovania. Už teraz vidíme prvé príklady, keď sa roboti sami vedia preprogramovať alebo upgradovať, alebo ovládať prívod energie, ktorá ich drží pri živote, a to potenciálne môže viesť k tomu, čo sa dnes nazýva explóziou inteligencie. Niektorí, ako napríklad akademik Oxfordskej univerzity Nick Bostrom, veria, že to je cesta, ktorá nás privedie k objaveniu superinteligencie – systémov umelej inteligencie, ktoré sa jedného dňa začnú rýchlejšie učiť. Ich rýchlosť, ich myslenie prekoná to ľudské v takmer všetkých pohľadoch. Ak vieme navrhnúť umelú inteligenciu s IQ 500, čo nás zastaví pred postavením ďalšej umelej inteligencie s IQ 50 000 – a čo sa stane, ak sa to stane?

Našťastie, rekurzívna superinteligencia nás ešte v blízkom horizonte nečaká. Napriek tomu aj bez výziev takého rozsahu zápasíme s niektorými problémami, ktoré začínajú rapídne eskalovať – napríklad so sústavným zaznamenávaním našich digitálnych životov, stály dohľad ako štandardné nastavenie, strata súkromia, strata anonymity, kradnutie digitálnej identity, bezpečnosť dát a ešte oveľa viac. To je dôvod, prečo som presvedčený, že základy pre budúcnosť ľudstva, či už pozitívne alebo dystópne, sa musia položiť tu a teraz. Stojíme na kritickej križovatke, musíme spraviť rozhodnutia s oveľa väčšou prezieravosťou, vložiť do toho rozhodujúci holistický pohľad a silne sa chopiť vodcovstva skôr, ako spustíme technológie, ktoré by v konečnom dôsledku mohli mať viac moci, ako sme si vôbec niekedy vedeli predstaviť.

Už nemôžeme ďalej zastávať postoj počkajme – uvidíme, ak si chceme udržať kontrolu nad našim osudom a nad vývojom, ktorý by ho mohol zmeniť. Musíme rovnako venovať pozornosť tomu, akým bude človek v budúcnosti, alebo čo ľudské na ňom ešte ostane (čo nás ako ľudí definuje) a nielen tráviť čas vývojom technológií s nekonečnou mocou, ktorá zmení ľudstvo už navždy. Mali by sme byť veľmi opatrní a nenechávať tieto rozhodnutia len na „voľný trh“, podnikateľom, korporátnym vývojárom, alebo svetovo najsilnejším vojenským organizáciám. Budúcnosť ľudstva by nemala byť všeobecnou paradigmou industriálneho veku, kde sa zisk a rast dosahuje za každú cenu, ale tiež by nemala podliehať nejakému zastaralému technologickému imperatívu, ktorý nám dobre slúžil v 80. rokoch. Ani Silicon Valley a ani najviac technologizované krajiny sveta sa nemôžu stať majiteľmi „poslania ovládať ľudstvo“ a to len z toho dôvodu, že technológie generujú obrovské zdroje príjmov a vysoké zisky.

Našťastie, verím, že sme stále ešte len v bode 90/10: 90 % úžasných možností, ktoré technológie prinášajú a napomáhajú ľudstvu, kým 10 % už môže mať negatívny dopad a priniesť so sebou problémy. Pokiaľ vieme udržať túto rovnováhu, alebo ju priniesť do bodu 98/2, stálo by to za všetku vloženú snahu. A v rovnakom čase tých problematických 10 % (momentálne vo väčšine neúmyselne vytvorených) sa veľmi rýchlo môže nafúknuť na 50 % alebo viac, ak sa nedohodneme, ako chceme, aby tieto technológie slúžili ľudstvu. Teraz skutočne nie je správny čas na to, aby sme problém len „tlačili pred sebou a čakali, čo bude“.

Umelá inteligencia a editovanie ľudského genómu – dva faktory, ktoré úplne menia hru

Hlavný vplyv v oblasti exponenciálnych technológií má umelá inteligencia, ktorá je jednoducho definovaná ako vytvorenie stroja (softvéru alebo robotov), ktoré sú inteligentné a majú schopnosť sa samostatne učiť – teda stroja, ktorý dokáže rozmýšľať spôsobom, akým rozmýšľa človek. Predpokladá sa, že kapacita rastu umelej inteligencie je dvojnásobne rýchlejšia oproti ostatným technológiám, a prekoná Moorov zákon ako vývoj počítačov všeobecne.

„Zďaleka najväčším nebezpečenstvom umelej inteligencie je, že ľudia príliš skoro prišli k záveru, že jej rozumejú.“

Eliezer Yudkowsky

Ďalšia oblasť, ktorá zásadne mení hru po umelej inteligencii, je inžinierstvo ľudského genómu: úprava ľudského DNA za účelom odstránenia niektorých a možno aj všetkých chorôb, schopnosť preprogramovať naše telá a možno aj smrť. Umelá inteligencia v tomto preprogramovaní zohráva kritickú úlohu.

Tieto dve zmeny hry a ich vedeckí súpútnici budú mať obrovský dopad na to, ako bude ľudstvo vyzerať o menej ako 20 rokov.

Gerd Leonhard

Gerd Leonhard je jeden z popredných 100 najvplyvnejších ľudí v Európe. Zameriava sa na budúcnosť ľudstva a technológií, digitálnu transformáciu, veľké údaje, automatizáciu, AI a robotiku, médiá, obsah, marketing a reklamu, telekomunikácie, kultúru a cestovný ruch, bankovníctvo a finančné služby a riadenie. Vo svojich kľúčových poznámkach, prezentáciách, workshopoch a poradných zasadnutiach sa Leonhard často zaoberá témami, ako je digitálny darwinizmus a výzvy digitálnej transformácie, predefinovanie vzťahov medzi ľuďmi a strojmi, budúcnosť práce a pracovných miest, súkromie v ére veľkých údajov, zdieľanie ekonomiky a mnoho ďalších. Jeho prezentácie sú preslávené tvrdým a provokatívnym, ale inšpiratívnym, humorným a motivujúcim štýlom.

Leonhard je veľmi vyhľadávaný rečník, ktorý od roku 2005 prezentoval na viac ako 1500 podujatiach v 50 krajinách. Jeho zoznam klientov zahŕňa Google, Sony, UBS, Mastercard, Unilever, Lloyds Bank, WWF, Nokia, The Guardian, Telkom Indonesia, Siemens, RTL, ITV, BBC, France Telecom, Orange, Deutsche Telekom, MTN, Financial Times, DDB, Ogilvy, Omnicom, Európska komisia, Mandarin Oriental Hotel Group, VISA a mnoho ďalších.

Preklad a licencia na články Gerda Leonharda boli financované prostredníctvom národného projektu Zvýšenie inovačnej výkonnosti slovenskej ekonomiky. Realizuje ho Slovenská inovačná a energetická agentúra, spolufinancovaný je z Európskeho fondu regionálneho fondu rozvoja v operačnom programe Výskum a inovácie.

Európsky Fond Regionálneho Rozvoja
Ministerstvo dopravy a výstavby SR
Ministerstvo hospodárstva SR
SIEA