Blog1 159 zobrazení

Vízionári zo Silicon Valley chcú zhmotniť hrôzy z pop-kultúry. Prečo sme k tomu ľahostajní?

Matej ArvaMatej Arva

Zamysleli ste sa niekedy nad tým, prečo sa umelá inteligencia, za ktorou stojí Elon Musk, nazýva Grok? (Ide o slovo prvý krát použité americkým spisovateľom Robetom A. Heinleinom v knihe A Stranger in a Strange Land, a znamená rozumieť.) Ak áno, asi ste dospeli k záveru, že sa novodobí vizionári zo Silicon Valley nechávajú do značnej miery inšpirovať modernou pop-kultúrou, predovšetkým žánrom sci-fi. Mnohé moderné technológie majú pôvod vo vedeckej fantastike (napríklad tablety- Star Trek: Nová generácia). Dnes sa zdá, že pokrok v umelej inteligencii umožní vznik omnoho zaujímavejších „technológii budúcnosti“. Problémom však je, že dvivá vačšina vedecko-fantastických vízií budúcnosti nie sú návody na výrobný postup, ale varovania (angl. cautionary tales.) Za lákavými reklamnými sloganmi a vzletnými heslami sa preto skrývajú nevídané hrôzy.

V nedávnom rozhovore pre YouTubový kanál This Is World, Ray Kurzweil, hlavný futurológ firmy Google a jeden z nauznávanejších autorít v oblasti AI a informačnej technológie (V roku 2024 sa v umiestnil rebríčku 100 najvplyvnejších ľudí v oblasti umelej inteligencie.), uviedol niekoľko zdanlivo fantastických predpovedí:

  1. Do roku 2029 bude vyvinutá umelá inteligencia, ktorá sa v schopnosti myslieť a riešiť problémy vyrovná človeku, tzv. „human level AI.“
  2. V tridsiatych rokoch 21. storočia vďaka AI vyvinieme nanotechnológie (stroje veľkosti buniek príp. molekúl/atómov), ktoré postupne umožnia ľuďom predĺžiť svoje životy až k nesmrteľnosti.
  3. Ľudia budú pomocou implantátov a pokročilých technológii vylepšovať svoje telá a budú schopní prepájať svoje mozgy priamo s počítačmi a umelou inteligenciou.
  4. Hranice medzi ľuďmi a strojmi sa budú stierať, nebude teda jasné, kde človek končí a počítač začína.
  5. Do roku 2045 dosiahneme tzv. technologickú singularitu, tz. ľudia plne splynú so strojmi. Ľudia a AI a stanú sa jedným. Tento svet je pre nás momentálne nepredstaviteľný a nepochopiteľný. Preto sa akékoľvek predpovede udalsotí za týmto bodom stávajú bezpredmetnými.

Akokoľvek nerealistické sa nám tieto predovede môžu zdať, Ray Kurzweil, ako aj ďaľší techno-optimisti, ich myslia vážne. On sám sa netají svojou ambíciou žiť večne.  Navyše za ním stojí spoločnosť, ktorá disponuje stovkami miliárd dolárov, nehovoriac o  špičkových výskumníkoch v oblasti umelej inteligencie a informačných techológií. On sám tieto predpovede uvádza ako niečo úžasné a ľuďom prospešné. Problémom však je, že sa pri posudzovaní pravdivosti týchto tvrdení nemôžeme spoliehať na ľudskú skúsenosť a históriu. V našej kolektívnej skúsenosti sa umelo vylepšení ľudia a mysliace počítače našťastie nevyskytujú. To, čo k dispozícii máme, je populárna kultúra. Tá, ktorou sa mnohí techno-optimisti vo svojich predpovediach inšpirujú. Pozrime sa teda na niekoľko ukážok toho, ako by mohli Kurzweilove vízie vyzerať.

Vylepšovanie ľudí pomocov implantátov: 

Filmy o Robocopovi asi nemusím nikomu predstavovať. Policajt brutálne zavraždený zákerným zločincom sa vráti ako kyberneticky vylepšený akčný hrdina a pomstí svoju smrť. Na prvý pohľad pomerne tuctová zápletka. Pozornému divákovi však neuniknú hlbšie témy, ako je napríklad zachovanie ľudskosti človeka, či kresťanský motív zmŕtvychvstania. Na pozadí stieľania a naháňačiek na autách sa odohráva boj človeka o jeho ľudskosť. Autori si kladú otázku: „Koľko ľudskosti v Robocopovi zostalo?“ A aj keď Robocop boj o svoju dušu nakoniec vyhrá a stane sa akýmsi technologickým Ježíšom, chceli by ste aby Vás alebo vaše deti čakal podobný osud? Ja odpovedám rozhodne nie, a myslím si, že mnoho ľudí by odpovedalo rovnako. Tento zápas o našu dušu by sme totiž nemuseli vyhrať. Ako by vyzeral prehratý boj o našu ľudskosť môžme nacítit v príbehu The Man Who Bites His Tongue (Muž, ktorý si hryzie jazyk) z animovaného seriálu AD Police Files, ktorý je v angličtine voľne dostupný na Youtube. Tento príbeh pojednáva o policistovi, ktorý v priebehu svojej služby nahradil stále viac a viac častí svojho tela umelými implantátmi, čo mu poskytlo nadľudské schopnosti, silu, a nezraniteľnosť. Na druhej strane strácia viac a viac svojej ľudskosti, pretože jeho robotické súčiastky mu neumožnujú nič cítiť. Jediné, čo z neho zostalo, okrem jeho mozgu, je jeho jazyk. Názov tohoto príbehu naznačuje jediný, a pomerne brutálny, spôsob, ktorým si hlavný protagonista  pripomína, že je človekom a zúfalo tak bojuje o zachovanie svojej ľudskosti. Čitatelia mi odpustia, ak vyzradím záver a poviem, že táto postava svoj boj nakoniec prehrá a prepadne robotickému šialenstvu s tragickými následkami. Veľmi podobný osud postihne aj mnohé postavy z populárneho Netflixovského seriálu Cyberpunk Edgerunners. V tomto seriáli ešte stojí za pozornosť postava Aadam Smashera – človeka, ktorý nepodľahol robotickému šialenstvu, napriek tomu, že nahradil celé svoje telo (okrem mozgu) robotickými implantátmi. Nestratil ani svoju ľudskosť, pretože ako psychopatické monštrum a sériový vrah nikdy žiadnu ľudskosť nemal. Táto postava nastoľuje otázku: Kto by bol na vrhochle novej pyramídy moci? Boli by to tí najlepší alebo najhorší z nás?                                                                                                                                                                      Pri všetkých troch prípadoch ktoré sme uviedli stojí za zmienku aj zobrazenie obrovského nepomeru síl medzi vylepšenými a nevylepšenými ľudmi. Teória hier nám naznačuje, že pokiaľ sa tieto technológie naozaj stanú dostupnými, ľudia budú čeliť obrovskému tlaku na to, aby ich začali využívať a vylepšili sa. Každý človek bude čeliť voľbe: vylepši sa a staň sa polobohom, alebo sa staň bezvýznamným a bezmocným a riskuj, že ťa ktorýkoľvek vylepšený nadlčlovek bude môcť zašliapnuť ako červa. Uznávam, že ako počítačové hry a seriály sú tieto príbehy zábavné, ale naozaj by sme chceli žiť vo svete, v ktorom sa odohrávajú?

Spojenie ľudského mozgu s AI:

V tomto prípade uvediem dva príklady. V roku 2018 sa do kín dostal nenápadný sci-fi film s názvom Upgrade (Vylepšenie). Pojednáva o mladom mužovi postihnutom paralýzou, ktorý vďaka novému prevratnému implantátu dokáže nielen chodiť, ale získa nadľudské schopnosti. Tieto mu umožnia pomstiť sa ľuďom zodpovedným za jeho paralýzu, ako aj za smrť jeho manželky. Na konci filmu však umelá inteligenicia obsiahnutá v čipe, ktorý má hlavný hrdina zabudovaný vo svojom mozgu, preberie kotrolu nad jeho telom a hlavný hrdina sa stane vezňom vo svojej vlastnej mysli. Na tomto príbehu nie je čo analyzovať. Varovanie, ktoré v ňom zaznie je celkom zjavné.

Druhý príklad je omnoho zaujímavejší. Ukazuje, ako by mohlo vyzerať zjednotenie ľudí a AI na celospoločenskej úrovni. Fanúšikovia Star Treku vedia, že najobávanejšími záporákmi v celom vesmíre tohoto seriálu sú tzv, Borgovia. Táto rasa predstavuje presne to, o čom Ray Kurzweil hovorí vo svojich predpovediach, teda fundamentálne spojenie a jednotu bilologických bytostí (ľudí) a strojov vedených umelou inteligenciou. Príslušníci tejto rasy neoplývajú individualitou. Vďaka tomu, že ich mozgy sú prepojené so strojmi, ale aj so sebou na vzájom, vytvorilo sa u nich akési kolektívne vedomie. Toto vedomie potláča individualitu jednotlivých príslušníkov tejto rasy, a sleduje svoje kolektívne zámery. Za dva najdôležitejšie môžme považovať získanie technologickej „dokonalosti“ a nadvlády nad celou galaxiou, ako aj podrobovanie si stále nových a nových biologických druhov. Borgovia totiž neplodia svoje vlastné deti. Rozmnožujú sa prostredníctvom takzvanej asimilácie, tj. konvertovaním iných rás na Borgov za pomoci nanobotov. Tieto miniatúrne stroje dokážu v mozgoch infikovaných ľudí vytvoriť hardvér potrebný na prepojenie s kolektívnym vedomím, spájajúcim a kontrolujúcim celú rasu. Pokiaľ ste sa s Borgami nikdy nesetkali, doporučujem Vám pozrieť si diel Q Who? (séria II., epizóda 16) zo seriálu Star Trek Nová Generácia. Mňa, ako aj mnoho ďalších divákov, pri pohľade na tieto galaktické robo-zombie vždy zachváti absolútna hrôza.

Dařbuján, Pandrhola, a nesmrteľnosť: 

Dovolím si ešte jedno krátke zamyslenie nad druhou predpoveďou uvedenou v tomto texte – predĺženie ľudského života a dosiahnutie nesmrteľnosti. Táto ľudská túžba je pochopiteľná. Kto z nás by nechcel, aby naši milovaní mohli žiť večne? A keď my sami budeme cítiť blížiacu sa smrť, kto z nás by mal odvahu nesiahnuť po lieku predlžujúcom život? Tento koncept má však aj odvrátenú stránku. Pri jeho skúmaní si pomôžem československou klasikou, filmom Dařbuján a Pandrhola. Napriek svojmu socialisticko-budovateľskému kontextu obsahuje tento film jednu zaujímavú, a podľa mňa pravdivú myšlienku. Srmť,  napriek tomu, že je desivá a bolestivá, zaručuje absolútnu a finálnu rovnosť medzi ľudmi. Nech je človek akokoľvek bohatý a mocný, jeho život sa raz skončí. Predstava, že by sme stále mohli ťažiť z génia Alberta Einsteina, je lákavá. Ale viete si predstaviť, že by nesmrteľnost získal Adolf Hitler, Doktor Mengele, Xi Jinping, Kim Jong Un, Stalin, či Vladimír Putin? Inými slovami, diktátori a šialenci, niektorí s prstom na jadrovej spúšti. Koľko Einsteinov a Matiek Terezí by sme potrebovali aby odčinili zlo, ktoré by takíto ľudia mohli napáchať?

Záver:

Ak sa Vám zdá tento text uletený, chápem Vás. Nesmrteľnosť? Nanoboty? Splynutie človeka a stroja? Znie to trochu ako výplody bujnej fantázie. Napriek tomu stále viac a viac vedcov a vedúcich predstaviteľov technologických firiem prichádza s podobnými predpoveďami. A časová os, ktorú udávajú, nezahŕňa desaťročia ani storočia. Ďaľšia technologická revolúcia nám už klope na dvere a ak sa tempo technologického pokroku bude rýchľovať, tak, ako to pozorujeme v posledných desaťročiach, svet sa stane celkom nepredvídateľným a pre mnoho ľudí nezrozumiteľným. Naša psychika sa tejto predstave bráni, pretože prirodzenou reakciou na ňu je paralyzujúca hrôza a zúfalstvo. Tieto pocity sú pre človeka tak nepríjemné, že urobí takmer čokoľvek, aby sa s nimi nemusel konfrontovať. Toto bohužial platí pre obyčajných ľudí, ako aj pre podnikateľov a výskumníkov v oblasti umelej inteligencie. Mnohí z nich si riziká spojené s jej vývojom nepripúšťajú, alebo ich úplne ignorujú. Príladne si dookola opakujú rôzne heslá a mantry ktorými sa snažia upokojiť ostatných, alebo samých seba (O tomto viac nabudúce). Týmto Vás chcem vyzvať, aby ste boli statoční, a pozreli sa do tejto priepasti a na desivé prízraky, ktoré odtiaľ vyliezajú. Pokiaľ to ako spoločnosť neurobíme, akákoľvek šanca na záchranu je stratená.