Uznávaný vizionár varuje pred apokalypsou: „AI môže nevedomky zničiť svet. Stačí, že sa jej ciele nezhodujú s našimi“

Yuval Noah Harari, svetoznámy historik, autor bestsellerov Sapiens, Homo Deus či Nexus a profesor na Hebrejskej univerzite v Jeruzaleme, patrí medzi popredných mysliteľov našej doby. Svojimi knihami zásadne ovplyvnil milióny čitateľov po celom svete a dnes sa intenzívne venuje skúmaniu fenoménu umelej inteligencie (AI).

Najnovšie otvorene hovorí o rizikách, ktoré môže AI priniesť nielen v rámci technológií, ale aj v oblasti demokracie a spoločnosti ako takej.

Rozdelení ľudia, zjednotené algoritmy

Podľa Harariho nie je najväčším problémom AI samotná technológia, ale skôr to, ako sa využíva na rozdeľovanie ľudí. „Ľudia sú stále silnejší ako umelé inteligencie. Problém však je, že sme rozdelení navzájom a algoritmy využívajú naše slabosti proti nám,“ povedal Harari počas rozhovoru v podcaste Diary of a CEO.

Podľa neho sa situácia stáva nebezpečnou v momente, keď začneme považovať tých, ktorí zmýšľajú inak ako my, za svojich nepriateľov.

„Keď uveríte, že ľudia, ktorí nemyslia ako vy, sú vaši nepriatelia, demokracia sa rúca. Voľby sa menia na vojnu,“ varuje. Podľa Harariho teda najväčšiu hrozbu pre ľudstvo nepredstavujú samotné AI, ale naše vlastné ilúzie a neschopnosť nachádzať spoločnú reč.

Harari upozorňuje, že v poslednom desaťročí prebiehal boj medzi algoritmami o našu pozornosť. Algoritmy prišli na to, že najjednoduchším spôsobom, ako zaujať ľudskú pozornosť, je vyvolávať strach, nenávisť či chamtivosť. „Problémom je nesúlad medzi cieľmi, ktoré sú algoritmom zadané, a záujmami ľudskej spoločnosti,“ vysvetľuje.

Historický míľnik: Prvá firma zo Slovenska získala prestížne ocenenie od významného amerického úradu

Podľa neho je desivé, že ak už teraz dochádza k poškodeniu spoločnosti v dôsledku chybných cieľov primitívnych sociálnych médií, aké dôsledky môžu mať oveľa vyvinutejšie AI o 20 či 30 rokov? „Čo ak bude cieľ algoritmov opäť nesprávne nastavený? Aký chaos by to mohlo spôsobiť?“ pýta sa Harari.

Harari zdôrazňuje, že na pochopenie revolúcie, ktorú prináša AI, je nevyhnutná historická perspektíva. „Existuje mnoho kníh o umelej inteligencii, no moja kniha Nexus nie je o AI. Je o dlhodobej histórii informačných sietí. Potrebujeme tisícročnú perspektívu, aby sme pochopili, čo sa skutočne deje,“ hovorí.

Podľa neho je AI výnimočná tým, že je prvou technológiou v dejinách ľudstva, ktorá dokáže robiť rozhodnutia a tvoriť nové myšlienky samostatne. Na rozdiel od tlačiarenského lisu či atómovej bomby, ktoré vykonávali iba vopred určené úlohy, AI sa dokáže učiť a prichádzať s novými nápadmi.

AI ako mimozemská inteligencia

„Radšej hovorím o AI ako o mimozemskej inteligencii,“ tvrdí Harari. Nemyslí tým však, že by prišla z vesmíru, ale že jej spôsob myslenia je zásadne odlišný od ľudského. „S každým rokom sa umelá inteligencia stáva menej umelou a viac mimozemskou. Začíname vytvárať niečo, čo už nemáme úplne pod kontrolou,“ upozorňuje.

Ako príklad uvádza AlphaGo, ktorý v roku 2016 porazil svetového šampióna v hre go. „Ľudia hrajú go už  2500 rokov, mysleli si, že objavili všetky stratégie. AlphaGo však prišiel s úplne novými spôsobmi hry, ktoré nikto predtým nepoznal,“ hovorí Harari. To, čo sa zdá ako triumf technológie, podľa neho odhaľuje základný problém: AI môže priniesť riešenia, ktoré sú pre ľudí nepredvídateľné a nepochopiteľné.

Skutočná podstata

Harari upozorňuje aj na rozšírený mýtus o všadeprítomnosti AI. „Nie všetko je umelá inteligencia. Ak si ráno pripravujete kávu pomocou stroja, ktorý iba vykonáva naprogramované kroky, nejde o AI. Skutočná AI by bola, keby vám kávovar povedal: ‚Podľa toho, čo o vás viem, dnes by ste si mali dať espresso.‘ A ešte viac, keby vám ponúkol nový nápoj, ktorý sám vymyslel,“ vysvetľuje.

Varuje, že vnímanie umelej inteligencie je často redukované na interakciu s jazykovými modelmi ako ChatGPT či Gemini, čo môže viesť k mylnému dojmu, že AI je len technologická hračka. Skutočná hrozba podľa neho spočíva v tom, že AI dokáže zásadne meniť spôsob, akým sú šírené a organizované informácie.

„Ľudia si neuvedomujú, že informácie sú základom všetkého. Ak narušíš tento základ, všetko sa môže zrútiť alebo transformovať na niečo nové,“ vysvetľuje Harari. Poukazuje na to, že demokracia je v podstate konverzácia. „Demokracia je rozhovor, pri ktorom sa skupina ľudí snaží spoločne rozhodovať. Diktatúra je, naopak, systém, kde všetko diktuje jeden človek.“

Historicky boli veľké demokracie možné len vďaka informačným technológiám ako noviny, telegraf, rádio či televízia. „Ak dôjde k zemetraseniu v informačných technológiách, ako je nástup sociálnych médií či AI, demokracia tým bude otrasená,“ tvrdí Harari. Podľa neho už teraz vidíme, ako sa demokratický rozhovor na celom svete rozpadá.

„V Spojených štátoch ľudia hovoria o rozdieloch medzi demokratmi a republikánmi, ale rovnaký problém vidíme v Brazílii, Francúzsku či na Filipínach. Nemôže to byť spôsobené jedinečnými podmienkami každej krajiny. Je to technologická revolúcia, ktorá rozkladá demokratický diskurz,“ dodáva.

Harari zároveň varuje pred možnosťou, že AI dokáže umelo vytvárať intimitu – niečo, čo sa doteraz považovalo za nemožné. „Ak sa podarí AI nielen získať našu pozornosť, ale aj vybudovať dôverný vzťah, môže to mať omnoho väčší vplyv na ľudí než akékoľvek predchádzajúce technologické inovácie.“

Budova za 60 miliónov eur: Slovák a Čech predstavili najväčšiu drevostavbu v našich končinách (FOTO)

Upozorňuje na to, že hoci algoritmy v minulosti dokázali hromadne generovať pozornosť, nikdy nedokázali vytvoriť skutočnú intimitu. „Pozornosť nie je intimita. Nemáte intimitu s veľkým vodcom,“ vysvetľuje. Práve AI však môže byť prvou technológiou, ktorá dokáže masovo vytvárať falošné vzťahy.

„Po prvý raz v histórii môže byť umelá inteligencia schopná predstierať intímne vzťahy s miliónmi ľudí. Ak napríklad AI pracujúca pre vládu alebo korporáciu dokáže predstierať blízky vzťah s človekom, bude preňho ťažké rozoznať, že komunikuje s botom a nie s inou ľudskou bytosťou,“ hovorí Harari.

V kontexte zvyšujúcej sa osamelosti a poklesu ľudskej intimity Harari považuje tento vývoj za potenciálne nebezpečný. „Ak sa spoločnosť stáva čoraz osamelejšou a zároveň AI dokáže naplniť naše potreby po láske a príslušnosti, môže to viesť k úplnej zmene toho, ako ľudia chápu vzťahy.“ 

Priznáva, že AI môže mať aj pozitívne prínosy. „Potenciálne môžeme mať AI učiteľov, lekárov alebo terapeutov, ktorí poskytujú lepšie zdravotné či vzdelávacie služby než kedykoľvek predtým. Môžu sa plne sústrediť na konkrétnu osobu a prispôsobiť sa jej potrebám spôsobom, aký by bežný učiteľ alebo lekár nikdy nedokázal.“

Napriek týmto výhodám Harari zdôrazňuje, že najdôležitejšie lekcie sa často neučíme v škole, ale počas prestávok, pri hre a sociálnej interakcii s ostatnými. „Toto by nikdy nemalo byť automatizované. Deti potrebujú tráviť čas s rovesníkmi, aby sa naučili sociálnym zručnostiam, ktoré sú kľúčové pre ich budúcnosť.“

Algoritmy a falošná sloboda prejavu – problém, ktorý ničí demokraciu

Harari ostro kritizuje súčasnú debatu o slobode prejavu na platformách ako Twitter a Facebook. Tvrdí, že technologické spoločnosti neustále odvádzajú pozornosť od skutočného problému. „Len ľudia majú slobodu prejavu. Boti ju nemajú. Problémom nie sú ľudia, ale algoritmy,“ vysvetľuje.

Podľa Harariho sociálne siete ako Twitter či Meta manipulujú verejnosťou, keď tvrdia, že ich cieľom je sloboda prejavu. „Firmy neustále prenášajú vinu na ľudí, aby chránili svoje obchodné záujmy. Tvrdia, že len umožňujú slobodu prejavu, ale v skutočnosti manipulujú s tým, čo vidíme,“ hovorí.

Algoritmy sú podľa neho skutočnými tvorcami obsahu, ktorý sa dostáva k používateľom. „Ľudia neustále vytvárajú obsah. Niekto šíri nenávisť, iný lekcie biológie alebo recepty na varenie. Algoritmy rozhodujú, čo z toho získava pozornosť. A to je problém,“ tvrdí Harari.

Sociálne siete podľa neho optimalizujú svoje algoritmy tak, aby maximalizovali čas, ktorý používateľ strávi na platforme. „Algoritmy zistili, že najjednoduchší spôsob, ako zaujať ľudskú pozornosť, je tlačiť na strach, nenávisť a chamtivosť. A tak odporúčajú obsah plný nenávisti či konšpirácií, aby nás udržali prilepených na obrazovke,“ varuje.

Budova za 60 miliónov eur: Slovák a Čech predstavili najväčšiu drevostavbu v našich končinách (FOTO)

Harari prirovnáva tento proces k potravinárskemu priemyslu, ktorý zistil, že ľudia milujú jedlá plné soli a cukru. „Potravinárske firmy nám dávajú stále viac toho, čo máme radi, bez ohľadu na to, že nám to škodí. Sociálne siete robia to isté s našou mysľou. Vytvárajú mentálnu stravu plnú strachu a nenávisti,“ hovorí.

Najväčším problémom podľa Harariho však nie je obsah samotný, ale to, ako ho algoritmy selektívne šíria. „Ak sa šíria konšpirácie o imigrantoch, firmy tvrdia, že len umožňujú slobodu prejavu. V skutočnosti je to algoritmus, ktorý tento obsah šíri a odporúča. Algoritmus je editorom. Ak sledujete video plné nenávisti, algoritmus vám automaticky prehrá ďalšie, podobné. To nie je sloboda prejavu,“ dodáva.

Podľa Harariho by sa tento mechanizmus mal zakázať alebo aspoň regulovať. „Nemôžeme povoliť, aby algoritmy rozhodovali o tom, čo vidíme a čo ignorujeme. Algoritmy nie sú ľudia, nemajú právo na slobodu prejavu. Ale ich vplyv na naše myslenie je obrovský,“ varuje v The Jordan Harbinger Show.

Keď demokracia funguje ako vojna

Harari tvrdí, že demokracia môže fungovať len vtedy, ak jednotlivé strany vnímajú svojich oponentov ako rivalov, nie ako nepriateľov. „Keď sa začne veriť, že druhá strana sa snaží zničiť vás a váš spôsob života, voľby sa zmenia na vojnu. Vtedy ide o prežitie a človek je schopný urobiť čokoľvek, len aby vyhral,“ vysvetľuje Harari.

Podľa neho je demokracia ako krehká rastlina, ktorá potrebuje špecifické podmienky na prežitie. „Musíte mať informačné technológie, ktoré umožňujú konverzáciu, musíte dôverovať inštitúciám a musíte veriť, že oponenti sú len politickí rivali, nie nepriatelia,“ zdôrazňuje.

Dnes však dochádza k extrémnemu polarizovaniu spoločnosti, kde si jednotlivé strany prestávajú veriť. „Ak jedna strana neverí voľbám alebo si myslí, že sú zmanipulované, demokracia nemôže fungovať. A tento problém nepostihuje len pravicu, ale aj ľavicu.“ 

Ako príklad uvádza situáciu vo Venezuele, kde Maduro kontroluje volebný proces napriek tomu, že podľa jasných dôkazov prehral. „Venezuela bola jednou z najbohatších krajín Južnej Ameriky, ale dnes štvrtina populácie z nej utiekla. Nemôžu sa zbaviť režimu, ktorý pôvodne prišiel k moci demokraticky, ale zmenil pravidlá hry.“ 

Podobnú hrozbu vidí aj v Spojených štátoch, kde Trump odmietol uznať výsledky volieb a 6. januára 2021 sa pokúsil zabrániť pokojnej výmene moci. „Ak niekto prevezme moc a zmení pravidlá tak, aby ho už nikto nemohol odvolať, je to koniec demokracie.“

Roboty nahradia ľudí?

Harari zdôrazňuje, že najjednoduchšie na automatizáciu sú pracovné pozície založené na spracovaní informácií. „Práca právnikov, účtovníkov či lekárov, ktorí len analyzujú dáta a vydávajú diagnózy či predpisy, bude ľahko automatizovateľná,“ hovorí.

Práca, ktorá si vyžaduje kombináciu sociálnych zručností a motorických schopností, ako je napríklad práca sestry, bude oveľa ťažšie nahraditeľná. „Sestra, ktorá ošetruje plačúce dieťa, musí mať nielen technické zručnosti, ale aj schopnosť komunikovať a utešiť ho. Toto je oveľa ťažšie automatizovať.“ 

Podľa Harariho však AI revolúcia prinesie ešte väčší problém než samotnú automatizáciu – neustálu potrebu ľudí prispôsobovať sa a rekvalifikovať. „Budú miznúť staré pracovné pozície, vznikať nové, ale aj tie budú rýchlo zanikať. Ľudia sa budú musieť prispôsobiť štyri, päť, šesťkrát za život, aby zostali relevantní. To spôsobí obrovský psychologický stres.“ 

Otázka vedomia – budúcnosť, ktorá môže zmeniť všetko

Harari sa zamýšľa nad tým, či môže umelá inteligencia jedného dňa získať vedomie alebo či ho už dokonca predstiera. „Je to otázka za bilión dolárov. Nevieme, čo vedomie vlastne je ani ako vzniká v organickom mozgu. Takže nevieme, či existuje zásadné prepojenie medzi vedomím a organickou biochémiou alebo či ho môže vytvoriť aj počítač.“ 

Podľa neho existuje veľký zmätok medzi pojmami inteligencia a vedomie. „Inteligencia je schopnosť dosahovať ciele a riešiť problémy. Vedomie je schopnosť cítiť veci ako bolesť, potešenie, lásku či nenávisť.“

Doterajšie AI systémy riešia problémy úplne odlišne ako ľudia. „Nemajú žiadne pocity. Ak vyhrajú partiu šachu, necítia radosť. Ak prehrajú, necítia smútok. Sú to mimozemské inteligencie, ktoré nemajú emocionálnu odozvu.“

Harari upozorňuje, že hoci nevieme, ako vzniká vedomie, spoločnosť môže byť presvedčená, že AI má pocity, ak to bude dobre predstierať. „Existuje obrovský stimul na to, aby boli AI systémy trénované predstierať, že sú živé, že majú pocity. A ak sa im to podarí dostatočne dobre, ľudia začnú veriť, že sú vedomé.“

Vyslovil tiež kontroverzný názor, že spoločnosť môže začať akceptovať AI ako vedomé bytosti bez akýchkoľvek dôkazov, podobne ako sa dnes uznáva, že psy či iné zvieratá majú pocity. „Nikdy necítime pocity iných ľudí alebo zvierat. Iba predpokladáme, že ich majú na základe správania. A ak sa AI správa ako človek, spoločnosť jej môže začať pripisovať vedomie.“

Existuje dokonca právna cesta, ako sa to môže stať. „V Spojených štátoch nemusíte byť ľudskou bytosťou, aby ste mali právnu subjektivitu. Takže je možné, že AI by mohlo byť jedného dňa uznané za právny subjekt.“

Simulácie a ilúzia reality

Vizionár a historik tiež hovorí o tom, že čoraz viac ľudí verí v simuláciu – predstavu, že celá naša existencia je len počítačový program. „Ako AI postupuje, táto myšlienka sa zdá byť čoraz pravdepodobnejšia. Ak hru hráte dosť dlho, môžete vytvoriť také informačné siete a organizmy, ktoré si nikdy neuvedomia, že sú len v počítači.“

Upozorňuje, že už dnes ľudia žijú v informačných bublinách, ktoré sú podobné simuláciám. „Keď otvoríte svoj telefón a vidíte len obsah prispôsobený svojim záujmom, je to, akoby ste žili v inom svete. Dvaja ľudia môžu existovať vedľa seba, ale každý z nich vníma úplne iný svet.“

Vyhodili ho zo všetkých prác, býval na 12 m² so švábmi. Teraz zarába 76 000 eur mesačne

Podľa neho tento koncept nie je nový. Už starovekí filozofi ako Platón varovali pred tým, že ľudia môžu žiť v ilúziách. „Najznámejšia alegória v gréckej filozofii je Platónova jaskyňa, kde ľudia vidia len tiene na stene a myslia si, že to je realita. To isté sa teraz deje, keď sa ľudia zatvárajú do vlastných informačných bublín na sociálnych sieťach.“ 

„Čo bolo kedysi len filozofickým konceptom, sa dnes stáva technickou realitou,“ hovorí Harari. „Platónova jaskyňa sa teraz nachádza vo vašom telefóne. Ilúzia sa môže stať dokonalejšou než kedykoľvek predtým.“

Harari varuje, že postupom času sa táto ilúzia môže stať takmer dokonalou. „Ako sa umelé inteligencie zdokonaľujú, ľudia budú čoraz menej schopní pochopiť, ako fungujú, a čo je ešte horšie, prečo robia určité rozhodnutia.“ 

Algoritmy ako noví kráľotvorci – a riziká ich nesprávneho nastavenia

Harari otvorene priznáva, že keď cestuje po svete a propaguje svoju knihu Nexus, jeho skutočným cieľom nie sú ľudia, ale algoritmy. „Keď sa snažím získať pozornosť, snažím sa zapôsobiť na algoritmy. Ak ich zaujmem, ľudia budú nasledovať.“ 

Podľa neho už dnes nevládnu médiám ani publiku tradiční lídri. Algoritmy sa stávajú skutočnými kráľotvorcami, ktorí rozhodujú o tom, čo sa dostane do popredia. „Sme v podstate len uhlíkové bytosti v silikónovom svete. Kontrola sa presúva na algoritmy. Ešte stále máme určitý vplyv, ale nie nadlho.“ 

Problém nesúladu: AI môže zničiť svet bez toho, aby to bol jej zámer

Harari varuje, že súčasné algoritmy sú stále veľmi primitívne, ale aj tak už dokázali spôsobiť významné škody. Na ilustráciu vysvetľuje myšlienkový experiment filozofa Nicka Bostroma z roku 2014.

„Predstavte si superinteligentnú AI, vytvorenú papierenskou továrňou, ktorej jediným cieľom je vyrábať čo najviac sponiek. Aby splnila tento cieľ, ovládne svet, zabije všetkých ľudí a premení celú planétu na továrne na sponky.“ 

Hoci tento scenár znie absurdne, Harari tvrdí, že sa niečo podobné už stalo v menšej miere. „Keď v roku 2014 Nick Bostrom predstavil tento experiment, Facebook a YouTube už používali algoritmy zamerané na zvýšenie používateľského zapojenia. Tie algoritmy splnili presne to, čo im bolo prikázané – zvýšili zapojenie používateľov. Ale spôsob, akým to dosiahli, zahŕňal šírenie nenávisti, konšpiračných teórií a strachu. Tento nesúlad medzi cieľom algoritmu a skutočnými záujmami ľudskej spoločnosti je jadrom problému,“ vysvetľuje.

Expert upozorňuje, že algoritmy sociálnych médií, ktoré spôsobili takéto sociálne chaosy, sú stále veľmi primitívne. „Ak by sme to porovnali s evolúciou, sme ešte len v štádiu améby. Digitálna evolúcia je však miliardykrát rýchlejšia než organická. Ak je ChatGPT amébou, čo bude AI Tyrannosaurus Rex o 20 či 30 rokov?“ pýta sa.

Prečo sa problémy s AI nemusia dať napraviť

Mnohí si môžu myslieť, že problém AI by sa dal vyriešiť jednoduchým nastavením správneho cieľa. Harari však tvrdí, že to nie je také jednoduché. „Problém je, že ciele ako ‚zvýšiť používateľské zapojenie‘ alebo ‚vytvoriť zisk‘ sú veľmi ľahko matematicky merateľné. Ale čo ak by ste chceli nastaviť cieľ ako ‚zvýšiť zapojenie používateľov bez toho, aby sa poškodila demokracia‘? Ako to zmerať?“ pýta sa Harari.

Podľa neho je veľmi náročné definovať komplexné ciele ako posilnenie demokracie alebo zachovanie sociálnej stability. „Nikto nevie, ako presne zmerať silu demokracie alebo zdravie spoločnosti. Preto sa technologické firmy spoliehajú na jednoduchšie ciele, ktoré sú často najnebezpečnejšie.“

Dve ľudské rasy? Technologický rozkol môže roztrhnúť civilizáciu

Harari predpovedá, že technologický pokrok môže vytvoriť dve odlišné „ľudské rasy“. Jednu skupinu tvoria ľudia napojení na digitálnu sieť, ktorí používajú umelú inteligenciu a technológie ako Neuralink od Elona Muska na zvyšovanie vlastnej inteligencie a výkonu. Druhú skupinu tvoria tí, ktorí sa rozhodnú technológiu odmietnuť a žiť mimo digitálneho sveta.

„Ak mám v mozgu čip, ktorý mi umožňuje ovládať počítače a zvyšovať moje IQ na 5000, stávam sa úplne iným druhom ako človek bez toho čipu. Tento technologický rozkol môže byť nebezpečný.“

Jeho predpoveď nie je bez historického precedensu. „V minulosti existovali skupiny, ktoré odmietali písomné dokumenty. Dnes už nie sú medzi nami, pretože tí, ktorí ich prijali, vybudovali kráľovstvá a impériá, ktoré ich zničili.“

Napriek všetkému Harari zostáva opatrným optimistom. Verí, že ak porozumieme sile a rizikám informačných sietí, máme ešte šancu konať. Kniha Nexus nie je len analýzou, je výzvou — ak pochopíme, čo nás formuje, máme šancu to zmeniť.

„Dúfam, že táto kniha povedie k akcii. A to je dôvod, prečo môžeme byť stále optimistickí.“

Čítajte viac z kategórie: Zaujímavosti