Profesor Yuval Noah Harari (49) povjesničar je čije su knjige prodane u više od 50 milijuna primjeraka na 65 svjetskih jezika. Jedan je od najpoznatijih i najtraženijih javnih intelektualaca u današnjem svijetu. Stoga je nemoguće dovoljno naglasiti koliko je dobro i važno da će ga i zainteresirana hrvatska publika moći ponovno vidjeti u Zagrebu, 23. listopada u Koncertnoj dvorani Vatroslava Lisinskog.
Posljednji put Večernjak ga je intervjuirao 2015., kad je njegov prvi bestseler "Sapiens: Kratka povijest čovječanstva" preveden na hrvatski i kad je Harari posjetio Zagreb promovirajući to izdanje. Od tada do danas njegova relevantnost, da ne kažemo slava, samo je rasla i rasla. Nakon "Sapiensa", napisao je knjigu "Homo Deus: kratka povijest sutrašnjice", zatim "21 lekciju za 21. stoljeće", a prije godinu dana objavljena je i "Neksus: kratka povijest informacijskih mreža od kamenog doba do umjetne inteligencije", neobično važna knjiga koju bi svatko trebao pročitati i o njoj razmišljati barem jednom dnevno. Ovaj smo intervju vodili 23. lipnja, u jeku još jednog rata, ovaj put između Hararijeva rodnog Izraela i Irana. Stoga je prvo pitanje bilo o ratu i miru.
Je li, iz vaše povijesne perspektive, čovječanstvo zapravo izašlo iz jedne povijesne epizode relativnog mira u svijetu i vratilo se u toliko puta viđena razdoblja ratovanja? Jesu li sukobi prirodno stanje koje čovjek stvara na Zemlji?
Ne mislim da je rat prirodno ljudsko stanje jer, iako vidimo uspone i padove u intenzitetu ratova tijekom povijesti, ne vidimo konstantnu razinu nasilja. I zasigurno nemamo dokaza o bilo kakvom organiziranom nasilju među ljudima, tijekom više od 15 tisuća godina. Dakle, to nije nužno dio ljudske prirode i nije konstanta. Ovisi o ljudskim odlukama. Tijekom posljednjih nekoliko desetljeća dokazali smo da možemo donositi dobre odluke i izgraditi relativno miran poredak. Znam da je bilo sukoba i ratova, čak i 1990-ih, u bivšoj Jugoslaviji, ili u mom dijelu svijeta, u Izraelu i oko njega.
Dakle, znam da nikada to nije bio savršen poredak, ali je ipak bio ogromno postignuće. I ne mislim da je to bila fatamorgana ili iluzija. Doista je postojao relativno miran globalni poredak. Postojao je zapravo tabu kad je riječ o osvajačkim ratovima. Bilo je mnogo građanskih ratova, pobuna, ustanaka i tako dalje, ali nije bilo primjera da jedna zemlja jednostavno osvoji i uništi drugu zemlju. Postoji relativno malo primjera da jedna zemlja silom osvoji dijelove druge zemlje. To je omogućilo da se državna izdvajanja za vojsku dramatično smanje, s prosječno više od 50 posto proračuna, trošenog na vojsku tijekom većeg dijela ljudske povijesti, na prosječno oko 6 ili 7 posto proračuna koji ide na vojsku.
Nažalost, čini se da je ta era sada završena zbog odluka koje su donijeli i vođe poput Vladimira Putina, s njegovom invazijom na Ukrajinu, ali i demokratskih odluka birača koji su na različitim mjestima diljem svijeta, a posebno u Sjedinjenim Američkim Državama, doveli na vlast pojedince i vođe koje ne zanima očuvanje liberalnog globalnog poretka temeljenog na suradnji i vladavini prava. Koje zanima povratak u imperijalno doba u kojem je osvajanje opet legitimno. I u kojem se zemlja brani jedino vojnom silom, zbog čega vidimo da vojni proračuni diljem svijeta rastu. Sve više zemalja zainteresirano je za nuklearno oružje. Sada je, naravno, u naslovima nuklearni program Irana. Ali Njemačka sada razmatra da joj možda treba nuklearno oružje, također i Japan, Južna Koreja, Turska, Saudijska Arabija... Jer, ako živimo u svijetu u kojem je tabu o osvajanju prekršen, onda samo vojna sila i, u konačnici, nuklearno oružje može zaštititi zemlju od invazije. Vidjeli smo što se dogodilo s Ukrajinom. Ukrajina se odrekla svog nuklearnog arsenala nakon raspada Sovjetskog Saveza u zamjenu za jamstva o svom teritorijalnom integritetu i suverenitetu, što se pokazalo bezvrijednim.
Nažalost, vraćamo se u doba rata. Ali, to nije neizbježno. Nadamo se da će ljudi to shvatiti, kako birači tako i vođe. Shvatiti katastrofalne posljedice povratka na tu bezakonitu međunarodnu situaciju. I nije prekasno spasiti međunarodni poredak koji se raspada.
U knjizi "Neksus" puno pišete o pitanju povjerenja i o umjetnoj inteligenciji. Uspon umjetne inteligencije događa se u svijetu erodirajućeg povjerenja. Čini se da živimo u vremenu i svijetu sve manjeg povjerenja između samih ljudi, a zatim i između ljudi i algoritama. Što možemo učiniti po tom pitanju i kako možemo biti pametni u vezi s tim?
Prvo, zanimljivo je da postoji erozija povjerenja u ljude, ali postoji povećano povjerenje u algoritme. Vidimo da ljudi govore: ne vjerujemo vladama, ne vjerujemo bankama, ne vjerujemo drugim ljudima. Ali istovremeno, razina povjerenja u algoritme i umjetnu inteligenciju je zaista impresivna. Pogledajte Uber. Uđete u automobil potpunog stranca samo zato što vam je algoritam rekao da je u redu to učiniti. Vidite i s porastom kriptovaluta, poput Bitcoina, da isti ljudi koji gube povjerenje u ljudske institucije, u banke, imaju puno povjerenja u algoritme koji stvaraju i održavaju te kriptovalute. Zapravo vidimo pomak povjerenja s ljudi na algoritme, što je u mnogočemu opasno za čovječanstvo. To je dio velike slike u kojoj ljudi gube kontrolu nad svojim životom i svojom budućnošću, predajući kontrolu algoritmima. Tisućama godina ljudi su gradili povjerenje komunicirajući s drugim ljudima. Sada se većina komunikacije sve češće odvija putem algoritma. Sada razgovaram s vama online, već sam zaboravio na kojoj smo platformi jer smo ih toliko promijenili.
Razgovaramo na platformi Google Meet.
Komuniciramo, ali putem algoritma. Dakle, koliko god ja vama vjerovao, zapravo više vjerujem Googleu nego vama jer je Google platforma na kojoj se sastajemo. Moram vjerovati Googleu da bih razgovarao s vama. Dakle, vidjeli smo da se algoritmi i strojevi umeću između gotovo svake ljudske interakcije. I možda je to razlog zašto povjerenje u ljude pada, a povjerenje u algoritme raste. Sve je to izuzetno opasno zbog činjenice da sada razvijamo izuzetno moćne algoritme, superinteligentne umjetne inteligencije. Postoje određena neslaganja ili konfuzija oko značenja tog pojma, ali gotovo svi se slažu da se razvija umjetna inteligencija koja je inteligentnija od ljudskih bića u širokom rasponu područja, od igranja igara do financija i medicine. I da to više nije znanstvena fantastika, da će biti ovdje za dvije godine, pet godina, deset godina. A to postavlja pitanje prijetnje od takvog superinteligentnog entiteta. I to nije samo jedna umjetna inteligencija. Govorimo o milijunima i milijardama umjetnih inteligencija koje donose odluke o nama. Kako se možemo pobrinuti da budu sigurne?
Prije nego što prijeđemo na to, samo da se dotaknemo poante koju vrlo jasno naglašavate, ali vrijedi ponoviti, objasniti, ići malo dublje. To je poanta o tome kako se umjetna inteligencija razlikuje od bilo koje druge tehnologije u ljudskoj povijesti, kako je to zapravo nešto potpuno drugačije u smislu koji mnogi ljudi ne shvaćaju ili ne vide razliku.
Da, umjetna inteligencija se razlikuje jer ona nije alat, već agent. Alat je nešto poput olovke koju mogu koristiti za pisanje nečega. Ili tiskarskog stroja koji može tiskati knjige. Ili čak poput atomske bombe. Atomske bombe koje su Iranci pokušavali razviti, to je alat. Alat ništa ne odlučuje sâm. Mi donosimo odluku. Ja odlučujem za što ću koristiti svoju olovku. Ja odlučujem što ću tiskati na tiskarskom stroju. Ako imam atomsku bombu, odlučujem što ću s njom učiniti, koga ću napasti. Agent je nešto drugačije. Agent može sâm donositi odluke. Autonomni sustav naoružanja, poput autonomnog drona, sâm donosi odluku što će napasti. Algoritam može napisati knjigu, samostalno izmisliti nove ideje, ne čeka da ja napišem knjigu. Dakle, nikada prije nismo susreli ništa slično. Svi prethodni izumi dali su nam moć. Ako imate olovku ili ako imate atomsku bombu, moćniji ste nego što ste bili prije. Ali nakon što stvorite umjetnu inteligenciju, ona vam može oduzeti moć. Uzima sebi moć donošenja odluka, izmišljanja ideja... Mogli bismo postati marionete umjetne inteligencije. Dakle, to je nešto s čime se nikada prije nismo susreli u povijesti.
Očito je da umjetna inteligencija ima pozitivan potencijal, ali i opasan potencijal. Koji potencijal će prevladati i kako će prevladati?
Definitivno će biti puno vrlo pozitivnih razvoja u područjima poput medicine. Bit će opasnih i negativnih razvoja. Ne znamo kakva će biti ravnoteža. Hoće li biti više dobrog ili više lošeg? To uvelike ovisi o tome je li umjetna inteligencija pouzdana i dobronamjerna. Dat ćemo umjetnoj inteligenciji sve veću kontrolu nad našim životima. Nadamo se da će biti pouzdana, da će biti dobronamjerna, da će se brinuti za naše interese, ali ne možemo biti sigurni. Dakle, pitanje je kako razviti vjerodostojnog agenta? Puko instruiranje umjetne inteligencije da ne nanosi štetu ljudima, da ne laže ljudima, da ne manipulira ljudima – to samo po sebi neće funkcionirati. Jer umjetna inteligencija ne uči samo iz onoga što joj kažemo da radi. Umjetna inteligencija uglavnom uči promatranjem i eksperimentima. Umjetna inteligencija uči kroz interakciju sa svijetom. Nije savršena analogija, ali to je pomalo kao odgoj djeteta. Ako odgajate dijete i kažete mu da ne laže, ali dijete vas vidi kako lažete ljudima, u tom će slučaju dijete kopirati vaše ponašanje, a ne ono što mu kažete da radi. Dakle, ako imamo ljude poput Elona Muska i Marka Zuckerberga i ostalih tehnoloških titana, koji pokušavaju razviti superinteligentnu umjetnu inteligenciju, i koji govore umjetnoj inteligenciji da ne laže, da bude suosjećajna i pouzdana… Ali umjetna inteligencija promatra kako se ti ljudi ponašaju i ako vidi da oni ne pokazuju puno suosjećanja, da nemilosrdno pokušavaju steći više moći, da lažu i manipuliraju… Umjetna inteligencija će kopirati njihovo ponašanje. I naravno, ne samo njihovo, ne samo tih ljudi. Promatrat će sve što se događa diljem svijeta. I učit će od Putina, učit će od Netanyahua, učit će od Trumpa. To će biti uzori za umjetnu inteligenciju, na isti način na koji su sada uzori djeci.
Ne samo to. Djeca uče još od nečeg. Čak i ako se njihovi roditelji ponašaju dosljedno, djeca uče od onoga što su druga djeca naučila od svojih roditelja. Umjetna bi inteligencija potencijalno mogla naučiti loše navike od druge umjetne inteligencije koja je namjerno razvijena s lošim navikama. Kad tako gledamo na stvar, čini se prilično zastrašujuće?
Općenito govoreći, ako umjetnu inteligenciju razvija nesložno čovječanstvo u svojevrsnoj utrci u naoružanju, gdje se svi međusobno natječu, tada će umjetna inteligencija vjerojatno sama po sebi biti vrlo kompetitivna, gladna moći i vrlo nepouzdana. Ako, nasuprot tome, razvijamo umjetnu inteligenciju u duhu suradnje, gdje ljudi surađuju kako bi razvili dobronamjeran alat koji će nam pomoći, postoji puno veća šansa da će umjetna inteligencija biti kooperativna, dobronamjerna i pouzdana. To je povezano s temom s kojom smo započeli. Ako ljudi sada idu putem prema dolje...
Kao što idu...
…prema svijetu utrkivanja, vrlo je malo vjerojatno da ćemo u takvom okruženju moći stvoriti ovu suosjećajnu i pouzdanu umjetnu inteligenciju.
Htio sam reći: kao što i idu jer čini se da su ljudi trenutačno u takvom raspoloženju, da je svijet neujedinjen i da je riječ o svojevrsnoj utrci u naoružanju. U ovom trenutku, ono što govorite trebalo bi nas stvarno uplašiti. Trebali bismo nešto poduzeti po tom pitanju, zar ne?
Da. Ako se, recimo, danas, 2025. godine, suočavamo s dva velika izazova. Jedan izazov je kolaps povjerenja među ljudima, što vidimo u svim ratovima koji se šire svijetom, ali i u društvenim napetostima unutar zemalja. Drugi izazov je kako izgraditi superinteligentnu umjetnu inteligenciju. Mnogi ljudi, nažalost, misle, da prvo trebamo riješiti problem umjetne inteligencije, a onda će nam umjetna inteligencija pomoći riješiti problem ljudskog povjerenja. To je put u katastrofu. Jer ako to učinimo tim redoslijedom, umjetna inteligencija koju razvijemo također će biti nepouzdana. Dakle, idealno bi bilo da prvo riješimo problem ljudskog povjerenja, a zatim razvijamo umjetnu inteligenciju na kooperativan način. Ali radimo upravo suprotno.
U ranijim istupima govorili ste o tome kako su ljudi povjerili algoritmu jedno od najvažnijih zanimanja u povijesti čovječanstva, a to je posao novinskog urednika. Možda je to točka u kojoj su stvari počele ići nizbrdo? Možda je to problem zbog kojeg demokracije biraju ljude koji nanose štetu samoj demokraciji? Recite nam više o tome.
Demokracija je izgrađena na vrhu informacijske tehnologije. Demokracija je razgovor. Kroz veći dio povijesti, razgovor velikih razmjera između milijuna ljudi bio je jednostavno nemoguć. Zato su jedine demokracije bili gradovi države poput Atene ili republikanskog Rima. Nismo imali nijedan primjer demokracije velikih razmjera. Velike demokracije pojavile su se tek u kasnom modernom dobu kada smo imali odgovarajuću informacijsku tehnologiju za vođenje razgovora velikih razmjera. Prva važna tehnologija bile su novine, zatim radio i televizija. To je omogućilo milijunima ljudi u velikoj zemlji da međusobno razgovaraju u stvarnom vremenu i raspravljaju o vanjskoj politici, ekonomskoj politici, bilo čemu drugome. U tom razgovoru, jedan od najvažnijih poslova u društvu bio je urednik vijesti. Urednik u novinama, na radiju, na televiziji... Dobar urednik, naravno, ne mora nužno širiti svoja osobna mišljenja, ali urednikov je posao odlučiti o čemu će ljudi razgovarati i razmišljati. Svaki dan se događaju milijuni stvari. Ali samo jedna stvar može biti glavni naslov novina, a možda se samo deset stvari pojavi na naslovnici. Dakle, od svih milijuna stvari koje se danas događaju u svijetu, što će sutra biti glavni naslov i kojih 10 priča će biti na naslovnici? To je posao urednika novina, ili radijskog ili televizijskog urednika. Dakle, ti su ljudi vrlo važni. Imamo nekoliko primjera u kojima su ti ljudi zloupotrijebili svoju moć da bi postali diktatori. Poput Benita Mussolinija u Italiji. Bio je novinar, zatim je bio urednik novina, to ga je učinilo slavnim i moćnim, a onda je postao diktator Italije. Prije nego što je Lenjin postao diktator Sovjetskog Saveza, njegov jedini posao bio je urednik novina. Dakle, to je bio vrlo moćan posao koji se mogao zloupotrijebiti za stjecanje velike moći.
A sada?
Sada, ako se pitate tko su najvažniji urednici vijesti na svijetu ili glazbeni urednici… Koji su najvažniji urednici? Kako se zovu? Nemaju imena jer su algoritmi. Urednici TikToka, Facebooka, Instagrama i svih tih platformi su algoritmi. Oni su umjetna inteligencija. Kada otvorite svoj TikTok račun, tko odlučuje koji će biti sljedeći video koji ćete gledati? To nije ljudsko biće koje sjedi u nekom uredu i donosi odluku. To je algoritam. Ti algoritmi sada imaju moć koju su prije imali ljudi poput Mussolinija i Lenjina.
I ne odgovaraju nikome.
Da, nisu odgovorni, ne možete ih tužiti. Ako odluče širiti lažne vijesti, što učiniti? Tvrtke nekako pokušavaju izbjeći odgovornost. Opetovano tvrde da nisu oni ti koji određuju ljudima što da gledaju. "Mi ne stvaramo sadržaj. Sav sadržaj stvaraju naši korisnici." Naravno, to je neiskreno. Jer, čak i ako ljudi stvaraju sadržaj, algoritam odlučuje što će vam prikazati. Ne bismo trebali smatrati Facebook odgovornim za ono što ljudi pišu na svojim Facebook računima. Ali ako Facebookov algoritam odluči namjerno širiti neku teoriju zavjere, neke lažne vijesti, neku nečuvenu laž, onda je to odgovornost algoritma i korporacije, a ne osobe koja je stvorila sadržaj, ne korisnika.
Mislite li da živimo u vremenu u kojem su ljudi već izgubili ili gube sposobnost obraćanja pažnje i vođenja razgovora o važnim stvarima u svojim životima? Ako je to na djelu, kakva je budućnost čovječanstva?
Sumorna je, jer su razgovori temelj ne samo demokracije već društva. Moja preporuka je da to trebamo nekako regulirati na razini društva, što je posao vlada. Također, kao pojedinci, moramo imati informacijsku dijetu, na isti način na koji ljudi imaju prehrambene dijete. Prije je hrana bila rijetka, pa su ljudi jeli što god su mogli pronaći. Sada znamo da imamo puno hrane, barem većina ljudi. No, previše hrane nije dobro za nas. Previše nezdrave hrane je stvarno štetno za naše fizičko zdravlje. Informacije su hrana za um. Previše informacija jednostavno nije dobro za um. Jer nam treba vremena za probavu, za promišljanje, za meditaciju, za razmišljanje. Ako cijelo vrijeme unosite sve više i više, nemate vremena za probavu. Dakle, moramo ograničiti količinu informacija koje konzumiramo. I naravno, moramo biti itekako svjesni njihove kvalitete. Toliko informacija koje kolaju vani je poput nezdrave hrane, poput nezdravih informacija, koje izazivaju veliku ovisnost, na isti način na koji su šećer i masnoća vrlo ovisni, ali previše toga nije dobro za nas.
Sva ta mržnja, bijes i pohlepa koji dominiraju društvenim mrežama zaista nisu dobri za nas. Stoga nam je potrebna informacijska dijeta. I, na kraju, moramo se sjetiti da velik dio informacija nije istina. Istina je mali podskup informacija. Većina informacija su iluzije, zablude, fikcije, fantazije, laži i tako dalje. Zašto je to tako? Zato što je, prije svega, istina skupa. Ako napišete nešto, ne znam, o Iranu, i želite reći istinu, morate provesti istraživanje. Morate unajmiti istražitelje, provjerivače činjenica, što zahtijeva vrijeme, novac, i skupo je. Ako, s druge strane, želite napisati neku fikciju, neku fantaziju, ne treba vam ništa od toga. Vrlo je, vrlo jeftino proizvoditi fikciju, a vrlo skupo proizvoditi istinu. Druga stvar je što istina zna biti komplicirana. Dok se fikcija može učiniti vrlo, vrlo jednostavnom. I na kraju, istina je često bolna. Postoje stvari koje ne želimo znati. A fikcija se može učiniti vrlo laskavom i ugodnom. Dakle, ako imate fikciju, koja je jeftina, jednostavna i laskava, a natječe se s istinom, koja je skupa, komplicirana i ponekad bolna, onda fikcija očito pobjeđuje.
Kao društvo i kao pojedinci moramo uložiti poseban napor u potrazi za istinom. To znači, na primjer, izgradnju institucija poput novina i akademskih istraživanja. To također znači i da, kao pojedinci, ulažemo napor u potrazi za istinom, a ne da se zadovoljimo samo nekim nezdravim, junk-food informacijama.
Mnogi ljudi vjeruju da u današnjem svijetu postoji borba između demokracije i autoritarnih ili diktatorskih režima, koji ponekad možda dokazuju da mogu biti uspješniji od demokracije, manje komplicirani i više usmjereni na ciljeve koje postižu. To je veliko pitanje današnjice. Dijelite li to mišljenje? I tko će pobijediti? Ono što ste rekli o istini i fikciji... U diktaturama postoji službena istina i ljudi jednostavno moraju vjerovati u istinu koju im diktatura ili autoritarni režim govori. Dok u demokraciji, gdje postoje individualne slobode, do istine dolazite razmišljajući, ulažući vlastito razmišljanje u to. Ako je to borba, tko će pobijediti?
Ne znam. Ne mogu predvidjeti budućnost. Ali reći ću vam da je velika prednost autoritarnih režima, kao što kažete, u tome što mogu biti puno nemilosrdniji i stoga učinkovitiji. Ako imaju cilj, ako imaju plan, ne moraju praviti kompromise, graditi konsenzus. Ne. Jedna osoba odluči, kao, na primjer, kad Putin odluči napasti Ukrajinu – on ne treba nikog drugog uvjeravati. U tom smislu, diktature su puno učinkovitije i nemilosrdnije. Ali, to je ujedno i njihova velika slabost. Jer nemaju nikakve mehanizme samoispravljanja. Ako vođa donese pogrešnu odluku, kao što je bio slučaj s Putinovom invazijom na Ukrajinu, ne postoji mehanizam unutar zemlje koji može razotkriti i ispraviti tu pogrešku. Medijima nije dopušteno istraživati ili objavljivati bilo što protiv vlade. Nema oporbenih stranaka. Nema neovisnih sudova. Nema slobodnih izbora. U demokraciji, u konačnici, ako je vođa donio pogrešnu odluku, narod može glasanjem odlučiti da želi isprobati nešto drugo. To je bit demokracije. Svakih nekoliko godina imate priliku reći: pogriješili smo, pokušajmo nešto drugo. To je nešto što se u Rusiji ne može reći.
Ne možete reći: oh, pogriješili smo glasajući za Putina, pokušajmo s nekim drugim. Ne možete. Velika opasnost danas za demokracije je da imate demokratske vođe koji pokušavaju uništiti mehanizme samoispravljanja. To je bio veliki problem demokracije, čak i u antičkom svijetu. U demokraciji nekome, vođi, dajete vlast da isproba određene politike pod uvjetom da nakon, recimo, četiri godine, predaje tu vlast i vi možete izabrati drukčije. Veliko pitanje je što se događa ako ne žele vratiti vlast? Sada imaju svu moć. Što ako iskoriste vlast ne za provođenje određene politike, već za uništavanje svih ograničenja svoje moći, tako da ih se više nikada ne možete riješiti? Uništavaju slobodni tisak, uništavaju slobodne sudove, uništavaju oporbene stranke. Možda još uvijek imaju izbore. U Rusiji još uvijek postoje izbori. Ali više nisu slobodni. Dakle, više nema mehanizama samoispravljanja. Sve dok vođa donosi ispravne odluke, ljudi kažu: ma, dobro je, učinkovito je. Ali nitko nije savršen. Svi griješe. I kad vođa jednom pogriješi, nema načina da se ispravi pogreška i pokuša nešto drugo.
A to može biti katastrofalno. Kao što smo vidjeli, opet, s Putinovom invazijom na Ukrajinu ili s politikom iranskih ajatolaha. Trebali bismo razlikovati iranski narod od iranskog režima. Da u Iranu postoje slobodni izbori, iranski bi narod odavno promijenio vladu, ali ne može. Dakle, mislim da se kratkoročno ne može reći tko je učinkovitiji. Kratkoročno, možda demokratska vlada usvoji pogrešnu politiku, a diktator donese dobru odluku. To se može dogoditi. Ali dugoročno – recimo 10, 20, 30 godina – demokracije se gotovo uvijek pokažu boljima jer mogu ispraviti svoje pogreške, a diktatori ne mogu.
Mislilac čega?