Davor Pavuna: O umjetnoj inteligenciji
"...Entiteti AI-ja će najkasnije do 2050. postati pametniji od čovjeka. To može dovesti do katastrofe! Sada je jasno da se može potkrasti neka greška u etičkom dijelu programiranja što može dovesti do katastrofa. Jer, ako u te programe ne ugradimo osiguranje da nas »oni« ne smiju uništiti, »oni« će to »automatski« učiniti..." Tvrdnje su to fizičara svjetskog glasa, našega Davora Pavune koje je izrekao u velikom i izuzetno zanimljivom razgovoru za riječki Novi list.
Sada je jasno da se može potkrasti neka greška u etičkom dijelu programiranja što može dovesti do katastrofa. Jer, ako u te programe ne ugradimo osiguranje da nas »oni« ne smiju uništiti, »oni« će to »automatski« učiniti
Fizičar Davor Pavuna od 1986. živi u Lausannei u Švicarskoj, gdje je radio na tamošnjem Saveznom institutu za tehnologiju (EPFL) kao profesor, sada emeritus.
Jedno od brojnih područja njegova rada i istraživanja su kvantni fluidi i svjetski je prepoznat u supravodljivosti, odnosno kako razviti nove materijale kroz koje struja prolazi bez električnog otpora.
Kao profesor i pozvani predavač proputovao je cijeli svijet od Velike Britanije do Australije, Indije do Europe, Japana, Kine i SAD-a.
U kontaktu je s kolegama raznih struka, prati dostignuća u mnogim granama znanosti, a jedna od njegovih strasti, a i uspjeha, je promišljanje kako nove (nano)tehnologije i otkrića djeluju na čovjeka i civilizaciju i kako se snaći u svijetu koji je u posljednjih dvadesetak godina doživio veći tehnološki skok nego stoljećima prije.
Pavuna nam kaže da, kao profesor emeritus, sada ne drži nastavu studentima, pa se više može fokusirati na bitne teme i izazove znanosti i tehnologije.
– Fizika nije završena, ni zatvorena znanost, živimo svega nekoliko stoljeća nakon Newtona i Boškovića i još jako puno toga ne znamo ili nepotpuno razumijemo.
Ima tu izazovnih tema, primjerice fraktalna matematika u znanosti i u prirodi, i organizmu, kompleksnost nanobio-fizike uz najnovije subatomske izazove te kako pristupiti kvantnim računalima, koja su milijardu puta potentnija od klasičnih ili brzom rastu tzv. umjetne inteligencije.
Meni je i danas najzanimljivije što dolazi nakon kvantne fizike, jer ona ne može biti konačna verzija, kaže Pavuna. Ove godine naš sugovornik proslavit će 72. rođendan, no ne miruje, dapače, kako je u jednom intervjuu rekao, potrebno je imati najviše ciljeve, a ne zadovoljiti se osrednjošću.
»Bitno je biti onaj koji jesi, naučiti voljeti i sebe i druge te svoj poziv«, rekao je to za Nacional u intervjuu u povodu imenovanja u tim Ministarstva energetike SAD-a 2009. godine.
Zato je i danas vrlo aktivan diljem svijeta. U savjetodavnim je tijelima nekoliko tehnoloških tvrtki i fondacija, poglavito u Americi i Europi.
No, ovo je zapravo samo uvod u ono u čemu je Pavuna, barem kad govorimo o popularnoj materiji, najbolji.
Što misli o najnovijim dostignućima u tehnologiji i kako plivati s njima i među njima, ali i o brojnim drugim temama, o programima umjetne inteligencije, za koje kaže da se ne radi o pravoj umjetnoj inteligenciji, o transhumanizmu, za naš list govori Davor Pavuna.
Vojska androida
Kako promatrate trenutak u kojem se nalazimo, što ga obilježava?
– Zbog ratova u Ukrajini i na Bliskom istoku, te brojnih regionalnih nestabilnosti, kao i dinamike vlasti u vojno agresivnim zemljama, situacija nije ružičasta.
Kad je svijest vladajućih niska, može se dogoditi i da se netko »zaigra« i nuklearnim oružjem i/ili specijalnim dronovima i vojskom androidnih robota. To je vrlo opasno.
Pritom, imamo brzo izranjanje transhumanističkih tehnologija, takozvane umjetne inteligencije te kvantnih računala. Jedno od brojnih pitanja kojima se bave znalci jest i može li ta tzv. »umjetna inteligencija« zbog pogreške u etici ili u kodu programa doći i u situaciju da pokrene eliminaciju čovjeka.
Ako bi do toga došlo, to je onda »naša«, tj. ljudska greška, budući da, barem zasad, program ne može biti svjestan na način na koji je čovjek?
– Glavni stručnjaci u tom području su toga itekako svjesni i javno su objavili da je problem izuzetno ozbiljan, te je jasno da nam inteligentni roboti mogu izbjeći kontroli i u konačnici eliminirati čovjeka.
Usput, ovo što danas mediji zovu »umjetnom inteligencijom«, to zapravo još i nije prava umjetna inteligencija. Zasad su to modifikacije ljudskih programa, to su uglavnom prošireni algoritmi sadašnjih ljudskih programa.
Prava umjetna inteligencija će biti aktivna kada roboti samostalno budu pisali programe, bez ljudi. Singularitet, trenutak u kojem će entiteti umjetne inteligencije u prosjeku postati inteligentniji od čovjeka, očekuje se negdje između 2030. i 2050.
Točan datum nije bitan, puno je važnije da je sada jasno da se može potkrasti neka greška u etičkom dijelu programiranja što može dovesti do katastrofa.
Jer, ako u te programe ne ugradimo osiguranje da nas »oni« ne smiju uništiti, »oni« će to »automatski« učiniti. O tome sad govore i vlasnici najvećih kompanija u Silicijskoj dolini i drugdje.
To nije samo moje mišljenje, već o tome danas svi ozbiljni znalci govore; a sad i vjerski lideri te postupno i pravni normativi…
Koji su još problemi s kojima se suočavamo, a što vidite kao dobro?
– Ne uzdajem se u političare, jer mnoge vlade svijeta su ucijenjene od oligarhije ultrabogatih kartela. Ne slušajte što nam pričaju na TV-u, primjerice tzv. sukob »lijevo-desni«.
To su medijske i sociopripremljene priče za manipuliranje puka, pa se i jezik danas »vojno-mobilizira« tzv. »language weaponization«.
Najbitnije jest da uvijek pratite protok novca: otkuda dolazi novac i kome ide u džep. Onda izrone glavni lovaroši i karteli koji drže i manipuliraju te financije i to nije tajna.
Puk je zaigran u dnevnom preživljavanju i medijskim »bombama« i krizama, pa »ne vidi« kad centri financija »sakriju« trilijune dolara ili im »propadnu« milijarde eura.
Ujedno, svjetski financijski sustav je odavno propao i o tome su brojni znalci, i u Hrvatskoj, a i ja aktivno upozoravao, no, eto, euro sad i kod nas vlada…
A, naravno, klimatskih izazova ima, usput oduvijek ih je i bilo (primjerice, pitajte Google o klimi oko 536. godine!), a i to karteli financija koriste za svoje profitne interese.
Tzv. Novi Svjetski Poredak javno govori o potrebi depopulacije, tj. da je 8-9 milijardi humanoida previše za Zemlju; mada u zadnje vrijeme milijarderi Elon Musk i Jeff Bezos to negiraju!
Oni sad tvrde da bi i trilijun ljudi bio OK. Sumnjam da se Rotschild, Soros, Schwab, Gates … i slugani agende iz Davosa s time slažu.
Ako gramzljivi karteli profita implementiraju svoje ciljeve, do čega naravno ne mora doći, iako su kolosalne financije uložene u taj cilj onda će (skoro) sve biti digitalno i svi će biti na razne načine kontrolirani, a i čipirani.
Holivudski filmovi to prikazuju kao neizbježno, no u praksi sve to ipak ovisi i o našoj ljudskoj svijesti. Svatko ima svijest i savjest i može i smije misliti svojom glavom.
Vidjet ćemo koliko ćemo se uspjeti osvijestiti! Zanimljivo da je samo tri posto najsvjesnijih dostatno, a ne više od 50 posto kako mnogi misle, da se dogodi promjena. Efektivno smo oduvijek u ratu Dobra i Zla, a sad je najnovije bojno polje ili čovjek, ili robot.
Orvelizam privilegiranih
Neki govore, na primjer Joel Kotkin, da idemo u smjeru novog feudalizma, u Zapadnom svijetu?
– Taj novi feudalizam već imamo, iako ja mislim da je to sve još puno brutalnije nego stari feudalizam. To je najgori nehumani zao imperijalizam koji možemo zamisliti, ne, neću spominjati trgovinu djecom, drogama ili sotonizmima ultra-bogatih.
No, provjerite kako »investicijski« karteli poput Blackrocka, Vanguarda i glavni bankaroidi drže praktički više od 60 posto svjetske ekonomije koja je vrijedna oko stotinu trilijuna dolara.
Tada će vam sve biti jasnije. Mi ljudi se moramo osvijestiti, svaka osoba, koja ovo čita treba mudro birati i koje medije čita jer su skoro svi u vlasništvu ultrabogatih kartela, kojima je cilj profit, a ne čovjek!
Kako se kaže ili Bog ili Zvijer, a ovi ultrabogati o kojima govorimo ne pokazuju empatiju prema čovjeku, te po njima idemo u ekstremni orvelizam privilegiranih koji svim trikovima dirigiraju demokracijom, čipiranjem i robotima …
Naš izbor (i molitva) i naše ponašanje itekako utječu na ono što će se dalje događati. Dakle, ako dozvoljavamo takvu manipulaciju duha i uma, mi trenutno već imamo jedan oblik predorwellizma, »1984.« i »Životinjske farme«, onda ćemo to i manifestirati.
Birajmo Mudro i Dobro, pa će nam Dobro i biti. Dakle, imamo izbor svijesti savjesti, brojni znalci i s(a)vjesni ljudi su svjesni i aktivni.
Kako gledate na situaciju u Hrvatskoj?
– Hrvatska nadasve ima problem sustavne depopulacije i kolosalnu demografsku katastrofu, provjerite brojeve i trendove koji su ultrabolni za naciju.
Pritom Hrvatska jest dio Europske unije, pa zrcali i sve probleme te zajednice koja se i sama zbunjeno (ne)snalazi u sadašnjem vremenu.
Utjecaj eura te visoka inflacija izranja situaciju koja svakako nije onako optimalna kako bismo voljeli. Slavonija, Srijem, Baranja, Lika… su osiromašili i tu se moramo svi pobrinuti da pomognemo.
I opet bitna je vertikala svijesti, savjesti i znanja. U tom segmentu, kao i u vrhunskom sportu, ipak vidimo da mnogi mladi ljudi rade izuzetne inovacije i nove tvrtke koje su konkurentne na svjetskoj skali. Bravo!
Mnogi odu i do Irske, ali to su procesi koje ćemo okrenuti jer Hrvatska može biti i vrlo atraktivna.
No, oprez: ponajbolje obavještajne službe itekako znaju da gramzljivi karteli i njihovi operativni slugani destabiliziraju i razne dijelove svijeta, a sustavno i Hrvatsku, te Europu i tu treba puno mudrosti, a i spremne strategije i obrane.
Što mislite o WEF-u, Svjetskom ekonomskom forumu? Upravo se ovih dana od 15. do 19. siječnja, u Davosu u njihovoj organizaciji održava novi godišnji sastanak.
– To je jedna sekta »gurua«, administrativci gospodara ultrabogatih kartela, koji su podcijenili istinske znanstvenike i moral suverenih top-znalaca.
Nemaju istinsko razumijevanje duha-uma-tehnologije-izranjanja-civilizacije. Mene i kolege su lani zamolili da im napišemo članak o kvantnim računalima, jer da se o tome u UN administracijama nedovoljno zna, a oni ne znaju ništa, mada kvantna računala već postoje, pogledajte primjerice objave IBM-a.
WEF su politikantski operatori kartela koji ponekad ucjenjuju i vlade, te financiraju »svoje«, ponekad i utjecajne osobe. No, upravo sad je na Twitteru, odnosno X-u, eksplozija satire o Davosu koju osobno nisam očekivao pa proučite sami, sve je snimljeno i sve se nađe, iako poneke dijelove i maknu.
No, kako rekosmo, svatko se mora osvijestiti i savjesno osobno provjeriti podatke i informacije, a ne naivno vjerovati WHO, IMF, profit-medijima kartela i politikantima!
Ujedno, »svjetski financijski sustav«, odnosno štampanje »papira« za gazde je odavno kolabirao, kako smo rekli. Održava se na umjetan način, priprema se digitalni novac uz kontrolu korisnika, iako izranjaju i dva-tri alternativna sustava …
WEF želi nametnuti svoje sustave bankaroida, a moji bivši studenti, sad u bankama, javljaju da će to biti vrlo izazovno u narednim godinama.
Inženjerski snovi
Vratimo se na tehnologiju, tvrtka Elona Muska Neuralink radi na razvoju mozgovnog čipa, za prvu ruku kao pomoć tetraplegičarima, no Muskova krajnja vizija, je što i on sam kaže, spajanje čovjeka sa strojem.
– Da, Elon Musk, kojem se pomalo budi svijest, zasad čipira, kao i mnogi drugi. Spajanje čovjeka i stroja je već uvelike u tijeku, kao što sam vam rekao i prije četiri godine u intervjuu za Novi list.
Ljude čipiraju, i nije to sad ništa novo. Rade se testovi i na životinjama i ljudima, i ne samo u Silicijskoj dolini, Kini, nego i diljem takozvanih »naprednih« zemalja.
To su vrlo ozbiljne stvari, a mnogi ljudi o tom pojma nemaju. Pravni sustavi su i neadekvatni, a i ne znaju, i nisu reagirali, jer su mnogi korumpirani, a to očito društvu iz Davosa odgovara. Moji mnogi kolege i ja se s njima ne slažemo.
Elon Musk jest kreativan inženjer, ali igra se sa svime opasnim što mu padne na um, trudimo se da ga osvijestimo. I čini da je od nedavno postao svjesniji, pa bi trebao proučiti i iskonske duhovne uvide, a ne samo »lude« inženjerske snove. I nije jedini koji se budi te upozorava da nas roboti mogu i eliminirati!
Ovdje zapravo govorimo o transhumanizmu, nadilaženju čovjekovih »boljki« i »grešaka« pomoću stroja, a transhumanisti, na primjer Yuval Noah Harari na smrt počinju gledati kao na bolest, koja će se moći iskorijeniti, kao što su se iskorijenile druge bolesti. Hoće li to biti moguće i ako da, kakve će to posljedice ostaviti?
– Mi »staromodni« ljudi svijesti i savjesti, koji i osobno (u)poznajemo živog Boga, sveprisutnog, svemogućeg i sveznajućeg Kreatora se ne slažemo s transhumanizmom.
Tko će pobijediti: svjestan, sveprisutan Bog ili taj izranjajući Ultra-Moćan Ultra-Inteligentan (skoro)svemogući robot? Transhumanizmu je želja i vizija kreirati te umjetne »inteligentne« entitete i neki moji kolege koji čitaju sve te knjige i najave, misle da je to neizbježno.
No, kako sam ranije rekao, osobno se ne slažem, jer mislim da je to privremena opsesija i to nije neizbježno. Koliko znamo, ultra-inteligentni roboti nemaju samosvijest i to je bitno.
A kad govorimo o smrti, ne mislim da je smrt oblik bolesti, već ono što bismo mi u fizici nazvali »prijelaz« iz jedne dimenzije u drugu.
Uostalom o tome detaljno govore religiozne filozofije i Istoka i Zapada. Transhumanizam kao i tzv. »woke-ideologiju« itekako guraju karteli imperijalista profita, ali to nije jedini put i zato će biti vrlo burno u godinama koje dolaze.
Međuplanetarna putovanja? Hoće li ikad biti moguće putovati brzinom većom od brzine svjetlosti?
– Po zakonima fizike entiteti koji imaju masu, fizička tijela, ne mogu putovati brzinom veće od brzine svjetlosti, no postoje i neke druge opcije.
Takozvani prolazi kroz razne »warp-tunele« u »prostor-vremenskoj-geometriji« svemira i tako dalje. Tu postoje mnoge opcije i na tome se radi.
Glavni je problem što zasad ni ne znamo što je tamna materija, energija u svemiru. Naši trenutni modeli itekako zahtijevaju i bitno nove uvide u fiziku.
Na tome se mnogo radi te je vrlo moguće da ćemo napraviti značajan prodor u idućih desetak godina. Naime, postoje i modeli i uvidi za koje rijetki znaju, a u fizici smo otvoreni novim pristupima i uglavnom nekorumpirani iz kartela profita.
Ranije ste spominjali klimatske probleme, je li globalno zatopljenje doista toliki problem kakvim ga se zna predstavljati?
– Klimom se treba baviti, ali treba i znati za neke »anomalije« koje su se dogodile, primjerice oko 536. godine, a neke i puno ranije.
Danas na tome mnogi rade, no nije tajna da odavno postoje i javni patenti o promjeni klimatskih parametara. Primjerice, Nikola Tesla, a i mnogi drugi, su patentirali uređaje za mijenjanje klimatskih parametara.
Pogledajte si objavljene patente, recimo u Americi, o uređajima za mijenjanje klime i što se sve može koristiti. Osobno podosta znam jer su i neki moji kolege radili na tome.
Ali to je i ta priča manipulacije korumpiranih profitera. Sve je danas snimljeno i skoro sve i objavljeno, da i COVID-patenti i brojni detalji te biomedicinske analize i posljedice. Ali to sami pogledajte jer mas-mediji objavljuju samo koliko im gazde profita dozvole.
Pomalo ste se povukli iz javnog života, ako smijem tako reći. Razmišljate li se možda ponovo javno »aktivirati«, u društvenom smislu: udruge, organizacije, instituti… Ili ste aktivni u tom smislu, no ne vidimo vas na društvenim mrežama ili u medijima?
– Postoji mnogo izvrsnih znalaca, u Hrvatskoj i u svijetu, koji pokrivaju mnoge teme o kojima govorimo. Zato sam se svjesno maknuo iz masmedija jer za najnovije izazovne studije mi treba mir.
Objavio sam, skupila mi Bing AI-tražilica skoro 600 radova i intervjua, 36 knjiga, održao, uz stotine znanstvenih predavanja po svijetu, i stotine popularnih predavanja po Hrvatskoj…
No, mnogi me vide reducirano »On voli Isusa Krista, a ipak je znanstvenik!?!«, a vrlo rijetki osobno zarone dublje da se probude u izazovima osobne svijesti i vjere.
Imate moja predavanja i intervjue i snimke o Tesli, o kvantnoj fizici i tehnologiji, o umjetnoj inteligenciji, o kognitivnoj ženi, o svemu i svačemu, a ne volim se ponavljati.
Svatko se mora osobno probuditi – to je bitan cilj! Ako mislite da će vas »spasiti« vlada, milijarde, neka sekta ili netko drugi, to su priče za malu djecu.
Svatko je gospodar svoga duha, svijesti, a u konačnici i stanja svijesti i tijela. Osobno sam itekako aktivan, ali ne tamo gdje me mediji očekuju.
Djelujem na izazovima duha i svijesti i civilizacije na dubljem nivou. Primjerice, držao sam u prosincu u Bernu predavanje izabranim slušateljima, simultano na francuskom, njemačkom i engleskom.
Tema je bila upravo ova o kojoj smo razgovarali i o kojoj govorim u Međugorju oko 7. ožujka! Da, pozvan sam na nekoliko skupova ove godine i u Hrvatskoj, koga zanima će se pojaviti.
Ipak, da bih dublje u miru zaronio u najdublje izazove svijesti, znanosti i civilizacije, s izabranim prijateljima i timovima, bitan je mir i molitva, izolacija, te sam svjesno«nevidljiv« u masmedijima koje vode karteli profita i manipulacije puka i društva.
Nemam TV, niti čitam masmedije, a bitne informacije dobivam direktno od svojih bivših studenata i brojnih osobnih kontakta po svijetu.
I da, sudjelujem u organizaciji mnogih konferencija po svijetu, a tradicionalna 11. po redu nam je opet u Cavtatu, 8. do 15. lipnja ove godine na temi izazova fizike i nanobio-medicine.
Svijest, ljubav, zajedništvo, suosjećanje su bitak čovjeka
Otac ste, kako odgajati djecu za budućnost? Koje im vrijednosti usaditi i kojim ih vještinama naučiti?
– Moji su sad već 30+, ali princip je uvijek isti. Što više se voljeti, grliti, maziti i o svemu otvoreno komunicirati u obitelji i u zajednici, te pjevati, plesati, igrati se u prirodi, što više biti »staromodan«, analogan čovjek.
Jednostavna lokalna ishrana, izvorska ili voda iz bunara, kvalitetan zrak, osobno zdravlje. Da, u gradovima to nije jednostavno, ali zato se brinemo da postoje zeleni parkovi i planine, more…
Kad izroni digitalna era, informacijske tehnologije i računala i telefoni, onda to mudro uklopite u kurikulum, no za detalje bi nam trebao jedan poseban intervju jer to jest bitno!
U svakom slučaju, mladi trebaju ostati svoji, zdravi, radosni, aktivni, polivalentni, komunikativni i zaigrani, te naučiti koristiti i nove uvide i uređaje, ali ne njima robovati.
A ako me pitate »Google or God«, dakle, Google ili Bog, ja znam – Bog. Vjera, Duhovnost i izranjanje svjesne osobe samopouzdanja, razvijanje osobnosti aktivnog čovjeka su puno bitniji nego samo naučiti tipkati po telefončekima: svijest, ljubav, zajedništvo, suosjećanje su bitak čovjeka.
Još uvijek ne znamo što je svijest
Hoće li biti moguće sačuvati ljudsku svijest u nekom obliku digitalne pohrane/memorije? Ako postoji nešto više od materijalnoga svijeta, neće li to zapravo biti »zarobljavanje«?
– Poput Santa Fe Instituta za kompleksnost, gdje smo godinama aktivni, koji preispituje sve naše »rupe i dogme u znanju«, i dobitnik Nobelove nagrade za fiziku 2020. godine Roger Penrose smatra da još uvijek ne znamo što je svijest.
Svijest bi mogla biti nematematički, nefizički, entitet, i ako je to istina, kako kažu i religiozne filozofije, onda je ljudska svijest originalna i spada zasad u dimenziju Boga.
Ne znamo hoće li biti moguće pohraniti istinsku ljudsku svijest, ali mislim da je s(a)vjesnim ljudima savršeno jasno da postoji nešto više od tzv. materijalnoga svijeta koji »vidimo«, a treba reći i da mi jako malo toga vidimo.
Razumijevanje svijesti je bitno i mislim da ćemo svi više vidjeti u narednom razdoblju. To jest bitna kategorija i izazov u evoluciji čovjeka i ove naše izmanipulirane »civilizacije«.
Davor Pavuna
Hitovi: 546