Zoi Klajnmen - urednica za tehnologiju  [ BBC ]

14. 10. 2025. 16:40   >>  20:30

Tehnološki milijarderi se spremaju za smak sveta - treba li da brinemo

Sve je prisutnija debata o tome šta se dešava ako i kada kompjuterska inteligencija pretekne ljude.

Priča se da je Mark Zakerberg počeo da radi na izgradnji ranča Kulau, njegovog prostranog kompleksa koji se proteže na 1.400 jutara na havajskom ostrvu Kauai, još davne 2014.

On bi trebalo da obuhvata sklonište, sa sve vlastitim zalihama energije i hrane, mada je stolarima i električarima koji rade na lokaciji zabranjeno da govore bilo šta o tome na osnovu potpisanih ugovora o poverljivosti podataka, prema izveštaju iz časopisa Vajerd.

Zidovi od dva metra zaklanjaju projekat od pogleda s obližnjeg puta.

Upitan prošle godine da li zida bunker za slučaj smaka sveta, osnivač Fejsbuka je odgovorio jednim decidiranim: „Ne.“

Ovaj podzemni prostor prostire se na nekih 460 kvadratnih metara , objasnio je on, „baš kao malo sklonište, kao podrum“.

To nije zaustavilo spekulacije - isto kao ni njegova odluka da kupi 11 poseda u četvrti Kresent Park u Palu Altu u Kaliforniji, navodno im dodavši podzemni prostor od 650 kvadratnih metara ispod.

Iako se njegove dozvole za gradnju odnose na podrume, prema Njujork tajmsu, neke njegove komšije ih nazivaju bunkerima.

Iliti milijarderovom bet pećinom.

A tu su i spekulacije oko drugih tehnoloških lidera, od koji su neki naizgled bili zauzeti kupovinom komada zemlje sa podzemnim prostorima, zrelim za pretvaranje u luksuzne bunkere vredne više miliona funti.

Rid Hofman, suosnivač LinkedIna, govorio je o „osiguranju od apokalipse“.

To je nešto što poseduje oko polovina super-bogatih, prethodno je tvrdio on, sa Novim Zelandom kao veoma popularnom destinacijom za takve domove.

Da li se, dakle, oni zaista pripremaju za rat, posledice klimatskih promena ili neke druge katastrofalne događaje za koje ostatak nas tek treba da sazna?

U poslednjih nekoliko godina, napredak veštačke inteligencije (AI) samo je dodat na spisak potencijalnih egzistencijalnih nedaća.

Ilija Sutskever, glavni naučnik i suosnivač Open AI-ja, navodno je jedan od njih.

Sredinom 2023, ova firma sa sedištem u San Francisku objavila je ČetGPT - četbot koji danas koristi stotine miliona ljudi širom planete - i ubrzano radila na njegovim ažuriranjima.

Ali istog leta je Sutskever postao sve uvereniji da su kompjuterski naučnici na ivici da stvore Opštu veštačku inteligenciju (AGI) - što je trenutak kada mašine dostižu ljudsku inteligenciju - prema knjizi novinarke Karen Hao.

Na jednom sastanku, Sutskever je savetovao kolege da iskopaju podzemno sklonište za najbolje naučnike kompanije pre nego što tako moćna tehnologija bude puštena u svet, piše Hao.

„Definitivno ćemo izgraditi bunker pre nego što objavimo AGI“, navodno je on rekao, mada je nejasno na koga je mislio pod „mi“.

To ukazuje na jednu veoma čudnu činjenicu: mnogi vodeći kompjuterski naučnici i tehnološki lideri, od kojih neki vredno rade na razvijanju izuzetno inteligentnog oblika veštačke inteligencije, takođe deluju krajnje uplašeni od onoga što bi jednog dana ona mogla da uradi.

Kada će, dakle - ako ikada - AGI doći?

I da li može da se pokaže dovoljno transformativnom da je se obični ljudi plaše?

Dolazak 'skorije nego što mislimo'

Tehnološki lideri tvrde da je AGI neizbežna.

Šef OpenAI-ja Sem Altman izjavio je u decembru 2024. da će doći „ranije nego što većina ljudi na svetu misli“.

Ser Demis Hasabis, suosnivač DipMajnda, predvideo je da će to desiti u narednih pet do deset godina, dok je osnivač Antropika Dario Amodei napisao prošle godine da bi njegov preferirani izraz - „moćna AI“ – mogao da bude sa nama već 2026.

Drugi su sumnjičavi prema tome.

„Oni sve vreme pomeraju prečke“, kaže dama Vendi Hol, profesorka kompjuterske nauke sa Univerziteta u Sauthemtponu.

„Zavisi od toga sa kim pričate.“

Pričamo na telefonu, ali gotovo da mogu da je čujem kako prevrće očima.

„Naučna zajednica kaže da je tehnologija veštačke inteligencije fantastična“, dodaje ona, „ali ona nije ni blizu ljudske inteligencije.“

Prvo bi moralo da dođe do niza „fundamentalnih napredaka“, slaže se Babak Hodžat, glavni tehnološki službenik tehnološke firme Kognizant.

Štaviše, malo je verovatno da će ona stići u samo jednom trenutku.

Umesto toga, AI je tehnologija koja se rapidno razvija, ona je trenutno na putovanju i postoji mnogo kompanija širom sveta koje se nadmeću koja će prva razviti vlastitu verziju.

Ali jedan razlog zašto ova ideja uzbuđuje neke u Silicijumskoj dolini je da se veruje da je ona prethodnik nečemu još naprednijem: ASI-ju, iliti veštačkoj super inteligenciji – tehnologiji koja nadmašuje ljudsku inteligenciju.

Koncept „singulariteta“ je 1958. bio posthumno pripisan matematičaru rođenom u Mađarskoj Džonu fon Nojmanu.

On se odnosi na trenutak kada se kompjuterska inteligencija razvije izvan ljudskog poimanja.

U skorije vreme, knjiga Postanje iz 2024, koju su napisali Erik Šmit, Kreg Mundi i pokojni Henri Kisindžer, istražuje ideju super-moćne tehnologije koja postaje toliko efikasna u donošenju odluka i liderstvu da joj na kraju u potpunosti predajemo kontrolu.

Pitanje je kada, a ne da li, tvrde oni.

Novac za sve, bez potrebe za poslom?

Oni koji zastupaju ideju AGI i ASI gotovo su strastveni u vezi sa njihovim koristima.

Pronaći će nove lekove za smrtonosne bolesti, rešiti klimatske promene i izmisliti neiscrpan izvor čiste energije, tvrde oni.

Ilon Mask čak tvrdi da bi super-inteligentna veštačka inteligencija mogla da donese eru „univerzalno visokih prihoda“.

On je nedavno izneo ideju da će veštačka inteligencija postati toliko jeftina da će bukvalno svi želeti „vlastite lične R2-D2 i C-3PO“ (misleći na droide iz Ratova zvezda).

„Svi će imati najbolju medicinsku negu, hranu, kućni prevoz i sve ostalo. Održivo izobilje“, dodao je on.

Postoji i zastrašujuća strana svega toga, naravno.

Mogu li ovu tehnologiju da preotmu teroristi i iskoriste je kao ogromno oružje, ili šta ako ona sama za sebe odluči da je čovečanstvo uzrok svih svetskih problema i uništi nas?

„Ako je pametniji od vas, onda moramo da ga zauzdavamo“, upozorio je Tim Berners Li, tvorac Svetske mreže (World Wide Web), govoreći za BBC ranije ovog meseca.

„Moraćemo da možemo da ga isključimo.“

Vlade preduzimaju neke zaštitne mere.

U SAD, gde se nalaze mnoge vodeće veštačke kompanije veštačke inteligencije, predsednik Bajden izdao je izvršnu naredbu 2023. koja je zahtevala od nekih firmi da podele rezultate njihovih testova bezbednosti sa federalnom vladom - mada je predsednik Tramp u međuvremenu povukao deo te naredbe, nazvavši je „preprekom“ inovacijama.

U međuvremenu, u Velikoj Britaniji, Institut za bezbednost veštačke inteligencije - istraživačko telo finansirano od vlade - osnovan je pre dve godine radi boljeg razumevanja rizika koje predstavlja napredna veštačka inteligencija.

A potom su tu i super-bogati sa vlastitim planovima za osiguranje od apokalipse.

„Kad kažete da 'kupujete kuću na Novom Zelandu' , to vam je već veliki namig-namig, ne moraš više ništa da govoriš“, prethodno je rekao Rid Hofman.

Isto najverovatnije važi i za bunkere.

Ali tu postoji i jedna izričito ljudska falinka.

Jednom sam pričala sa bivšim telohraniteljem jednog od milijardera sa vlastitim „bunkerom“, koji mi je rekao bi prvi prioritet njegovog bezbednosnog tima, ako bi se to stvarno desilo, bio da se eliminiše dotični šef i da oni sami uđu u bunker.

I izgledalo je kao da se uopšte ne šali.

Da li su sve to paničarske gluposti?

Nil Lorens je profesor mašinskog učenja na Univerzitetu u Kembridžu.

Za njega je čitava ova rasprava sama po sebi čista glupost.

„Ideja Veštačke opšte inteligencije je sama po sebi apsurd baš kao što je to ideja o 'Veštačkom opštem vozilu'“, tvrdi on.

„Pravo vozilo zavisi od konteksta. Koristio sam Erbas A350 da odletim do Kenije, koristim automobil da stignem do univerziteta svaki dan, idem peške do kafeterije… Ne postoji vozilo koje može da pokrije sve to.“

Za njega je razgovor o AGI puko odvraćanje pažnje.

„Tehnologija koju već imamo omogućava nam, po prvi put, da normalni ljudi direktno pričaju sa mašinom i potencijalno je navedu da uradi ono što oni žele. To je apsolutno izuzetno... i krajnje transformativno.“

„Veliki razlog za zabrinutost je što nas toliko privlače narativi velikih tehnoloških kompanija o AGI da propuštamo načine na koje treba da učinimo stvari boljim za ljude.“

Aktuelne alatke veštačke inteligencije obučene su na hrpi podataka i dobre su u uočavanju obrazaca: bilo znakova tumora na snimcima ili reči koja će se najverovatnije pojaviti posle neke druge u određenoj rečenici.

Ali one ne „osećaju“, koliko god ubedljivo njihovi odgovori delovali.

„Postoje neki 'prevarantski' načini da se Veliki jezički modeli (temelj AI četbotova) nateraju da se ponašaju kao da poseduju memoriju i uče, ali oni su nezadovoljavajući i prilično inferiorni u odnosu na ljude“, kaže Hodžat.

Vins Linč, izvršni direktor kalifornijske IV.AI, takođe je umoran od prenaduvanih izjava o AGI.

„To je samo dobar marketing“, kaže on.

„Ako ste kompanija koja gradi najpametniju stvar koja je ikada postojala, ljudi će želeti da vam daju novac.“

On dodaje: „Tu se ne radi o stvari koja je udaljena dve godine. Ona zahteva mnogo računanja, mnogo ljudske kreativnosti, mnogo pokušaja i grešaka.“

Upitan da li veruje da će se AGI ikada materijalizovati, on pravi veliku pauzu.

„Stvarno ne znam.“

Inteligencija bez svesti

Na neke načine, veštačka inteligencija je već ostvarila prednost u odnosu na ljudski mozak.

Alat generativne veštačke inteligencije može biti stručnjak za srednjovekovnu istoriju u jednom trenutku, a već u sledećem rešavati složene matematičke jednačine.

Neke tehnološke kompanije kažu da ne znaju uvek zašto njihovi proizvodi reaguju onako kako reaguju.

Kompanija Meta kaže da postoje neki znaci da se njihovi sistemi veštačke inteligencije poboljšavaju sami od sebe.

Na kraju, međutim, bez obzira na to koliko mašine postanu inteligentne, u biološkom pogledu ljudski mozak i dalje pobeđuje.

On ima oko 86 milijardi neurona i 600 biliona sinapsi, mnogo više od veštačkih ekvivalenata.

Mozak takođe ne mora da pravi pauze između interakcija i stalno se prilagođava novim informacijama.

„Ako čoveku kažete da je na egzoplaneti pronađen život, on će to odmah usvojiti i to će uticati na njegov pogled na svet u budućnosti. Što se tiče Velikog jezičkog modela, on će to znati samo dok god mu to stalno ponavljate kao činjenicu“, kaže Hodžat.

„Veliki jezički modeli takođe nemaju meta-kogniciju, što znači da baš i ne znaju šta sve znaju.

„Ljudi izgledaju poseduju introspektivni kapacitet, koji se ponekad naziva još i svešću, a koji im omogućava da znaju to što znaju.“

To je fundamentalni deo ljudske inteligencije – i onaj koji tek treba da se iskopira u laboratoriji.

Glavna fotografija: The Washington Post via Getty Images/ Getty Images

BBC na srpskom je od sada i na Jutjubu, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

More from InDepth

• Metaverzum - virtualni svet za ljude koji sanjaju otvorenih očiju
• Ilon Mask - prvi svetski polubilioner
• Ilon Mask: Kako je najbogatiji čovek na svetu izmenio Belu kuću
• Čovek kome je ugrađen čip kompanije Ilona Maska za čitanje misli
• Zakerberg protiv Maska: Ko je „kukavica" i hoćemo li konačno gledati borbu
• Zašto moždani čip Ilona Maska menja našu predstavu o vlastitom identitetu