ртцг.ме [ indeks.hr ]

UPOZORENjE FIZIČARA

"Vještačka inteligencija će nas nadvladati ako se nekontrolisano razvija"

Ako se nastavi nekontrolisani razvoj vještačke inteligencije (AI), ako ne pauziramo kako bismo odredili smjernice za njegov razvoj i neke regulacije, moglo bi nam se dogoditi da nas ona nadvlada i istisne kao što je Homo sapiens istisnuo neandertalce, upozorio je u nedavno objavljenom razgovoru fizičar i istraživač vještačke inteligencije Max Tegmark.

Otvoreno pismo za moratorijum na razvoj AI-a

U podkastu Lexa Fridmana, informatičara i istraživača vještačke inteligencije na Massachusetts Institute of Technologyju (MIT), Max Erik Tegmark, fizičar, kozmolog i istraživač , profesor na MIT-ju i predsjednik Future of Life Instituta, objasnio je, između ostalog, zašto je zabrinut sadašnjim načinom razvoja vještačke inteligencije i zašto je sa nekolicinom naučnika, mislilaca i stručnjaka za vještačku inteligenciju pokrenuo otvoreno pismo kojim traže šestomjesečni moratorijum na dalje unapređivanje sastava moćnijih nego što je GPT-4, piše indeks.hr. 

U pismu, koje kritikuje postojeći pristup u stilu - prvo izgradimo brod, a poslije ćemo ga popravljati - i upozorava da važnu utrku u razvoju AI-a vode čelnici kompanija koji nisu izabrani predstavnici ljudi, odnosno biračkog tijela, već čelnici tehnoloških kompanija, autori postavljaju četiri pitanja:

- Treba li dopustiti strojevima da preplave naše informacijske kanale propagandom i neistinom?

- Treba li automatizovati sve poslove, uključujući i one koji ispunjavaju ljudske živote smislom?

-Treba li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti, zastarjeti i zamijeniti?

-Treba li rizikovati gubitak kontrole nad svojom civilizacijom?

Pismo je do sada potpisalo više od 27.500 ljudi, među kojima su autor nekoliko bestselera kao što je Sapiens Yuval Noah Harari, suosnivač Applea Steve Wozniak, suosnivač Skypea Jaan Tallinn te brojni istraživači umjetne inteligencije kao što su Stuart Russell, Yoshua Bengio, Gary Marcus i Emad Mostaque.

Teško je očekivati da bi pismo samo po sebi moglo zaustaviti ili usporiti kompanije poput Googlea i Microsofta, no njegove poruke možda bi mogle doprijeti do političara koji bi mogli nešto poduzeti u zakonodavnom smislu.

Tegmark već godinama upozorava na AI

U ovom kontekstu zanimljivo je istaknuti da Tegmark nije nov u razvoju računarstva. On je još kao srednjoškolac, zajedno sa svojim prijateljem, kreirao i prodavao program za obradu teksta napisan u čistom strojnom kodu i 3D igru sličnu Tetrisu pod nazivom Frac.

Danas je na MIT-ju fokusiran na povezivanje fizike i strojnog učenja, odnosno na korištenje AI-a za potrebe fizike te fizike za potrebe razvoja AI-a.

Institut Future of Life, koji danas vodi, objavio je još 2015. sličnu peticiju za moratorijum na razvoj autonomne oružane tehnologije. Nju je uz Tegmarka tada potpisalo cijelo mnoštvo poznatih osoba, uključujući Stephena Hawkinga, Elona Muska, Stuarta Russella, Noama Chomskog, Stevea Wozniaka, Martina Reesa, Demisa Hassabisa, Raya Kurzweila i mnoge druge.

"Mi ćemo stvoriti vanzemaljsku inteligenciju"

U ovom tekstu prenijeti ćemo slobodan prevod nekih od najvažnijih djelova razgovora Fridmana i Tegmarka, koji do danas ima preko 800.000 pregleda.

U uvodnom dijelu gotovo trosatnog razgovora Tegmark kaže kako, za razliku od brojnih drugih naučnika, vjeruje da je tehnološki napredan život, kao što je ljudski na Zemlji, iznimka u vidljivom svemiru.

"Ako je to istina, to nam nameće veliku odgovornost da ne zabrljamo... Mi smo čuvari ove iskre napredne svijesti koja se, ako je njegujemo i pomažemo joj rasti, može proširiti po svemiru i mi možemo imati zadivljujuću budućnost", rekao je Tegmark.

"S druge strane, ako smo bezobzirni u razvoju tehnologije, onda ćemo je iz gluposti ili u sukobima ugasiti. Zapravo, mislim da će nas strana inteligencija (eng. alien intelligence) posjetiti vrlo skoro. Nego, to je inteligencija koju ćemo sami izgraditi, a ne vanzemaljska", dodao je istaknuvši da će ta vještačka inteligencija biti egzotičnija od inteligencije najegzotičnijih stvorenja na Zemlji jer neće biti stvorena kroz uobičajenu Darwinovu kompeticiju, u kojoj su važne stvari kao što su samoočuvanje, strah od smrti i sl.

"Nama je teško i zamisliti kako bi izgledala inteligencija koja se ne boji smrti"

Upozorio je da će se ona razvijati mnogo brže nego što to omogućuje evolucija, što podrazumijeva veliku odgovornost da umovi koje ćemo stvoriti budu vrijedni stvaranja, da dijele naše vrijednosti i budu dobri za čovječanstvo i život uopće.

Objasnio je da je nama teško i zamisliti kako bi izgledala inteligencija koja se ne boji smrti, koja u trenutku može naučiti neki jezik, poput švedskog, ili može iz memorije izbrisati sve doživljaje koji joj se ne sviđaju.

Upozorio je da je važno biti svjestan i zamisliti se nad očiglednom činjenicom da je prostor za razvoj vještačkih inteligencija vrlo širok i da je vrlo opasno pretpostaviti da će vještačka inteligencija biti na bilo koji način slična našoj.

"Upravo stvaramo život 3.0"

Govoreći o svojoj knjizi Život 3.0, Tegmark je objasnio da život 1.0 podrazumijeva oblike poput bakterija koji ne mogu puno naučiti tokom svog života. Život 2.0 je nalik na naš i život životinja s mozgom koje mogu puno naučiti. Život 3.0, koji još nije stvoren, podrazumijeva život koji neće moći promijeniti samo svoj softver, koji mi možemo mijenjati, već i hardver.

"To je ono prema čemu se ubrzano krećemo. Kompanije koje pokušavaju napraviti vještačku opštu inteligenciju razvijaju život 3.0. Tu inteligenciju moći ćete smjestiti u nešto što nema nikakvih bioloških temelja", rekao je misleći na robote.

"Nalazimo se na najvažnijoj raskrsnici puta čovječanstva"

Trenutnu situaciju u razvoju AI-a Tegmark je usporedio s radnjom filma Ne gledaj gore, u kojem mnogi ljudi ne vjeruju u ozbiljnost prijetnje i ne poduzimaju ništa razumno premda imaju informacije da golem asteroid juri prema Zemlji.

Upozorio je da čovječanstvo upravo u ovom trenutku samo gradi takav asteroid i da gotovo niko o tome u javnosti ozbiljno ne raspravlja.

"Mnogi političari to nemaju nigdje na svom radaru i misle da je to nešto što će se možda dogoditi za 100 godina ili više. No mi se upravo sada nalazimo na račvanju. To je najvažnije račvanje do kojeg je čovječanstvo došlo u svojih stotinjak hiljada godina postojanja na Zemlji. Mi u suštini gradimo novu vrstu koja je pametnija od nas", upozorava.

"A dolazak vještačke opšte inteligencije koja može raditi sve poslove jednako dobro kao mi, i vjerovatno uskoro nakon toga superinteligencije koja će daleko nadići naše kognitivne sposobnosti,  će biti ili najbolja stvar koja se ikad dogodila čovječanstvu ili najgora. Snažno sam uvjeren da tu ne postoji sredina", tumači Tegmark.

Trka između razvoja AI-a i razvoja mudrosti

Govoreći o otvorenom pismu spomenutom u uvodu, objasnio je da je važno dobiti trku između razvoja AI-a i naših mogućnosti da upravljamo njime. Podsjetio je da su do sada brojni stručnjaci s kojima dijeli mišljenje uglavnom smatrali da ne treba usporavati razvoj AI-a, već umjesto toga treba pokušati ubrzati razvoj mudrosti i poduzeti sve tehničke stvari kako bi se osiguralo da moćan AI radi upravo ono što želimo da radi i da se društvo prilagodi prilikama i regulacijama kako bi se AI na dobar način koristio.

"Nažalost, to nije uspjelo. Napredak tehničkih sposobnosti AI-a odvio se mnogo brže nego što su to mislili mnogi ljudi kada smo počeli s upozorenjima 2014. S druge strane, pridobijanje političara i drugih da postave načela koja će sve to voditi u pravom smjeru išlo je sporije od očekivanja", rekao je.

"Usporavanje je ispravna stvar"

"Ako vi pauzirate, a oni drugi ne, mi ne želimo da nam neko pojede ručak. A dioničari u najgorem slučaju čak imaju moć da smijene direktore. Zato smo mi sastavili to otvoreno pismo jer smo htjeli da pomognemo tim idealističnim tehnološkim rukovoditeljima da učine ono što im nalaže srce tako što ćemo stvoriti dovoljno javnog pritiska na cijeli sektor, tako da svi mogu pauzirati na koordinirani način", rekao je.

"Mislim da bez javnog pritiska nitko od njih to ne može učiniti sam, suprotstaviti se dioničarima, bez obzira na to koliko bio dobronamjeran. Naime, Moloh je vrlo moćan neprijatelj... Tako bi rukovoditelji dobili priliku reći dioničarima: 'Svi usporavaju, to je ispravna stvar koju treba učiniti'", objasnio je Tegmark.

"Tri stvari koje ne bi trebalo dopustiti u razvoju AI-a već smo dopustili"

Tegmark kaže da brojni naučnici u području razvoja AI-a već godinama upozoravaju da postoje tri stvari koje se ne bi smjele dogoditi.

"Prva je naučiti AI-a da sam piše kodove jer je to prvi korak prema ponavljajućem samousavršavanju koje vještačkoj opštoj inteligenciji može omogućiti da dođe do mnogo viših razika. Ups, mi smo to već omogućili. Druga vrlo rizična stvar je da AI povežemo s internetom tako da može ići na web stranice, samostalno skidati stvari i razgovarati s ljudima. Ups, i to smo mu već omogućili...

Treća stvar je ono na što je upozorio Stuart Russel, fascinantan istraživač AI-a. On već neko vrijeme ističe da nikada ne bismo trebali naučiti AI ništa o ljudima. Iznad svega ne bismo mu trebali omogućiti da nauči ljudsku psihologiju i kako manipulirati ljudima. To je najopasnije znanje koje mu možete dati", navodi fizičar.