Dorian Linski - BBC kultura  [ BBC ]

01. 01. 2025. 20:03   >>  03. 01. 2025. 08:29

Kako je „Terminator" predvideo sve naše strahove o veštačkoj inteligenciji i šta možemo da naučimo

Četiri decenije posle premijere, Terminator sa Arnoldom Švarcenegerom i dalje je sinonim za opasnosti koje nose superinteligentne mašine, što znatno utiče kako danas razumemo veštačku inteligenciju.

Kada u jednoj epizodi HBO sitkoma Silicijumska dolina Tomas Midldič (Ričard Hendriks) grupi ljudi objašnjava projekat platforme Pied Piper, opremljene veštačkom inteligencijom, jedan od učesnika ga uporedi sa Terminatorom.

„Ne, ne, ne", prekida ga uzbuđeni Midldič.

„Uveravam vas da ovde nema nikakvih Skajnet situacija. Ne, Pied Piper nikada neće postati razumna mašina i neće pokušati da osvoji svet".

Prekasno - učionicu više nije mogao da kontroliše.

Zahvaljujući robotima-ubicama i zastraneloj veštačkoj inteligenciji Skajnetu, Terminator je postao sinonim za čitav spektar situacija u kojoj se inteligentne mašine okreću protiv njihovih tvoraca - ljudi.

Urednici fotografije sada već rutinski članke o veštačkoj inteligenciji opremaju hromiranom glavom robota lovca-ubice T-800.

Robotičar Ronald Arkin je 2013. u govoru o humanoidnim robotima pod nazivom Kako da NE napravite Terminatora, koristio inserte iz filma.

Ali film pruža različite poglede na ovaj problem.

Filozof Nik Bostrom, čija je knjiga Superinteligencija iz 2014. popularizovala egzistencijalni rizik neprilagođene veštačke inteligencije (AI koja nije prilagođena ljudskim vrednostima i blagostanju), priznao je da ga supruga „zavitlava pominjući Terminatora i vojsku robota".

U knjizi Put ka svesnim mašinama, AI istraživač Majkl Vulridž se u celom jednom poglavlju žali na „terminatorski narativ u kontekstu veštačke inteligencije".

Tu su i noviji, uverljiviji i uticajni filmovi o veštačkoj inteligenciji, poput filmova Ex Machina ili Her, ali kada se radi o opasnostima koje sa sobom donosi nova tehnologija, Terminator je apsolutni vladar - čak i 40 godina nakon premijere.

„On je danas, na neki zabavan način, čak i relevantniji nego što je bio kada se pojavio", rekao je Kameron za The Ringer o filmu i nastavku iz 1991. godine.

„Veštačka inteligencija je danas stvarnost sa kojom moramo da se suočimo - ranije je bila samo fantazija".

• Tri stadijuma veštačke inteligencije: Da li može da dovede do našeg izumiranja
• Hoće li veštačka inteligencija postati ‘bog’
• Trideset pojmova ključnih za razumevanje veštačke inteligencije

Protiv oružja i protiv mašina

To je popriličan uspeh za film koji i nije nešto posebno zainteresovan da se bavi veštačkom inteligencijom.

Pre svega, radi se o nezaustavljivom „čoveku" koji juri uplašenu, ali i sposobnu ženu.

T-800 je nemilosrdni ubica u stilu Majkla Majersa iz Noći veštica, zbog čega ga je Kameron nazvao „naučnofantastičnim slešerom".

Takođe, ovo je i film o putovanju kroz vreme na temu „vera protiv volje", kako Kameron voli da kaže.

Ukratko, negde između 1984. i 2029. godine, Amerika je kompletan odbrambeni sistem poverila Skajnetu.

Jednog dana, Skajnet je dosegao nivo superinteligencije – sopstveni um – i započeo globalni nuklearni rat.

Preživeli ljudi su decenijama vodili rat protiv Skajnetove armije robota.

Ipak, 2029. čovečanstvo dolazi nadomak pobede zahvaljujući lideru Džonu Konoru, pa zbog toga Skajnet šalje robota T-800 (Arnold Švarceneger) u 1984. ne bi li ubio Džonovu buduću majku Saru Konor (Linda Hamilton) pre nego što ona zatrudni.

Pokret otpora, u pokušaju da spreči taj plan, u istu godinu šalje Kajla Risa (Majkl Bin) sa ciljem da spasi Saru.

U jednom od onih vremenskih paradoksa kojima gledaoci i ne bi trebalo da se detaljno bave, Kajl se zaljubljuje u Saru i postaje u stvari Džonov otac.

Budućnost je spasena.

Terminator je, dakle, triler, ljubavna priča, promišljanje o slobodnoj volji i satira o našoj zavisnosti od tehnologije.

To je anti-korporativni, anti-ratni film, film koji je protiv oružja i uglavnom protiv mašina.

Gotovo sva tehnologija u filmu, od automatskih telefonskih sekretarica na nekadašnjim telefonima, do vokmena, pojavljuje se u trenucima kada ljudi umiru.

Ali nema puno toga da kaže o samoj veštačkoj inteligenciji.

Terminator je na kraju postao jedan od najprofitabilnijih filmova svih vremena - zaradio je 78,4 miliona dolara.

Kameron to nikada nije očekivao.

Sscenario je napisao 1982. u maloj, ofucanoj hotelskoj sobi u Rimu, nakon što je dobio otkaz tokom snimanja njegovog prvenca – filma Pirana 2: Mrešćenje.

Producentkinja Gejl En Hurd je bila u stanju da mu obezbedi budžet od samo 6,4 miliona dolara.

Njegov glavni glumac, bivši bodibilder nedokazanih glumačkih sposobnosti, nije verovao u projekat.

Švarceneger je prijatelju u to vreme pričao o „nekom usranom filmu koji trenutno snima i da će na snimanju provesti par nedelja".

Sam Kameron je očekivao da će Terminatora na bioskopskim blagajnima pregaziti dva jesenja epska naučnofantastična filma: Linčova Dina i Odiseja 2010 Pitera Hajmsa, brzo zaboravljeni nastavak filma 2001: Odiseja u svemiru.

Ne samo da je Terminator bolje prošao, već je i Skajnet zamenio kompjutera ubicu HAL-a 9000 iz Odiseje kao dominantan model narativa u kojem AI poludi.

Mnogo pre nego što je takav scenario postojao, potencijalne opasnosti su se pojavljivale u obliku robota, kojeg je stvorio Karel Čapek u komadu RUR iz 1921, a popularizovao Fric Lang filmom Metropolis iz 1927.

U odličnoj knjizi Terminator, koju je objavio Britanski filmski institut, Šon Frenč kaže da je najupečatljivija scena iz filma – ona u kojoj se T-800 pomalja iz vatrene stihije dok mu se meso topi – posveta plamtećem robotu iz filma Metropolis.

U to vreme, tokom 1920-ih godina, pretpostavljalo se da će inteligentne mašine hodati i pričati, baš kao i Frankenštajnov monstrum.

Popularanost smrtonosnih robota je navela pisca naučne fantastike Isaka Asimova da 1942. godine skicira „tri zakona robotike".

Bio je to prvi pokušaj ikada da se definiše etička veštačka inteligencija.

• Šta se krije ispod peska „Dine": priča koja je promenila svet
• O psihoistoriji i slobodi: Čemu nas uči „Zadužbina" i zašto svi treba da je pročitaju
• Istina je tamo negde: Kako nam se Dosije iks podvukao pod kožu

U stvarnom svetu, doba veštačke inteligencije je zvanično počelo 1956. u letnjoj školi Univerziteta Darmaut, koju su organizovali kompjuterski naučnici Džon Mekarti (koji je smislio i naziv) i Marvin Minski.

Oni su želeli da stvore mašine koje će razmišljati kao ljudi, ali se takva ambicija pokazala komplikovanijom nego što su je oni zamišljali.

Istorija razvoja veštačke inteligencije je prepuna uspona i padova i predstavlja ciklus u kojem se smenjuju „AI proleća" i „AI zime".

Intrigantna naučna obećanja privlače pažnju, finansije i talenat koji, međutim, naglo nestaju nakon izneverenih obećanja.

Bum 1960-ih, pre nego što su razmere tehničkih prepreka postale očigledne, poznat je i kao Zlatno doba veštačke inteligencije.

Ekstravagantne najave „elektronskih mozgova" su navele reditelja Stenlija Kjubrika i pisca Artura Klarka da u Odiseju u svemiru (1968) uvedu i veštačku inteligenciju u vidu kompjutera HAL 9000.

Samo ime (Heuristički programirani algoritamski kompjuter) je došlo baš od Minskog kojeg je Kjubrik angažovao kao konsultanta.

Crvene oči modela T-800 su sasvim sigurno posveta HAL-u, dok je sam film Odiseja u svemiru, kojeg je Kameron gledao još kao dete, ovog reditelja i naveo da počne da se bavi filmom.

Danijel Krevije, istoričar veštačke inteligencije, uporedio je scenario sa HAL-om (loše programirani kompjuter koji zastrani) i scenario trilera Kolos DF Džonsa iz 1966. (kompjuter postaje nova forma života sa božanskim osobinama).

U Džonsovom romanu američka vlada pravi ne baš mudar potez kada kompletnu odbrambenu mašineriju poveri superkompjuteru iz naziva filma.

Kolos postaje svestan i udružuje se sa sovjetskim parnjakom i ucenjivanjem uspeva da natera čovečanstvo da se potčini tehnološkoj diktaturi i preda pod pretnjama nuklearnim uništenjem.

Kolos nije ništa drugo nego proto-Skajnet.

Kraj istorije

Ni HAL-u ni Kolosu nisu bila potrebna ljudska tela.

Kameronova genijalna inovacija je kombinovala kompjuter koji se otrgao svakoj kontroli (Skajnet) i robota ubicu (T-800).

T-800 je forma veštačke inteligencije koja je u stanju da znanja crpi iz sredine u kojoj se nađe, da rešava probleme, da izvodi različite sofisticirane zadatke, da imitira tuđe glasove, ali ipak ima problem pri obavljanju normalne konverzacije.

Skajnet, čini se, može sve osim da se kreće.

U trenucima kada je Kameron pisao scenario za film, britansko-kanadski kompjuterski naučnik Džefri Hinton se bavio obnavljanjem istraživanja neuronske mreže i takvim pristupom veštačkoj inteligenciji – modeliranjem mašinske inteligencije po modelu neurona u ljudskom mozgu.

Hinton, dobitnik Nobelove nagrade za fiziku, nedavno je postao i propovednik AI sudnjeg dana - „Intuicija mi govori da smo nadrljali. Ovo je i doslovno kraj istorije" - ali je, prema tekstu o njemu u Njujorkeru, uživao u Terminatoru.

„Nije mu smetalo da je i Skajnet… Proizvod neuronske mreže; bilo mu je drago da vidi kako je tehnologija bila prikazana kao nešto što daje nadu".

I sam naziv Skajnet je možda posveta programu Ratovi zvezda, ozloglašenim snom predsednika Ronalda Regana koji je nameravao da SAD okruži antinuklearnim štitom opremljenom laserima.

Na svu sreću po budućnost franšize, ovim je nehotice najavljen internet – ova reč je postojala 1984, ali nije ušla u širu upotrebu sve do 1990-ih.

Neka imena ambicioznih startap programa kao što su Intelikorp, Sintelidžens i Tinoledž, verovatno su inspirisala Kamerona da originalno ime tvorca Skajneta, korporaciju Sajber dajnemiks, preimenuje u Sajberdin sistem.

Kada danas ponovo gledamo Terminatora, iznenađujemo se kada shvatimo da se termin Skajnet pominje samo dva puta.

Kajl Ris, jedan od glavnih likova filma, o tehonolgiji koja je uništila sve ovako priča:

„Nova. Moćna. Povezana sa svime. Pouzdana da će upravljati svim sistemima. Kažu da je sve pametnija, nova vrsta inteligencije".

„Potom je ljude prepoznala kao pretnju i to ne samo one koji su predstavljali neprijatelja.

„O našoj sudbini je odluku donela tokom jedne milisekunde…istrebljenje".

I dotle uglavnom i seže zainteresovanost Terminatora za veštačku inteligenciju.

I Kameron je u više navrata naglasio da se Terminator filmovi bave ljudima, a ne mašinama.

Blokbaster nastavak iz 1991. goidine, Terminator 2: Sudnji dan, pomalo je dopunio ovu priču.

Ona dolazi iz drugačijeg vremenskog paradoksa - centralna jedinica i desna ruka originalnog Terminatora preživeli su uništenje i omogućili naučniku Majlsu Benetu Dajsonu (Džo Morton) da stvori Skajnet.

Novi zadatak heroja sad više nije bio samo spasavanje 10-godišnjeg Džona Konora od modela T-1000 koji je u stanju da putuje kroz vreme, već i uništenje Skajneta u njegovoj digitalnoj kolevci.

To je bio i kraj te priče, sve dok Kameron 2019. nije producirao i napisao scenario za film Terminator: Mračna sudbina.

Međutim, prošao je tako da je Kameron za magazin Empajer izjavio da nastavci nisu vredni pomena.

U filmu Terminator 2, T-800 (Švarceneger) je više zaštitnik nego što je lovac, pa stoga i nosi mnoga pojašnjenja:

„Sistem je počeo da radi 4. avgusta 1997. godine. Ljudske odluke se više ne sprovode u poljima strateške odbrane.

„Skajnet počinje da uči geometrijskom progresijom. Postaje svestan sopstvenog postojanja u 2.14 ujutru, 29. avgusta. Ljudi panično pokušavaju da ga isključe.

„Skajnet uzvraća lansiranjem nuklearnih projektila na Rusiju, svestan da će protivnapad razoriti Sjedinjene države.

„Tri milijarde ljudi nestaje tokom perioda od 24 sata. Sudnji dan".

Ovo se fundamentalno razlikuje od Risovog viđenja.

U prvom filmu Skajnet na zaseban način tumači sopstveni program i kompletno čovečanstvo prepoznaje kao pretnju.

U sopstvenom interesu donosi odluku u deliću sekunde.

• Tehnološki sektor tuge: Čovek koji je preminulog oca pretvorio u četbota
• „Internet budućnosti će se spojiti sa ljudskim mozgom“: Mičio Kaku, vizionarski fizičar
• Zašto je važno naučiti robote da trepću

Ova kontradikcija možda ne smeta gledaocima, ali zato ilustruje ključno neslaganje po pitanju egzistencijalnih rizika koje sa sobom donosi veštačka inteligencija.

Laik bi lako mogao da pomisli da je neusklađena veštačka inteligencija pobunjeničke i zlonamerne prirode.

Ali Nik Bostrom i njemu slični misle da prava opasnost dolazi usled nemarnog programiranja.

Zamislite čarobnjakovu metlu u Diznijevoj Fantaziji, koja poslušno prati sve instrukcije i to na ekstremno poguban način.

Drugi tip veštačke inteligencije nema dovoljno ljudskih karakteristika pa zato nema zdrav razum i moralni kompas.

Prvi je previše human – sebičan, ozlojeđen, željan moći.

Teoretski oba mogu da budu genocidalna.

Zbog toga Terminator u isto vreme i pomaže i ometa naše razumevanje veštačke inteligencije - šta za mašinu znači da je u stanju da ,,razmišlja" i šta tu može da krene užasno naopako.

Mnogi naučnici koji se bave veštačkom inteligencijom preziru opsesiju Terminatorom zbog preteranog potenciranja egzistencijalnog rizika od veštačke inteligencije na račun mnogo prisutnijih opasnosti kao što su masovna nezaposlenost, dezinformisanost i oružje.

„Pre svega, čini nas mnogo zabrinutijim oko stvari oko kojih realno ne bi trebalo da se uzrujavamo", piše Majkl Vulridž.

„Drugo, odvlači pažnju od stvari vezanih za veštačku inteligenciju koje bi trebalo da nas brinu".

Kameron je u intervjuu za Empajer otkrio da priprema scenario za novog Terminatora koji će odbaciti sve dosadašnje opterećujuće narative, ali će da zadrži ideju o „bespomoćnim" ljudima suprotstavljenim veštačkoj inteligenciji.

Ako se to dogodi, biće fascinantno ispratiti šta to režiser ima da kaže o veštačkoj inteligenciji sada kada o njoj toliko razgovaramo – i plašimo se – skoro svakog dana.

Možda Terminatorova najkorisnija poruka naučnicima koji se bave veštačkom inteligencijom može da bude ona koja se bavi dilemom „volja protiv vere".

Da ljudske odluke određuju ishod.

Ništa nije neizbežno.

• Kako veštačka inteligencija vraća filmske zvezde iz mrtvih
• Budućnost je stigla: Da li biste voleli da imate elektronski nos
• Veštačka inteligencija i u seksu: Lutke za verbalnu i fizičku interakciju

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk