P. R. [ BBC ]

40 GODINA OD PREMIJERE

"Terminator" predvidio naše strahove o vještačkoj inteligenciji

Sa Arnoldom Švarcenegerom u glavnoj ulozi, blokbaster iz 1984. godine, „The Terminator“, postao je sinonim za opasnosti superinteligentnih mašina. Međutim, film istovremeno „pomaže i ometa“ naše razumijevanje vještačke inteligencije (AI).

U jednoj epizodi HBO-ove serije Silicijumska dolina, lik Ričarda Hendriksa, kojeg glumi Tomas Midldič, objašnjava svoju platformu za mašinsko učenje grupi korisnika, kada jedan učesnik neizbježno pominje Terminatora. „Ne, ne, ne,“ insistira frustrirani Midldič, „Mogu vas uvjeriti da ovdje nema Skynet situacije. Pied Piper nikada neće postati svjestan i pokušati da preuzme svijet.“ Međutim, već je izgubio publiku.

Sa svojim robotima ubicama i neobuzdanom AI sistemom Skynet, Terminator je postao sinonim za prijetnju mašinske inteligencije koja se okreće protiv svojih ljudskih kreatora. Urednici često koriste sliku T-800 robota iz filma za ilustraciju članaka o AI. Robotičar Ronald Arkin koristio je isječke iz filma u svom opominjućem predavanju iz 2013. pod nazivom „Kako NE napraviti Terminatora.“

Međutim, film je mač sa dvije oštrice. Filozof Nik Bostrom, autor knjige Superinteligencija iz 2014. godine, koja je popularizovala pojam „neusaglašene AI“ (AI koja nije usklađena sa ljudskim vrijednostima i blagostanjem), priznao je da ga supruga često zadirkuje zbog Terminatora i „vojske robota.“ U svojoj knjizi Put ka svjesnim mašinama, istraživač vještačke inteligencije Majkl Vuleridž posvetio je cijelo poglavlje kritici narativa Terminatora o AI.

Iako postoje noviji i realističniji filmovi o vještačkoj inteligenciji, poput „Ex Machina“ i „Her“, kada je riječ o opasnostima tehnologije, Terminator i dalje vlada i 40 godina nakon svog izlaska.

„Na neki način, film je sada čak i relevantniji nego kada je izašao“, rekao je Kameron za „The Ringer“ o filmu i njegovom nastavku iz 1991. godine, „jer je AI sada stvarna pojava sa kojom moramo da se suočimo, dok je tada bila fantazija.“

‘Protiv oružja i protiv mašina’

Ovo je značajno postignuće za film koji zapravo nije posebno zainteresovan za vještačku inteligenciju. Terminator je prvenstveno napeti i mračni triler o nezaustavljivom „čovjeku“ koji progoni uplašenu, ali snalažljivu ženu. T-800 je neumoljivi ubica nalik Majklu Majersu iz Noći vještica. Džejms Kameron ga je nazvao „naučno-fantastičnim slasher filmom“. Pored toga, to je film o putovanju kroz vrijeme sa temom „sudbina protiv volje“, kako je Kameron objasnio.

Kratka premisa filma je da je između 1984. i 2029. godine SAD povjerio cijeli svoj odbrambeni sistem Skynet-u. Jednog dana, Skynet je postao superinteligentan – dobio je sopstveni um – i pokrenuo globalni nuklearni rat. Preživjeli ljudi zatim vode decenijsku pobunu protiv Skynet-ove armije robota. Do 2029. godine, ljudski otpor je na pragu pobjede zahvaljujući vođstvu Džona Konora, pa Skynet šalje T-800 (Arnold Švarceneger) u 1984. godinu kako bi ubio Džonovu buduću majku Saru (Linda Hamilton) prije nego što zatrudni. Otpor odgovara tako što šalje Kajla Risa (Majkl Bin) da zaustavi T-800 i spasi Saru. U jednom od onih vremenskih paradoksa, Kajl se spaja sa Sarom i ispostavlja se da je on Džonov otac. Budućnost je spašena.

Terminator je, dakle, triler, ljubavna priča, vremenska refleksija o slobodnoj volji i satira o našoj zavisnosti od tehnologije. Film je protiv korporacija, rata, oružja, i uglavnom protiv mašina. Tehnologija, od automatskih sekretarica do vokmena, često je uključena u scene ubistava u ovom filmu. Međutim, ima vrlo malo toga da kaže direktno o vještačkoj inteligenciji.

Terminator će postati jedan od najprofitabilnijih filmova svih vremena, zaradivši 78,4 miliona dolara, ali Kameron nije očekivao da stvori kulturološki fenomen. Napisao je scenario u starom hotelu u Rimu 1982. godine, nakon što je dobio otkaz na svom prvom režiserskom poslu na filmu „Piranha II: The Spawning“, a producentkinja Gejl En Herd uspjela je da sakupi budžet od svega 6,4 miliona dolara. Glavni glumac, bivši bodibilder neprovjerenog talenta, nije imao velika očekivanja. Švarceneger je rekao prijatelju za „neki bezvezni film koji radim, biću gotov za par nedjelja.“

Sam Džejms Kameron očekivao je da će Terminator biti „pregažen“ na bioskopskim blagajnama te jeseni zbog dva naučnofantastična epa: „Dina“ Dejvida Linča i „2010: Godina kada stupamo u kontakt“ Pitera Hajamsa, ubrzo zaboravljenog nastavka filma „2001: Odiseja u svemiru“. Zanimljivo je kako je Terminator nadmašio 2010, dok je Skynet zauzeo mjesto HAL-a 9000, ubilačkog računara iz Odiseje, kao dominantna slika AI koja kreće po zlu.

Dugo prije nego što je oblast vještačke inteligencije postojala, njeni potencijalni rizici pojavili su se u obliku robota, kojeg je stvorio Karel Čapek u svojoj drami RUR iz 1921. godine, a popularisao ga Fric Lang u filmu Metropolis iz 1927. godine. U svojoj izvrsnoj knjizi o Terminatoru za BFI, Šon Frenč sugeriše da je najupečatljivija slika filma – T-800 kako izlazi iz plamena, dok mu se koža topi i otkriva metalni endoskelet – omaž zapaljenom robotu iz Metropolisa. U 1920-im godinama bilo je logično da će mašinska inteligencija hodati i govoriti, poput Frankenštajnovog čudovišta. Popularnost smrtonosnih robota navela je pisca naučne fantastike, Isaka Asimova, da 1942. formuliše „tri zakona robotike“, prvi pokušaj da se definišu etički okviri za AI.

U stvarnom svijetu, oblast vještačke inteligencije zvanično je nastala 1956. na ljetnjoj školi na Dartmut univerzitetu, koju su organizovali naučnici Džon Makartri (koji je skovao termin) i Marvin Minski. Njihova ambicija bila je da dizajniraju mašine koje bi mogle razmišljati kao ljudi, ali to se pokazalo mnogo težim nego što su zamišljali. Istorija vještačke inteligencije puna je uspona i padova: ciklusa tzv. „proljeća AI“ i „zima AI“. Zapanjujuća obećanja privlače pažnju, finansiranje i talente, a njihovo neispunjenje vodi ka opadanju sva tri faktora.

Uspon iz 1960-ih godina, prije nego što su tehničke prepreke postale očigledne, poznat je kao Zlatno doba vještačke inteligencije. Pretjerana očekivanja o „elektronskim mozgovima“ oduševila su reditelja Stenlija Kjubrika i pisca Artura Klarka, koji su integrisali AI u 2001: Odiseja u svemiru iz 1968. godine u obliku HAL-a 9000. Naziv (što znači heuristički programiran algoritamski računar) dao je sam Minski, koga je Kjubrik angažovao kao konsultanta. Crvene oči T-800 robota vjerovatno su omaž HAL-u – gledanje Odiseje u djetinjstvu navelo je Kamerona da postane reditelj.

Istoričar vještačke inteligencije, Danijel Krevije, uporedio je scenario sa HAL-om (loše programirani računar poludi) sa scenarijom iz trilera „Kolos“ DF Džonsa iz 1966. (računar postaje božanski novi oblik života). U Džonsovom romanu, američka vlada nesmotreno povjerava cjelokupnu odbrambenu mašineriju superkompjuteru Kolos. Kolos postiže svjesnost, udružuje se sa sovjetskim pandanom i ucjenjuje čovječanstvo da se pokori tehno-diktaturi: predaja ili nuklearno uništenje. Kolos je proto-Skynet.

Kraj istorije

Ni HAL ni Kolos nijesu imali, niti su im trebala, tijela. Kameronova briljantna inovacija bila je da spoji neobuzdani računar (Skynet) sa ubilačkim robotom (T-800). T-800 je jedno-namjenska forma vještačke inteligencije koja može da uči iz svog okruženja, rješava probleme, obavlja složene fizičke zadatke i imitira glasove, ali se bori s održavanjem razgovora. Skynet, izgleda, može sve osim da se kreće.

Skynet je bio proizvod drugog proljeća vještačke inteligencije. Dok je Kameron pisao scenario, britansko-kanadski naučnik Džefri Hinton je preispitivao i oživljavao istraživanje o neuronskim mrežama u vještačkoj inteligenciji: modelovanje mašinske inteligencije na osnovu neurona u ljudskom mozgu. Skynet je neuronska mreža. Hinton, koji je upravo osvojio Nobelovu nagradu za fiziku, nedavno je postao pesimista u vezi sa AI („Moja intuicija je: gotovi smo. Ovo je stvarni kraj istorije“), ali prema jednom profilu u New Yorker-u, uživao je u Terminatoru 1984. godine: „Nije ga brinulo to što je Skynet bio neuronska mreža; bio je zadovoljan što je tehnologija prikazana kao obećavajuća.“

Ime Skynet možda je takođe bilo omaž Zvjezdanim ratovima, propalom snu tadašnjeg predsjednika Ronalda Regana o stvaranju anti-nuklearnog štita oko SAD sa svemirskim laserima. (Srećom po budućnost franšize, slučajno je odjekivalo i internetom – riječ koja je postojala 1984. godine, ali nije bila široko korišćena do 1990-ih.) Imena ambicioznih novih startapova poput IntelliCorp, Syntelligence i TeKnowledge možda su inspirisala Kamerona da skrati prvobitno ime tvorca Skyneta, Cyber Dynamics Corporation, u Cyberdyne Systems.

Kada sada ponovo gledamo Terminator, iznenađuje činjenica da je riječ „Skynet“ izgovorena samo dva puta. Prema Kajlu Risiju, to je bilo: „Novo. Moćno. Povezano sa svime. Povjereno da sve vodi. Kažu da je postalo pametno… novi nivo inteligencije. Onda je sve ljude vidjelo kao prijetnju, ne samo one na drugoj strani. Odlučilo je o našoj sudbini u djeliću sekunde… istrebljenje.“ To je sve što film govori o vještačkoj inteligenciji. Kao što je Kameron često govorio, Terminator filmovi su zapravo o ljudima, a ne o mašinama.

Blokbaster nastavak iz 1991. godine, „Terminator 2: Judgment Day“, dodatno razrađuje priču. Proizlazi iz novog vremenskog paradoksa: centralna procesorska jedinica i desna ruka originalnog Terminatora preživjeli su njegovo uništenje i omogućili naučniku iz Cyberdynea, Majlsu Benetu Dajsonu (Džou Morton), da dizajnira Skynet. Zadatak junaka sada nije samo da spasu desetogodišnjeg Džona Konora od vremenskog putnika T-1000, već i da unište Skynet u njegovoj digitalnoj kolijevci. (Ovo je bio Kameronov posljednji doprinos ovoj temi sve do njegovog produkcijskog i koautorskog rada na „Terminator: Dark Fate“ iz 2019. Nedavno je rekao za „Empire“ magazin da su svi prethodni nastavci „nebitni“.)

U Terminator 2, T-800 u Švarcenegerovoj verziji postaje zaštitnik, a ne lovac, i tako preuzima ulogu onoga koji daje objašnjenja: „Sistem počinje da radi 4. avgusta 1997. Ljudske odluke su uklonjene iz strateške odbrane. Skynet počinje da uči geometrijskom brzinom. Postaje samosvjestan u 2:14 ujutro po istočnom vremenu, 29. avgusta. U panici pokušavaju da isključe sistem.“ Skynet se bori nazad lansiranjem nuklearnih raketa ka Rusiji, znajući da će protivnapad uništiti SAD. Tri milijarde ljudi umre u 24 sata: Sudnji dan.

Ovo je suštinski drugačiji prikaz u odnosu na Risijev. U prvom filmu, Skynet preuveličava svoje programiranje smatrajući čitavu ljudsku vrstu prijetnjom. U drugom dijelu djeluje iz sopstvenog interesa. Ova kontradikcija ne uzrujava većinu gledalaca, ali ilustruje ključni nesuglas koji se tiče egzistencijalnog rizika od vještačke inteligencije.

Obična osoba vjerovatno zamišlja neusklađenu vještačku inteligenciju kao pobunjenika i zlu silu. Međutim, stručnjaci poput Nika Bostroma insistiraju da je prava opasnost nepažljivo programiranje. Sjetite se vještice i njene metle iz Diznijeve Fantazije: uređaja koji poslušno slijedi svoja uputstva do razarajućih ekstremnosti. Druga vrsta vještačke inteligencije nije dovoljno humana — nedostaje joj zdrav razum i moralna presudna moć. Prva je, s druge strane, previše humana — sebična, ogorčena i pohlepna. Oba tipa teoretski mogu biti genocidna.

Terminator stoga pomaže i ometa naše razumijevanje vještačke inteligencije: šta znači da mašina „misli“ i kako bi to moglo da krene strašno po zlu. Mnogi istraživači vještačke inteligencije ogorčeni su opsesijom oko Terminatora, smatrajući da preuveličava egzistencijalni rizik od AI na račun više trenutnih opasnosti poput masovne nezaposlenosti, dezinformacija i autonomnih oružja.

„Prvo, čini da se brinemo o stvarima o kojima se vjerovatno ne trebamo brinuti“, piše Majkl Vuldridž. „Ali, drugo, odvlači pažnju od onih problema koje bi trebalo da nas zabrinjavaju.“

Kameron je za „Empire“ otkrio da planira novi film o Terminatoru koji će odbaciti svu narativnu težinu franšize, ali zadržati osnovnu ideju o „bespomoćnim“ ljudima naspram AI. Ako to uspije, biće fascinantno vidjeti šta reditelj ima da kaže o vještačkoj inteligenciji sada kada o njoj svakodnevno razgovaramo — i brinemo se. Možda je najkorisnija poruka Terminatora za istraživače vještačke inteligencije ona o „volji protiv sudbine“: ljudske odluke određuju ishode. Ništa nije neizbježno.