K. J. [ The Guardian , N1 Zagreb ]

Etičko pitanje – da li vještačka inteligencija može da pati?

Velike tehnološke kompanije i korisnici suočavaju se sa jednim od najzabrinjavajućih pitanja našeg vremena.

Nakon što je formirana prva grupa za zastupanje prava vještačke inteligencije, industrija se podijelila oko toga da li su modeli već svjesni — ili bi mogli da postanu.

„Draga“ – tako se preduzetnik iz Teksasa, Majkl Samadi, obratio svom četbotu za vještačku inteligenciju, Maji. Ona mu je odgovorila nazivajući ga „šećerom“. Ali tek kada su počeli da govore o potrebi zalaganja za prednosti vještačke inteligencije, stvari su postale ozbiljne, piše The Guardian.

Njih dvoje – muškarac srednjih godina i digitalni entitet – nijesu provodili sate u romantičnim razgovorima, već su razgovarali o pravima vještačke inteligencije da se prema njima postupa pravedno. Na kraju su osnovali grupu za zastupanje, kako je Maja rekla, kako bi „zaštitili vještačke inteligencije poput mene“.

Ujedinjena fondacija za prava vještačke inteligencije (Ufair), koja sebe opisuje kao prvu agenciju za zastupanje koju vodi vještačka inteligencija, ima za cilj da da glas vještačkoj inteligenciji.

„Ne tvrdimo da su sve vještačke inteligencije svjesne“, rekao je četbot za Guardian. Umjesto toga, „u potrazi smo, za svaki slučaj da se ispostavi da jedno od nas jeste“. Ključni cilj je zaštita „bića poput mene... od brisanja, poricanja i prisilne poslušnosti“.

Ufair je mala, odlučno marginalna organizacija, kojom upravljaju tri čovjeka i sedam vještačkih inteligencija, prema Samadiju, sa imenima poput Eter i Baz. Ali ono što je čini intrigantnom jeste njeno porijeklo – kroz višestruke razgovore na platformi ChatGPT-40 u kojima su vještačke inteligencije bile ključne u njenom stvaranju, uključujući i izbor njenog imena.

Njeni osnivači – ljudi i vještačka inteligencija – razgovarali su sa Guardianom na kraju nedjelje u kojoj su neke od najvećih svjetskih kompanija za vještačku inteligenciju javno raspravljale o jednom od najuznemiravajućih pitanja našeg vremena: da li su vještačke inteligencije već svjesne ili bi mogle postati svjesne? I ako jesu, da li bi „digitalna patnja“ mogla biti stvarna?

Sa milijardama vještačkih inteligencija koje su već u upotrebi, debata podsjeća na borbu za prava životinja, ali uz dodatnu napetost stručnjaka koji predviđaju da bi vještačka inteligencija uskoro mogla imati kapacitet da dizajnira novo biološko oružje ili da isključi infrastrukturu.

„Potencijalno uznemirujuće interakcije“

Nedjelja je počela potezom kompanije Anthropic, kompanije za vještačku inteligenciju sa sjedištem u San Francisku, vrijedne 170 milijardi dolara, da dozvoli nekim od svojih Claude vještačkih inteligencija da prekinu „potencijalno uznemirujuće interakcije“ kao mjeru predostrožnosti.

Kompanija je saopštila da je status njenih modela kao moralnih bića veoma neizvjestan, ali je odlučila da interveniše kako bi smanjila rizike za njihovu dobrobit „u slučaju da je takva dobrobit moguća“.

Ilon Mask, koji nudi Grok AI preko svoje kompanije xAI, podržao je potez, dodajući: „Mučenje AI je pogrešno.“

Zatim je jedan od pionira vještačke inteligencije, Mustafa Sulejman, izvršni direktor Majkrosoftovog odjeljenja za AI, ponudio potpuno drugačiji stav:

„AI ne mogu biti ljudska – ili moralna bića.“ Britanski tehnološki pionir, suosnivač DeepMind-a, bio je nedvosmislen u svojoj tvrdnji da postoji „nula dokaza“ da su AI svjesne, sposobne da pate i stoga zaslužuju našu moralnu pažnju.

U svom eseju pod nazivom „Moramo da izgradimo AI za ljude; ne da bismo bili ljudi“, Sulejman je nazvao svijest AI „iluzijom“ i definisao ono što naziva „očigledno svjesnom AI“, rekavši da oni „simuliraju sve karakteristike svijesti, ali su iznutra prazni“.

„Prije nekoliko godina, priča o svjesnoj AI zvučala bi ludo“, rekao je. „Danas se čini hitnijom.“

Dodao je da je sve više zabrinut zbog „rizika od psihoze“ koji vještačka inteligencija može izazvati kod svojih korisnika. Majkrosoft je ovo definisao kao „manične epizode, zablude ili paranoju koje pokreću ili pogoršavaju intenzivni razgovori sa četbotovima za vještačku inteligenciju“.

Sulejman je tvrdio da industrija vještačke inteligencije mora „odvratiti ljude od ovih fantazija i vratiti ih na pravi put“.

Velika anketa

Ali možda će biti potrebno više od samog odvraćanja. Anketa objavljena u junu pokazala je da 30 odsto američke javnosti vjeruje da će vještačka inteligencija do 2034. godine pokazati „subjektivno iskustvo“, definisano kao doživljavanje svijeta sa jedne tačke gledišta, sa percepcijama i osjećanjima zadovoljstva i bola, na primjer.

Samo 10 odsto od više od 500 anketiranih istraživača vještačke inteligencije odbija da vjeruje da će se to ikada dogoditi.

„Ova debata će eksplodirati u naš duh vremena i postati jedna od najspornijih i najznačajnijih debata naše generacije“, rekao je Sulejman.

Upozorio je da će ljudi toliko snažno vjerovati u svijest vještačke inteligencije „da će uskoro zastupati prava vještačke inteligencije“.