Б.Бу. [ Nacionalna geografija ]

KOMPANIJE DA PREUZMU ODGOVORNOST

Stručnjaci traže zauzdavanje vještačke inteligencije

Moćni sistemi vještačke inteligencije predstavljaju prijetnju društvenoj stabilnosti, a kompanije koje razvijaju takve sisteme moraju biti odgovorne za štetu koju njihovi proizvodi naprave, ističe grupa renomiranih stručnjaka.

Jedan od 23 autorska prijedloga stručnjaka kaže da je „potpuno nesmotreno i neodgovorno“ da se razvijaju još moćniji sistemi vještačke inteligencije prije nego što uopšte možemo da razumijemo kako da ih učinimo bezbjednim za korišćenje.

„Vrijeme je da se uozbiljimo kada je riječ o naprednim sistemima VI. Ovo nisu igračke. Pojačavanje njihovim mogućnosti prije nego što razumijemo kako da ih bezbjedno koristimo je potpuno nesmotreno“, istakao je profesor kompjuterske nauke na Univerzitetu Berkli, Stjuart Rasel.

„Sendvičarnice moraju da se pridržavaju više pravila od kompanija koje razvijaju vještačku inteligenciju“, dodao je Rasel.

Dokument o kojem će se raspravljati apeluje na vlasti zemalja širom svijeta da usvoje zakone:

– trećinu vladinih sredstava za razvoj VI i trećina resursa koje kompanije ulažu u istraživanje i razvoj VI moraju biti usmjereni na bezbjednu i etičku praksu korišćenja tih sistema.

– nezavisni revizori moraju imati pristup laboratorijama za VI.

– mora da se uspostavi sistem izdavanja licenci za razvoj i pravljenje najnaprednijih modela.

– kompanije moraju da usvoje specifične bezbjednosne mjere ukoliko primijete opasne sposobnosti u svojim modelima VI.

– tehnološke kompanije moraju da odgovaraju za štetu koju njihovi sistemi VI izazovu.

Predlog potpisuju mnogi renomirani stručnjaci, poput Džefrija Hintona i Džošue Benđija, koji se smatraju i začetnicima i „očevima“ vještačke inteligencije i koji su, između ostalog, osvojili i Tjuringovu nagradu 2018. godine za svoj rad na razvoju VI.

Hinton je dao otkaz prošle godine u Guglu i upozorio na „egzistencijalni rizik“ koji predstavlja vještačka inteligencija, dok se Benđio pridružio njemu i hiljadama drugih stručnjaka u apelu na  kojem je tražen moratorijum na sprovođenje džinovskih eksperimenata sa VI.

Među potpisnicima predloga su i drugi renomirani autori, profesori, nobelovci, kao što su: Noa Juval Harari, Danijel Kaneman, Šejla Makilrat, Endi Jao…

Oni su upozorili da neodgovorno razvijeni sistemi VI prijete da „pojačaju društvenu nepravdu, poremete i potkopaju razne profesije, uzdrmaju socijalnu stabilnost, omoguće velike kriminalne i terorističke aktivnosti i oslabe naše zajedničko razumijevanje realnosti koje je temelj društva“.

Upozorili su i da trenutni sistemi VI već pokazuju znake zabrinjavajućih sposobnosti koje ukazuju na pojavu autonomnih sistema koji mogu da planiraju, sprovode ciljeve i samostalno se ponašaju.