AI može imati ogroman uticaj na bezbjednost i privatnost svih nas

U eri digitalnih transformacija, sistemi zasnovani na podacima, poput vještačke inteligencije i velikih jezičkih modela (VJM) kao što je ChatGPT, sve više oblikuju način na koji ljudi komuniciraju, rade i tumače informacije. Profesor Avije Mendelson, svjetski priznatom stručnjakom iz oblasti računarskih nauka i inženjerstva, koji je bio gost "Dana naučne dijaspore 2024", održanih u okviru Festivala umjetnosti, nauke i kulture (FUNK) Univerziteta Crne Gore.

Veliki jezički modeli su već duboko integrisani u društvo, omogućavajući bržu pretragu podataka i automatizaciju zadataka koji su ranije zahtijevali značajno vrijeme. Ipak, profesor Mendelson upozorava i na njihove izazove:

"Veliki jezički modeli mogu imati ogroman uticaj na bezbjednost i privatnost svih nas. Ključno pitanje postaje kontrola podataka, jer način na koji se ovi sistemi "obučavaju" direktno utiče na to kako će informacije biti prezentovane i korišćene", kazao je Mendelson.

Jedan od najvećih izazova je visoka cijena razvoja velikih jezičkih modela, što, prema Mendelsonu, ograničava njihovo vlasništvo na velike korporacije i imućne pojedince.

"Glavni problem je to što onaj ko obučava sistem može kontrolisati način na koji će materijal biti predstavljen i korišćen u budućnosti. Na primjer, bogati pojedinci mogu uticati na većinu da povjeruje kako zaslužuju dodatne privilegije, koristeći svoj višak novca za još veći uticaj na javno mnjenje."

S obzirom na moć ovih modela da oblikuju percepciju javnosti, postavlja se pitanje kako spriječiti širenje lažnih informacija.

Mendelson vjeruje da je moguće razviti sisteme za njihovu identifikaciju, ali upozorava da su pravne regulative neophodne:

"Možemo identifikovati botove i lažne informacije, pod pretpostavkom da će osobe koje ih distribuiraju biti kažnjene."

Profesor Mendelson predaje na Tehničkom institutu Technion u Izraelu i aktivno uključuje teme vezane za ove sisteme u svoju nastavu i istraživanja.

"Predajem predmete na postdiplomskom nivou koji obrađuju ove teme. Takođe nudim projekte kako bi studenti mogli da steknu iskustvo rada u ovoj oblasti, a sarađujem i sa industrijom na projektima kako bismo bili izloženi savremenim tehnologijama", kazao je on.

Profesor Mendelson aktivno učestvuje u radu IEEE i ACM, vodećih organizacija u oblasti računarskih nauka, koje razvijaju programe za privlačenje mladih talenata. Međutim, kako ističe, njihov uspjeh zavisi od lokalnih lidera:

"Svi ti programi zahtijevaju lokalne lidere, kao što su profesori i/ili lideri iz lokalne industrije, koji će predvoditi aktivnosti. Vjerujem da učešće u ovim organizacijama može značajno doprinijeti članovima", naveo je Mendelson.

Pored računarske arhitekture, bavi se i hardverskom bezbjednošću, koja je sve više povezana s razvojem velikih jezičkih modela. 

Uprkos velikom napretku u naučnoj zajednici, Mendelson naglašava da je saradnja između akademije, industrije i kreatora politika ključna za pravedan tehnološki razvoj. "Industriji su potrebne inovativne ideje akademske zajednice. Akademiji je potrebna finansijska podrška od strane industrije, dok vlade treba da podstiču takve saradnje."

"Rad u industriji visokih tehnologija i istraživanje u ovim oblastima zahtijeva mnogo truda i često može izgledati kao da ste u slijepoj ulici. Ali ako vjerujete u ciljeve svog rada i svoju sposobnost da prevaziđete poteškoće, većinu vremena ćete shvatiti da je vaš rad koristan i da može pomoći u stvaranju boljeg svijeta za život", poručio je Mendelson mladim istraživačima.