Б.Бу. [ RTS ]

MRAČNA STRANA VI

Novi oblici vršnjačkog nasilja i seksualnog zlostavljanja djece

Potencijal zloupotrebe alata koji koriste vještačku inteligenciju je zastrašujuće veliki. Da opasnosti nisu negdje u budućnosti već gorući problem, pokazalo se u Velikoj Britaniji, gdje su đaci koristili alate za generisanje neprimjerenih slika svojih vršnjaka koje pravno pripadaju oblasti seksualnog zlostavljanja djece.

Djeca u britanskim školama koriste vještačku inteligenciju (VI) da prave nepristojne slike druge djece, upozorila je grupa stručnjaka u oblasti zlostavljanja djece i tehnologija.

Nekoliko škola prvi put je prijavilo da učenici koriste generativne alate zasnovane na vještačkoj inteligenciji kako bi kreirali slike druge djece koje, pravno gledano, predstavljaju seksualno zlostavljanje djece.

Ema Hardi, direktorka Centra za bezbedniji internet u Velikoj Britaniji (UKSIC), rekla je da su slike „zastrašujuće“ realistične.

„Kvalitet slika na koje nailazimo može se uporediti sa profesionalnim fotografijama koje se svake godine prave u školama širom zemlje“, istakla je Hardijeva, koja je i direktorka za komunikacije Fondacije "Internet Watch".

„Fotorealistična priroda slika djece generisanih uz pomoć vještačke inteligencije znači da su djeca koju vidimo ponekad prepoznatljiva kao žrtve seksualnog zlostavljanja. Djeca moraju biti upozorena da se takvi sadržaji mogu proširiti internetom i na taj način završiti u posjedu nepoznatih ljudi i seksualnih predatora. Potencijal za zloupotrebu ove tehnologije je zastrašujući“, naglasila je Ema Hardi.

Iz UKSIC-a, britanske organizacije za zaštitu djece, navode da škole moraju hitno da reaguju kako bi uspostavile bolje sisteme za blokiranje pravljenja sadržaja koji se može klasifikovati kao zlostavljanje djece.

„Izvještaji koje viđamo o djeci koja prave ove slike ne bi trebalo da budu iznenađenje. Ove vrste štetnog ponašanja treba predvidjeti kada nove tehnologije, poput generatora zasnovanih na VI, postanu dostupnije javnosti“, rekao je direktor organizacije UKSIC Dejvid Rajt.

Djeca možda istražuju potencijal generativnih alata za pravljenje slika, a da pritom ne mogu da sagledaju razmjere štete koju mogu da izazovu. Iako je broj slučajeva mali, moramo da imamo zaštitne korake koji se preduzimaju sada – prije nego što škole postanu preopterećene i problem poraste“, ukazao je Rajt.

Slike seksualnog zlostavljanja djece nezakonite su u Ujedinjenom Kraljevstvu, bilo da su nastale korišćenjem vještačke inteligencije ili klasično fotografisanjem. Protivzakonito je pravljenje, posjedovanje i distribucija i takvih crtanih ili drugih manje realističnih prikaza.

Prošlog mjeseca, Fondacija "Internet Watch" upozorila je da slike seksualnog zlostavljanja djece koje je generisala vještačka inteligencija „prijete da preplave internet“, pri čemu su mnoge već sada toliko realistične da se ne mogu razlikovati od stvarnih slika. Ne razlikuju ih čak ni obučeni analitičari.