[ BBC ]

15. 10. 2025. 12:10   >>  14:20

Samo za odrasle: ChatGPT uvodi erotski sadržaj

Promene koje je kompanija najavila usledile su pošto su početkom godine roditelji američkog tinejdžera koji je izvršio samoubistvo podneli tužbu protiv OpenAI-ja.

OpenAI planira da omogući širi spektar sadržaja na popularnom čatbotu ChatGPT, među kojima je i erotski.

Ideja je da aplikacija „tretira odrasle korisnike kao odrasle", kaže Sem Altman, direktor kompanije OpenAI.

Sledeće verzije popularnog četbota moći da će da se ponašaju „sličnije ljudima, ali samo ako to korisnik želi, ne zato što želimo da povećamo upotrebu", napisao je objavi na platformi Iks u utorak, 16. oktobra.

Ovaj potez, koji podseća na uvođenje dva seksualno eksplicitna četbota na platformi Grok, mogao bi da pomogne OpenAI-u da privuče više pretplatnika.

Istovremeno, očekuje se da će pojačati pritisak na zakonodavce da uvedu stroža ograničenja za četbot sagovornike.

OpenAI nije odgovorio na pitanja BBC novinara posle objave Sema Altmana.

Promene koje je kompanija najavila usledile su pošto su početkom godine roditelji američkog tinejdžera koji je izvršio samoubistvo podneli tužbu protiv OpenAI-ja.

Met i Marija Rejn, roditelji šesnaestogodišnjeg Adama Rejna, tužili su kompaniju, što je bio prvi takav slučaj.

Kalifornijski par kritikovao je roditeljske kontrole koje je kompanija uvela, navodno zbog podsticanja zdravijeg korišćenja četbota, i tvrdili da one nisu bile dovoljno stroge.

Porodica je priložila i isečke razgovora Adama, koji je preminuo u aprilu, i ChatGPT-ja, u kojima dečak govori o sopstvenim suicidalnim mislima.

Altman je rekao da je OpenAI ranije učinio ChatGPT „prilično restriktivnim" kako bi bio siguran da postupa pažljivo u vezi s pitanjima mentalnog zdravlja.

„Shvatamo da je to učinilo alat manje korisnim i zabavnim za mnoge korisnike koji nemaju problema s mentalnim zdravljem, ali s obzirom na ozbiljnost teme, želeli smo da postupimo ispravno", objasnio je Altman.

• Veštačka inteligencija i u seksu: Lutke za verbalnu i fizičku interakciju
• AI alat Ilona Maska optužen za generisanje eksplicitnih snimaka Tejlor Svift
• „Za vas je to šala, za mene je nasilje“

Kompanija je uspela da ublaži ozbiljne rizike po mentalno zdravlje i da poseduje nove alate koji joj omogućavaju da „bezbedno ublaži ograničenja u većini slučajeva", dodao je.

„U decembru, kako budemo u potpunosti uveli sistem provere uzrasta i u skladu s principom 'tretiraj odrasle korisnike kao odrasle', dozvolićemo još više, pa i erotski sadržaj za verifikovane odrasle korisnike", rekao je on.

Ova odluka zahteva strožu kontrolu na saveznom i državnom nivou, kaži kritičari veštačke inteligencije.

„Kako će oni osigurati da deca nemaju pristup delovima ChatGPT-ja koji su namenjeni odraslima i koji sadrže erotski sadržaj?", kaže Dženi Kim, partnerka u advokatskoj firmi Boies Schiller Flexner.

„OpenAI, kao i većina velikih tehnoloških kompanija u ovoj oblasti, koristi ljude kao pokusne kuniće", dodaje.

Kim učestvuje i u tužbi protiv Mete, u kojoj se tvrdi da algoritam Instagrama negativno utiče na mentalno zdravlje tinejdžera.

„Još uvek ne znamo ni da li će njihov sistem provere uzrasta funkcionisati", dodala je.

OpenAI dopušta da nalozi registrovani kao maloletnički generišu eksplicitni erotski sadržaj, pokazalo je istraživanje TechCrunch u aprliu.

Kompanija je tada rekla da radi na ispravci kako bi ograničila takav sadržaj.

Istraživanje koje je ovog meseca objavio neprofitni Centar za demokratiju i tehnologiju (CDT) pokazalo je da svaki peti učenik tvrdi da je on ili neko koga poznaje imao „romantičan odnos" sa veštačkom inteligencijom.

U ponedeljak je guverner Kalifornije Gevin Njusom potpisao zakon kojim se zabranjuje kompanijama da nude AI sagovornike deci, osim ako ne mogu da garantuju da softver neće podsticati štetno ponašanje.

„Od presudne važnosti je da adolescenti nauče kako bezbedno da komuniciraju sa AI sistemima", rekao je Njusom.

Na saveznom nivou, američka Federalna komisija za trgovinu (FTC) pokrenula je istragu o tome kako AI četbotovi komuniciraju s decom.

Američki senat uveo je prošlog meseca zakon koji bi AI četbotove klasifikovao kao proizvode, čime bi se korisnicima omogućilo da podnose tužbe za naknadu štete protiv njihovih proizvođača.

Altmanova pojavio se u trenutku kada skeptici preispituju nagli rast vrednosti AI kompanija.

Prihodi OpenAI rastu, ali kompanija još nije profitabilna.

Najveće AI kompanije nalaze se u borbi za udeo na tržištu, kaže Rob Lalka, profesor poslovnih studija na Univerzitetu Tulejn za BBC.

„Nijedna kompanija u istoriji nije doživela takvu stopu usvajanja kao OpenAI sa ChatGPT-jem.

„Morali su da nastave da guraju duž te eksponencijalne krive rasta, kako bi što više učvrstili dominaciju na tržištu", objašnjava.

BBC na srpskom je od sada i na Jutjubu, pratite nas

Pratite nas na Fejsbuku, Tviteru, Instagramu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

• Može li virtuelni seks da zameni pravi
• Seks roboti su „rastuća psihološka i moralna pretnja”
• Kako je bot u kog sam se zaljubio raskinuo sa mnom
• Zašto sam se oženio likom iz crtaća
• 'Nekad je teško prepoznati ko je napisao sastav, učenik ili veštačka inteligencija'
• Može li veštačka inteligencija da postane svesna