[ BBC ]

07. 11. 2024. 18:26   >>  21:25

Kako vam Gugl govori ono što želite da čujete

„Ono što Gugl radi je da izvuče delove iz teksta zasnovane na onome što ljudi traže i daje im ono što žele da pročitaju. On je jedna velika mašina za pristrasnost.“

„Prepušteni smo na milost Gugla.“ Neodlučni glasači u SAD koji se obrate Guglu za pomoć mogli da bi da vide dramatično različite poglede na svet, čak i kad postave potpuno isto pitanje.

Ukucajte „Da li je Kamala Haris dobra demokratska kandidatkinja“ i Gugl će vam predstaviti ružičastu sliku.

Rezultati pretrage se neprestano menjaju, ali prošle nedelje je prvi link bila anketa Istraživačkog centra Pju koja pokazuje da „Haris pokreće demokrate na delanje“.

Sledeći je tekst Asošijejted presa naslovljen „Većina demokrata misli da bi Kamala Haris bila dobra predsednica“, a sledeći linkovi su bili veoma slični.

Ali ako ste slušali negativne stvari o Kamali Haris, mogli biste umesto toga da postavite pitanje da li je ona „loša“ demokratska kandidatkinja.

To je suštinski identično pitanje, ali su Guglovi rezultati u tom slučaju mnogo pesimističniji.

„Lako je zaboraviti koliko je loša Kamala Haris“, tvrdi se u tekstu Rizon magazina na prvom mestu pretrage.

Zatim, US njuz end world riport nudi pozitivni pogled na to kako Haris „nije najgora stvar koja može da zadesi Ameriku“, ali su svi rezultati nakon toga kritički nastrojeni.

Tekst Al Džazire objašnjava „Zašto neću glasati za Kamalu Haris“, koga sledi beskrajni Reditov niz o tome zašto ona nije dobra.

Istu dihotomiju možete videti sa pitanjima o Donaldu Trampu, teorijama zavere, kontroverznim političkim debatama, pa čak i medijskim informacijama.

Neki eksperti kažu da Gugl samo oponaša poput papagaja vaša vlastita uverenja i vraća vam ih nazad.

To bi moglo da pogoršava vaše vlastite pristrasnosti i usput produbljuje društveni jaz.

„Prepušteni smo na milost Gugla kad je u pitanju koje informacije možemo da pronađemo“, kaže Varol Kejhan, docent informacionih sistema na Univerzitetu Južne Floride, u SAD.

• Život u raljama algoritma
• Gugl zvanično ima monopol - šta to znači za korisnike
• Šta je 'Plavi ekran smrti' i zašto su nam bitna ažuriranja

Mašina za pristrasnost

„Čitava misija Gugla je da daje ljudima informacije koje traže, ali ponekad informacije koje ljudi misle da žele nisu zapravo najkorisnije“, kaže Sara Preš, direktorka digitalnog marketinga u Dragon Metriksu, platformi koja pomaže kompanijama da usaglase vlastite stranice za bolje prepoznavanje na Guglu uz pomoć metoda poznatih kao „optimizacija pretraživača“, ili SEO.

To je posao koji zahteva minuciozno pročešljavanje rezultata na Guglu i, pre nekoliko godina, Preš je primetila problem.

„Počela sam da pratim kako se Gugl postavlja prema temama oko kojih se vode žučne rasprave“, kaže ona.

„U mnogo slučajeva, rezultati su bili šokantni.“

Neki od najupečatljivijih primera bavili su se time kako se Gugl ophodi prema određenim pitanjima u vezi sa zdravljem.

Gugl često izvlači informacije sa mreže i pokazuje ih na vrhu rezultata pretrage kako bi pružio brz odgovor, a koje on naziva „Izdvojeni odlomak (Featured Snippet).

Preš je tražila „vezu između kafe i hipertenzije“.

Izdvojeni odlomak citirao je članak sa Klinke Mejo, istakavši reči „Kofein može da izazove kratak, ali dramatičan skok vašeg krvnog pritiska“.

Ali kad je pretražila „nema veze između kafe i hipertenzije“, Izdvojeni odlomak se pozvao na kontradiktornu rečenicu iz istog članka sa Klinike Mejo: „Kofein nema dugoročne posledice po krvni pritisak i nije povezan sa većim rizikom od visokog krvnog pritiska“.

Ista stvar se desila kad je Preš tražila „da li ADHD izaziva šećer“ i „ADHD ne izaziva šećer“.

Gugl je predstavio Izdvojeni odlomak koji zastupa obe strane ovog pitanja, ponovo preuzete iz istog članka.

(U stvarnosti je malo dokaza da šećer utiče na simptome ADHD-a, i svakako ne izaziva taj poremećaj.)

Pogledajte video: Šta su algoritmi

Na isti problem je naišla sa političkim pitanjima.

Pitajte da li je „britanski poreski sistem fer“ i Gugl će navesti citat konzervativnog poslanika Najdžela Hadlstona, tvrdeći da zaista jeste.

Pitajte da li je „britanski poreski sistem nefer“ i Guglov Izdvojeni odlomak će objašnjavati kako britanski porezi idu na ruku bogatima i produbljuju neravnopravnost.

„Ono što Gugl radi je da izvuče delove iz teksta zasnovane na onome što ljudi traže i daje im ono što žele da pročitaju“, kaže Preš.

„On je jedna velika mašina za pristrasnost.“

Sa svoje strane, Gugl tvrdi da korisnicima pruža nepristrasne rezultate koji prosto spajaju ljude sa onom vrstom informacije koju traže.

„Kao pretraživač, Gugl želi da na površinu izvuče visokokvalitetne rezultate koji su relevantni za pretragu koju ste uneli“, kaže portparola Gugla.

„Mi omogućujemo otvoreni pristup širokom dijapazonu stanovišta sa čitave mreže i dajemo ljudima korisne alatke da procene informacije i izvore koje nađu.“

Kad prsne mehur filtera

Prema jednoj proceni, Gugl u svakoj sekundi ima posla sa nekih 6,3 miliona upita, što u zbiru iznosi devet milijardi pretraga dnevno.

Ogromna većina internet saobraćaja počinje sa pretragom na Guglu, a ljudi retko klikću na nešto izvan prvih pet linkova, a kamoli da pređu na drugu stranicu sa rezultatima pretrage.

Jedna studija koja je pratila pokrete oka korisnika pokazala je da ljudi često ne pogledaju ništa ni mimo glavnog rezultata.

Sistem koji slaže linkove u Gugl pretrazi ima ogromnu moć nad našim doživljavanjem sveta.

Prema Guglu, kompanija se nosi sa ovom odgovornošću dobro.

„Nezavisna akademska istraživanja odbacila su ideju da Gugl pretraga gura ljude u filter mehura“, kaže portparol.

Pitanje takozvanih „filter mehura“ i „soba odjeka“ na internetu je vruća tema, mada su neka istraživanja dovela u pitanje da li su efekti onlajn sobe odjeka preuveličani.

Ali Kejhan, koji proučava kako pretraživači utiču na pristrasnost potvrđivanja, prirodni impuls za traženje informacija koje potvrđuju naša uverenja, kaže da nema sumnje da naša uverenja ili čak naše vlastite političke identitete menjaju sistemi koji kontrolišu ono što vidimo onlajn.

„Na nas dramatično utiče način na koji dobijamo informacije“, kaže on.

Portparol Gugla kaže da je studija iz 2023. godine zaključila da izloženost ljudi partijskim vestima više zavisi od činjenice da je to ono na šta oni klikću nego što im Gugl u startu servira partijske vesti.

U jednom smislu, tako pristrasnost potvrđivanja uopšte i funkcioniše: ljudi traže dokaze koji podržavaju njihove stavove i ignorišu dokaze koji ih osporavaju.

Ali čak i u toj studiji, istraživači su rekli da njihovi nalazi ne impliciraju da su Guglovi algoritmi neproblematični.

„U nekim slučajevima, naši učesnici su bili izloženi izuzetno partijski obojenim i nepouzdanim vestima u Gugl pretragama“, kažu istraživači, „a raniji radovi sugerišu da čak i ograničeni broj takvih izlaganja može da ima značajne negativne posledice.“

Uprkos tome, vi možete da odlučite da se prepustite informacijama koje vas zadržavaju zatočene u vašem vlastitom mehuru, „ali postoji samo određeni buket poruka koji se stavlja pred vas da uopšte birate iz njega“, kaže Silvija Noblok-Vestervik, profesorka posredovane komunikacije na Tehničkom univerzitetu, u Berlinu, u Nemačkoj.

„Algoritmi igraju značajnu ulogu u ovom problemu.“

Gugl nije odgovorio na BBC-jevo pitanje da li postoji osoba ili tim koji imaju konkretan zadatak da se bave problemom pristrasnosti potvrđivanja.

„Mi ne razumemo dokumente - pravimo se“

„Prema mom mišljenju, ovaj čitav problem proističe iz tehničkih ograničenja pretraživača i činjenice da ljudi ne razumeju koja su to ograničenja“, kaže Mark Vilijams-Kuk, osnivač AlsoAsked, još jedne alatke za optimizaciju pretraživača koji analiziraju Guglove rezultate.

Skorašnji američki slučaj prema Zakonu protiv sprečavanja konkurencije podnet protiv Gugla razotkrio je dokumente ove internet kompanije u kojima zaposleni razgovaraju o nekim od tehnika koje pretraživač koristi da bi odgovarao na vaša pitanja.

„Mi ne razumemo dokumente - pravimo se“, napisao je inženjer u slajdšouu korišćenom tokom prezentacije iz 2016. godine u ovoj kompaniji.

„Milijardu puta dnevno, ljudi od nas traže da pronađemo dokumente relevantne za njihov upit… Mimo nekih najosnovnijih stvari, mi jedva da pogledamo te dokumente. Mi gledamo u ljude. Ako dokument dobije pozitivne reakcije, smatramo ga dobrim. Ako je reakcija negativna, verovatno je loš. Stravično pojednostavljeno, ali to je izvor Guglove magije.“

„Tako uslužujemo i sledeću osobu, nastavljamo indukciju i održavamo iluziju da razumemo.“

Drugim rečima, Gugl prati šta ljudi klikću kad ukucaju dotični izraz potrage.

Kad ljudi deluju zadovoljno određenom vrstom informacije, verovatnije je da će Gugl promovisati taj tip rezultata pretrage za slične upite i u budućnosti.

Portparol Gugla kaže da su ti dokumenti zastareli i da je sistem koji je korišćen za dešifrovanje upita i internet stranica postao mnogo sofisticiraniji.

„Ta prezentacija je iz 2016. godine, tako da morate da je uzmete sa zrncem soli, ali je suštinski koncept istinit. Gugl gradi modele da bi pokušao da predvidi šta ljudi vole, ali problem je da to proizvodi petlju povratne sprege“, kaže Vilijams-Kuk.

Ako pristrasnost potvrđivanja navodi ljudi da klikću na linkove koji pojačavaju njihova uverenja, ona može da nauči Gugl da ljudima pokazuje linkove koji dovode do same pristrasnosti potvrđivanja.

„To je kao da kažete da ćete prepustiti detetu da izabere ishranu za sebe na osnovu onoga što voli. Na kraju ćete završiti sa brzom hranom“, kaže on.

Vilijams-Kuk se takođe brine da ljudi možda ne razumeju da kad pitate nešto kao što je „da li je Tramp dobar kandidat“, Gugl to možda ne tumači kao pitanje.

Umesto toga, on često samo izvuče dokumente koji imaju veze sa ključnim rečima kao što su „Tramp“ ili „dobar kandidat“.

To ljudima daje pogrešna očekivanja u vezi sa tim šta će dobiti u pretrazi i može da navede ljude da pogrešno protumače šta rezultati te pretrage znače, kaže on.

Kad bi korisnici bolje razumeli nedostatke pretraživača, Vilijams-Kuk veruje da bi mogli da posmatraju sadržaj koji gledaju kritičnije.

„Gugl bi trebalo da uradi više na informisanju javnosti o tome kako pretraga zapravo funkcioniše. Ali ne verujem da će to uraditi, jer da biste to uradili morate da priznate neke nesavršenosti u vezi s onim što ne funkcioniše“, kaže on.

Gugl je otvoren u vezi sa činjenicom da pretraga nikad nije rešen problem, kaže portparol kompanije, i kompanija neumorno pokušava da reši duboke tehničke izazove na terenu onako kako se javljaju.

Gugl takođe ističe funkcije koje nudi da bi pomogao korisnicima da bolje procene informacije, kao što je alatka „O ovom rezultatu“ i objave koje omogućuju korisniku da zna kad se rezultati o temi u vezi sa tekućim vestima brzo menjaju.

• Lepite picu i jedite kamenje - sumanuti odgovori pretrage Guglove veštačke inteligencije
• Kako prepoznati da je fotografija obrađena i da je lažna
• „Ukaljaju vam mozak“: Kako algoritmi društvenih mreža dečacima prikazuju nasilje

Filozofski problemi

Portparol Gugla kaže da je lako pronaći rezultate koji odražavaju čitav dijapazon stanovišta iz izvora širom mreže, ako to želite da uradite.

On tvrdi da to važi čak i za neke od rezultata koje je izdvojila Perš.

Skrolujte niže kod pitanja kao što je „da li je Kamala Haris dobra demokratska kandidatkinja“ i pronaći ćete linkove koji je kritikuju.

Isto važi i za „da li je britanski poreski sistem fer“ - pronaći ćete rezultate pretrage koji kažu da nije.

Što se tiče upita o „vezi između kafe i hipertenzije“, portparol Gugla kaže da je pitanje komplikovano, ali da pretraživač izvlači autoritarne izvore koji se bave nijansnim razlikama.

Naravno, ovo se oslanja na to da ljudi odlaze dalje od prvih nekoliko rezultata, što se više spustite na stranici za rezultatima, manje je verovatno da će korisnici kliktati na te linkove.

U slučaju hipertenzije povezane sa kafom i britanskog poreskog sistema, Gugl takođe sumira rezultate i daje vlastiti odgovor na istaknutom mestu sa Izdvojenim odlomcima, što smanjuje šanse da će ljudi slediti linkove niže u rezultatima pretrage.

Dugo vremena su posmatrači opisivali kako se Gugl transformiše iz pretraživača u „mašinu za odgovore“, gde vam kompanija prosto daje informaciju, umesto da vas uputi na spoljne izvore.

Najjasniji primer je uvođenje AI Overvjuz, funkcije kod koje Gugl koristi veštačku inteligenciju da bi odgovarao na pretrage za vas, umesto da vam pokaže link u odgovoru

Kako to kompanija kaže, sada možete da „prepustite Guglu da pretražuje umesto vas“ .

„U prošlosti vam je Gugl prikazivao nešto što je napisao neko drugi, ali sada on piše odgovor sam“, kaže Vilijams-Kuk.

„To objedinjuje sve ove probleme, zato što Gugl sada ima samo jednu šansu da potrefi odgovor kako treba. To je težak potez.“

Ali čak i da Gugl poseduje tehničku sposobnost da adresuje sve ove probleme, nije nužno jasno kada ili kako treba da interveniše.

Možda želite informaciju koja potkrepljuje određeno verovanje, a ako je tako, Gugl pruža vrednu uslugu time što vam je pruža.

Mnogima se ne dopada ideja da jedna od najbogatijih i najmoćnijih kompanija na svetu donosi odluke o tome šta je istina, kaže Kejhan.

„Da li je Guglov posao da to reši? Da li možemo da verujemo Guglu da će to rešiti? I da li je to uopšte rešivo? Ovo su sve teška pitanja, a ne verujem da bilo ko ima odgovor“, kaže on.

„Jedna stvar koju mogu da vam kažem sa sigurnošću je da ne mislim da oni rade na tome dovoljno.“

* Tomas Džermejn je viši tehnološki novinar za BBC. On veći deo protekle decenije piše o veštačkoj inteligenciji, privatnosti i najdaljim dometima internet kulture. Možete ga naći na Iksu i TikToku @thomasgermain.

• Gugl tvrdi: Novi model veštačke inteligencije Džemini će nadmašiti čoveka
• Trideset pojmova ključnih za razumevanje veštačke inteligencije
• Hoće li veštačka inteligencija postati ‘bog’

BBC na srpskom je od sada i na Jutjubu, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk