Kā meklētājprogrammas izplata nepareizu informāciju

meitene, kas meklē caur krāsu spirāli

Attēls, izmantojot drosmīgo Crispin / Moment, izmantojot Getty Images



Meklētājprogrammas ir viens no sabiedrības galvenajiem vārtiem informācijai un cilvēkiem, taču tās ir arī maldinošas informācijas kanāli.


Šis raksts par dezinformāciju šeit tiek atkārtoti publicēts ar lietotāja atļauju Saruna . Šis saturs tiek kopīgots šeit, jo šī tēma var interesēt Snopes lasītājus, tomēr tas neatspoguļo Snopes faktu pārbaudītāju vai redaktoru darbu.






Meklētājprogrammas ir viens no sabiedrības galvenajiem vārtiem informācijai un cilvēkiem, taču tās ir arī maldinošas informācijas kanāli. Līdzīgs problemātiskie sociālo mediju algoritmi , meklētājprogrammas iemācās apkalpot to, uz ko jūs un citi esat noklikšķinājuši iepriekš. Tā kā cilvēkus piesaista sensacionālā, šī deja starp algoritmiem un cilvēka dabu var veicināt dezinformācijas izplatīšanos.

Meklētājprogrammu uzņēmumi, tāpat kā lielākā daļa tiešsaistes pakalpojumu, pelna naudu ne tikai pārdodot reklāmas, bet arī izsekojot lietotājus un pārdodot viņu datus izmantojot reāllaika solīšanu uz tā. Cilvēkus bieži noved pie dezinformācijas vēlme pēc sensacionāliem un izklaidējošiem jaunumiem, kā arī informācija, kas ir vai nu pretrunīga, vai apstiprina viņu uzskatus. Kādā pētījumā atklājās, ka populārāki YouTube videoklipi par diabētu ir retāk ir medicīniski pamatota informācija nekā mazāk populāri videoklipi par šo tēmu, piemēram.



Uz reklāmām balstītas meklētājprogrammas, tāpat kā sociālo mediju platformas, ir paredzētas, lai atalgotu klikšķināšanu uz vilinošām saitēm, jo ​​tas palīdz meklēšanas uzņēmumiem palielināt savu biznesa metriku. Kā pētnieks, kurš pēta meklēšanas un ieteikumu sistēmas , Es un mani kolēģi parādījām, ka šī bīstamā korporatīvās peļņas motīva un individuālās uzņēmības kombinācija padara problēmu grūti novēršamu .

Kā kļūdās meklēšanas rezultātos

Noklikšķinot uz meklēšanas rezultāta, meklēšanas algoritms uzzina, ka saite, uz kuras noklikšķinājāt, ir atbilstoša jūsu meklēšanas vaicājumam. To sauc atsauksmes par atbilstību . Šīs atsauksmes palīdz meklētājprogrammai piešķirt lielāku nozīmi šai saitei šim vaicājumam nākotnē. Ja pietiekami daudz cilvēku noklikšķina uz šīs saites pietiekami daudz reižu, tādējādi sniedzot spēcīgu atgriezenisko saiti, šī vietne sāk atrasties augstāk šīs un saistīto vaicājumu meklēšanas rezultātos.

Cilvēki ir visticamāk, noklikšķinās uz augstāk redzamajām saitēm meklēšanas rezultātu sarakstā. Tas rada pozitīvu atgriezenisko saiti - jo augstāk vietne parādās, jo vairāk klikšķu, un tas savukārt liek šai vietnei virzīties augstāk vai saglabāt to augstāk. Meklētājprogrammu optimizācijas metodēs šīs zināšanas tiek izmantotas, lai palielinātu vietņu redzamību.

Šai dezinformācijas problēmai ir divi aspekti: kā tiek vērtēts meklēšanas algoritms un kā cilvēki reaģē uz virsrakstiem, nosaukumiem un fragmentiem. Meklētājprogrammas, tāpat kā vairums tiešsaistes pakalpojumu, tiek vērtētas, izmantojot virkni metriku, no kurām viena ir lietotāju piesaiste. Meklētājprogrammu uzņēmumu interesēs ir sniegt jums lietas, kuras vēlaties izlasīt, skatīties vai vienkārši noklikšķināt. Tāpēc, kad meklētājprogramma vai jebkura ieteikumu sistēma izveido prezentējamo vienumu sarakstu, tā aprēķina iespēju, ka noklikšķināsiet uz šiem vienumiem.

Tradicionāli tas bija domāts, lai parādītu informāciju, kas būtu visatbilstošākā. Tomēr atbilstības jēdziens ir kļuvis neskaidrs, jo cilvēki meklēšanai ir izmantojuši meklēšanu izklaidējoši meklēšanas rezultāti, kā arī patiesi atbilstoša informācija .

Iedomājieties, ka meklējat klavieru skaņotāju. Ja kāds jums parādītu video ar kaķi, kurš spēlē klavieres, vai jūs uz tā noklikšķinātu? Daudzi to darītu, pat ja tam nav nekāda sakara ar klavieru skaņošanu. Meklēšanas dienests jūtas apstiprināts ar pozitīvām atbilstības atsauksmēm un uzzina, ka ir labi rādīt kaķim, kurš spēlē klavieres, kad cilvēki meklē klavieru skaņotājus.

Patiesībā tas ir pat labāk nekā daudzos gadījumos parādīt attiecīgos rezultātus. Cilvēkiem patīk skatīties smieklīgus kaķu video, un meklēšanas sistēma saņem vairāk klikšķu un lietotāju piesaisti.

Tas var šķist nekaitīgs. Tātad, ja cilvēki laiku pa laikam izklaidējas un noklikšķina uz rezultātiem, kas nav saistīti ar meklēšanas vaicājumu? Problēma ir tā, ka cilvēkus piesaista aizraujoši attēli un sensacionāli virsraksti. Viņi mēdz klikšķināt uz sazvērestības teorijām un sensacionālām ziņām , un ne tikai kaķi spēlē klavieres, un dariet to vairāk nekā klikšķinot uz īstām ziņām vai būtiska informācija.

Slaveni, bet viltoti zirnekļi

2018. gadā meklējumi “jauns nāvējošs zirneklis” palielināts Google tīklā pēc Facebook ieraksta, kurā tika apgalvots, ka jauns nāvējošs zirneklis nogalināja vairākus cilvēkus vairākos štatos. Mani kolēģi un es analizējām Google meklēšanas vaicājuma “new deadly spider” 100 populārākos rezultātus šī populārā vaicājuma pirmajā nedēļā.

Meklēšanas rezultātu izplatīšana

Pirmās divas Google meklēšanas rezultātu lapas “jauns nāvējošs zirneklis” 2018. gada augustā (aizēnots apgabals) bija saistītas ar sākotnējo viltus ziņu ierakstu par šo tēmu, nevis ar atmaskošanu vai citādi faktisku informāciju.
Širags Šahs, CC BY-ND

Izrādījās šis stāstsbija viltus, bet cilvēki, kas to meklēja, lielā mērā tika pakļauti dezinformācijai, kas saistīta ar sākotnējo viltus ierakstu. Kad cilvēki turpināja noklikšķināt un dalīties ar šo dezinformāciju, Google turpināja apkalpot šīs lapas meklēšanas rezultātu augšdaļā.

Šis aizraujošo un nepārbaudīto stāstu paraugs parādās, un cilvēki, kas uz tiem noklikšķina, turpinās, cilvēkiem acīmredzot vai nu neuztraucoties par patiesību, vai uzskatot, ka, ja uzticams serviss, piemēram, Google meklēšana, viņiem parāda šos stāstus, stāstiem jābūt patiesiem. Pavisam nesen a noraidīts ziņojums apgalvojot, ka Ķīna ir ļāvusi koronavīrusa noplūdei no laboratorijas, šī apburtais cikls izraisa meklēšanu meklētājprogrammās.

Pamaniet dezinformāciju

Lai pārbaudītu, cik labi cilvēki atšķir precīzu informāciju un dezinformāciju, mēs izstrādājām vienkāršu spēli ar nosaukumu “ Google vai nē . ” Šī tiešsaistes spēle parāda divus rezultātu kopumus vienam un tam pašam vaicājumam. Mērķis ir vienkāršs - izvēlieties uzticamu, uzticamu vai visatbilstošāko komplektu.

Ekrānuzņēmums, kurā blakus redzami divi Google meklēšanas rezultātu komplekti

Pārbaudēs aptuveni pusi laika cilvēki nevar atšķirt Google meklēšanas rezultātus, kuros ir dezinformācija, un tiem, kuru rezultāti ir tikai uzticami.
Širags Šahs, CC BY-ND

Vienam no šiem diviem komplektiem ir viens vai divi rezultāti, kas tiek pārbaudīti un apzīmēti kā dezinformācija vai noraidīts stāsts. Mēs padarījām spēli publiski pieejamu un reklamējāmies dažādos sociālo mediju kanālos. Kopumā mēs apkopojām 2100 atbildes no vairāk nekā 30 valstīm.

Analizējot rezultātus, mēs to atklājām apmēram pusi laika cilvēki kļūdaini izvēlējās kā uzticamu komplektu ar vienu vai diviem dezinformācijas rezultātiem . Mūsu eksperimenti ar simtiem citu lietotāju daudzu atkārtojumu rezultātā ir radījuši līdzīgus atklājumus. Citiem vārdiem sakot, apmēram pusi no laika cilvēki izvēlas rezultātus, kas satur sazvērestības teorijas un viltus ziņas. Kad vairāk cilvēku izvēlas šos neprecīzos un maldinošos rezultātus, meklētājprogrammas uzzina, ka tieši to cilvēki vēlas.

Ja neņem vērā lielo tehnoloģiju regulēšanas un pašregulācijas jautājumus, cilvēkiem ir svarīgi saprast, kā šīs sistēmas darbojas un kā viņi pelna naudu. Pretējā gadījumā tirgus ekonomika un cilvēku dabiskā tieksme piesaistīt uzmanību piesaistošajām saitēm saglabās apburto loku.

Saruna


Širags Šahs , Informācijas zinātnes asociētais profesors, Vašingtonas universitāte

Šis raksts ir pārpublicēts no Saruna saskaņā ar Creative Commons licenci. Lasīt oriģināls raksts .