Avtorji: Judith Duportail, Nicolas Kayser-Bril, Kira Schacht in Édouard Richard

Prevod iz angleščine: Anže Voh Boštic

Sara je podjetnica na področju prehrane iz večjega evropskega mesta (njeno ime je zaradi varovanja zasebnosti spremenjeno). Podjetje, ki ga je ustanovila, ženskam pomaga pri sprejemanju lastnega načina prehranjevanja in zagovarja »intuitivno prehranjevanje«. Tako kot precej ostalih lastnikov manjših podjetij je tudi Sara pri pridobivanju strank odvisna od družbenih omrežij. Uspešnost njenega podjetja je močno odvisna od Instagrama, ki je za Facebookom drugo največje družbeno omrežje v Evropi.

Sara je imela občutek, da njene fotografije in videi, objavljeni na Instagramu, niso dosegli mnogih izmed njenih 53.000 sledilcev – razen, če je na fotografiji pozirala v kopalkah. Na štirih izmed njenih sedmih objav, ki so dobile največ všečkov, Sara pozira v bikini kopalkah. Ely Killeuse, avtorica knjig o pozitivnem odnosu do lastnega telesa s 132.000 sledilci na Instagramu, ki se je bila pripravljena javno izpostaviti, je povedala, da na »skoraj vseh« najbolj všečkanih fotografijah pozira v kopalkah ali spodnjem perilu.

Možno je, da so njunim sledilcem izjemno všeč fotografije obeh avtoric v kopalkah. A od začetka leta 2016 Instagram svojim uporabnikom servira objave tistih, ki jim sledijo, na način, po katerem dobijo nekatere objave večjo izpostavljenost kot druge. Najbolj izpostavljene so tiste objave, za katere Instagram meni, da bodo posameznemu uporabniku najbolj všeč.

Katere objave so izpostavljene in katere niso, ni odvisno le od okusa posameznega uporabnika omrežja. Podjetniki, ki uporabljajo Instagram za pridobivanje strank, se morajo prilagoditi normam, ki jih Instagram postavlja za čim širše deljenje njihovih objav. Pa čeprav te norme niso v skladu s poslovnimi vrednotami podjetnikov oziroma z vrednotami njihovih strank.

Raziskovalci so analizirali 2300 fotografij sodelujočih v raziskavi

Da bi razumeli, kako Instagram razširja objave svojih uporabnikov, je skupina podatkovnih novinarjev pod okriljem mreže EDJNet in organizacije AlgorithmWatch 26 prostovoljcev prosila, da si v brskalniku namestijo poseben program in prek Instagrama sledijo določenim profesionalnim ustvarjalcem vsebin. Izbrali so 37 takšnih ustvarjalcev iz 12 držav (14 izmed njih je bilo moških), ki uporabljajo Instagram za oglaševanje posameznih znamk ali za pridobivanje novih strank. Ukvarjali so se predvsem s prehrano, potovanji, fitnesom, modo ali lepoto.

Naloženi program je pri prostovoljcih v rednih časovnih intervalih odprl njihov Instagram profil in beležil, katere objave se pojavijo na časovnici (newsfeed). S tem so novinarji dobili podatke, katere fotografije Instagram najbolj pogosto prikazuje posameznim prostovoljcem.

Če Instagram ne bi vplival na izbiro fotografij na časovnici, bi morala njihova raznovrstnost odražati raznovrstnost objav profesionalnih ustvarjalcev vsebin. Če pa bi Instagramov algoritem prikazovanje slik na časovnici prilagodil glede na navade posameznega prostovoljca, bi se morale fotografije na časovnici posameznih prostovoljcev med sabo precej razlikovati. A preiskava je pokazala, da ni bilo tako.

Med februarjem in majem so novinarji analizirali 1737 objav ustvarjalcev vsebin, katerim so sledili prostovoljci. Te objave so vsebovale skupno 2400 fotografij. Računalniški program za prepoznavo fotografij je ugotovil, da je 362 oziroma 21 odstotkov fotografij vsebovalo posnetek žensk v kopalkah ali spodnjem perilu oziroma posnetek moškega z razgaljenim prsnim košem. Te fotografije pa so zavzemale 30 odstotkov fotografij omenjenih ustvarjalcev vsebin na časovnici prostovoljcev, ki so sodelovali v raziskavi. (Nekatere objave ustvarjalcev vsebin so se prostovoljcem prikazale večkrat).

Verjetnost, da se bo prostovoljcem na časovnici prikazala objava, v kateri je bila fotografirana ženska v spodnjem perilu ali kopalkah, je bila za 54 odstotkov večja kot pri ostalih objavah ustvarjalcev vsebin. Verjetnost, da se bo prostovoljcem prikazala objava moškega z razgaljenim prsnim košem, pa je bila večja za 28 odstotkov. Verjetnost, da se bo na časovnici prikazala objava fotografij, na katerih je hrana ali pokrajina, je bila za 60 odstotkov nižja kot pri ostalih objavah.

Bolj podrobni rezultati preiskave so dostopni na ločeni spletni strani (stran je v angleškem jeziku). Rezultati analize so statistično značilni.

Facebook: vaše ugotovitve so napačne

Ni nujno, da favoriziranje fotografij s pomanjkljivo oblečenimi posamezniki velja za vse uporabnike Instagrama. Čeprav je bilo moč ta trend opaziti pri veliki večini prostovoljcev, ki so sodelovali v raziskavi, so se manjšini na časovnici prikazovale objave, ki bolj odražajo vzorec objav ustvarjalcev vsebin. Verjetno je, da Instagramov algoritem na splošno preferira goloto, pri nekaterih uporabnikih omrežja pa ta učinek omilijo personalizacija prikazov objav ali ostali dejavniki.

Teže rezultatov preiskave ne moremo enačiti s podrobnim pregledom Instagramovega algoritma, ki določa objave na časovnici. Rezultati pokažejo le, kaj se je dogajalo s časovnico prostovoljcev, vključenih v raziskavo. Za dokončne ugotovitve pa bi potrebovali dostop do Facebookovih notranjih informacij in produkcijskih strežnikov.

Pri Facebooku niso odgovorili na podrobna vprašanja novinarjev v zvezi z rezultati preiskave. Poslali pa so sledečo izjavo: »Raziskava je z več vidikov pomanjkljiva in kaže na nerazumevanje delovanja Instagrama. Objave na časovnici rangiramo na podlagi vsebin in profilov, za katere ste izrazili zanimanje, in ne na podlagi arbitrarnih faktorjev, kot je na primer prisotnost kopalk v objavi.«

Kljub temu verjamemo, da ugotovitve preiskave dobro odražajo, kako Instagram na splošno deluje.

Spodbujanje uporabe Instagrama

V patentu, objavljenem leta 2015, so inženirji pri Facebooku – podjetju, ki upravlja z Instagramom – pojasnili, kako algoritem izbere objave, ki se bodo pojavile na časovnici uporabnikov. Ko uporabnik objavi fotografijo, algoritem slednjo avtomatsko analizira, so pojasnili v patentu. Algoritem fotografiji nato dodeli tako imenovano oceno zanimivosti (»engagement metric«), ki je osnova za odločitev, kako pogosto se bo ta fotografija prikazala na časovnicah drugih uporabnikov Instagrama.

Ocena zanimivosti delno temelji na preteklem obnašanju posameznega uporabnika Instagrama. Če je tak uporabnik v preteklosti všečkal določeno znamko, fotografija pa kaže produkt iste znamke, se ocena zanimivosti poviša. Oceno pa lahko algoritem izračuna tudi na podlagi obnašanja vseh uporabnikov Instagrama. Patent jasno določa, da je lahko spol, etnična pripadnost in »stopnja golote« oseb na fotografiji temelj za izračun ocene zanimivosti objave.

Čeprav pri Instagramu trdijo, da so objave na časovnici odvisne od preferenc posameznega uporabnika, patent družbe pojasnjuje, da je lahko časovnica dejansko organizirana na podlagi preferenc vseh uporabnikov družbenega omrežja. Prikaz objav na časovnici posameznega uporabnika tako ni odvisen le od njegovih osebnih preferenc, temveč tudi od Instagramove ocene preferenc ostalih uporabnikov Instagrama.

Lažne korelacije

Facebook fotografije analizira s pomočjo programa, znanega pod imenom računalniški vid (computer vision). Nato algoritem odloči, katere fotografije se bodo pojavile na časovnicah uporabnikov. Ta program odločitve sprejema na podlagi avtomatiziranega sklepanja, ki temelji na vzorčnem naboru podatkov. Ta nabor podatkov predstavljajo ročno označene fotografije. Omejitve tega nabora podatkov bi lahko imele vpliv na odločitev algoritma, katere fotografije bo prikazal na časovnicah uporabnikov.

Znanstveniki s področja računalništva se že leta zavedajo, da takšni sistemi replicirajo in ojačajo pristranskosti vzorčnega nabora podatkov. Ta pristranskost pa se nato odrazi v napačnih ali lažnih korelacijah. Na primer: program, ki je imel nalogo, da na fotografijah očnjakov loči volkove in pse, teh ne bo prepoznal na način, kot bi jih prepoznal človek. Namesto tega bo kot fotografijo volka označil vsakega očnjaka, ki je fotografiran na snežni podlagi.

Vzorčne nabore podatkov pogosto sestavijo slabo plačani delavci, od katerih se zahteva hitro delo in rezultati, ki ustrezajo pričakovanjem njihovih zaposlovalcev. To vodi v nekritično uporabo kategorij, ki so jim na voljo, pri tem pa se spregleda nianse, ki jih lahko vsebuje posamezna fotografija, je na temo pristranskosti avtomatskih sistemov zapisala Agathe Balayn, doktorska kandidatka Tehnološke univerze v Delftu.

Posledice tega so lahko občutne. Decembra je nek brazilski umetnik poskušal promovirati eno izmed svojih objav na Instagramu. Instagram je promocijo zavrnil z razlago, da objava vsebuje nasilno vsebino. Objava je prikazovala nekega fanta ob boku voznika formule ena Davida Hamiltona. Oba sta bila temnopolta. Aprila je učiteljici joge Instagram zavrnil oglaševanje fotografije z obrazložitvijo, da ta prikazuje obscenost, čeprav je učiteljica na fotografiji le izvajala pozo žerjava. Učiteljica je Američanka z azijskimi koreninami.

(V našem poskusnem okolju smo uporabili program za računalniški vid Google Vision. Rezultati preizkusa so nas navdali z nelagodnostjo. Na primer, program je z oznako »lepota« označil le tiste fotografije, na kateri je bila oseba ženskega spola. Zelo verjetno je, da Google Vision deluje enako pristransko kot Facebookov računalniški vid; nenazadnje so ga delno napisali isti ljudje.)

Tanka linija med dovoljeno in prepovedano goloto

Pogoji uporabe Instagrama določajo, da golota na objavah ni dovoljena. Kljub temu algoritem preferira objave, na katerih osebe pokažejo golo kožo. O subtilni razliki med tem, kaj je prepovedano in kaj se spodbuja, odločajo skriti in verjetno pristranski algoritmi. Ustvarjalci vsebin morajo pri vsaki fotografiji hoditi po tanki liniji: pokazati morajo dovolj gole kože, da njihove objave dosežejo sledilce. Ne smejo pa pokazati preveč, saj bi jih lahko v tem primeru Instagram izključil iz družbenega omrežja.

Študija ameriškega časopisa Salty, narejena leta 2019, je na vzorcu 128 uporabnikov Instagrama pokazala, da je neupravičen umik vsebin nekaj povsem normalnega. Brez vpogleda v delovanje Instagramovih algoritmov pa je nemogoče ugotoviti, kako pogost je tak umik vsebin in ali so ljudje nebelske rase in ženske večkrat deležni takšnega umika svojih vsebin.

Pregled 238 patentov, ki jih je prijavil Facebook in ki vsebujejo frazo »računalniški vid«, pa je pokazal, da je izmed 340 posameznikov, ki so na patentih zapisani kot izumitelji, le 27 žensk. Okolja, v katerih dominirajo moški, po navadi dajo rezultate na škodo žensk. Varnostne pasove v avtomobilih, na primer, testirajo le z moškimi lutkami. Posledica tega je več poškodb žensk ob prometnih nesrečah. Naša preiskava kaže, da bi lahko Facebookovi algoritmi sledili tem vzorcem.

Strah pred tiho blokado

Sara in ostali poslovneži, ki se zanašajo na oglaševanje na Instagramu, se bojijo javno govoriti o problematičnosti delovanja tega družbenega omrežja. Povračilnih ukrepov Facebooka se boji večina profesionalnih ustvarjalcev vsebin na Instagramu. Ti povračilni ukrepi obsegajo tako izbris računa uporabnika kot tudi tiho blokado (shadow ban). Tiha blokada pomeni, da Instagram objave ustvarjalca vsebin ne prikaže nikomur ali pa le zelo ozkemu krogu sledilcev, ne da bi ustvarjalec vsebin vedel za takšno blokado. Takšni ukrepi pomenijo smrtni udarec za njihov posel.

Vaditeljica joge z okoli 70.000 sledilci, ki je zatrdila, da je Instagram zelo pomemben za njen posel, je povedala, da ne želi javne objave svojega imena. Kot razlog je navedla strah pred tiho blokado. Ely Killeuse, ki se je bila pripravljena javno izpostaviti, je povedala, da je to storila zato, ker ima dodatne vire pridobivanja dohodka. Prevelika odvisnost od Instagrama bi zanjo pomenila izgubo svobode, pa tudi razuma, je dodala.

Splošna uredba o varstvu podatkov (GDPR), ki je pričela veljati leta 2018, in evropska uredba o spodbujanju pravičnosti in preglednosti za poslovne uporabnike spletnih posredniških storitev (Uredba P2B), ki stopi v veljavo 12. julija letos, vsebujeta več zagotovil za uporabnike in profesionalce. GDPR določa, da imajo uporabniki pravico do razlage, ko pride do avtomatiziranih odločitev. Uredba P2B pa bo spletne posrednike obvezala, da razkrijejo glavne parametre delovanja algoritmov, ki rangirajo prikaz vsebin uporabnikov.

Uredba P2B platform ne bo prisilila k razkritju delovanja njihovih algoritmov, je pojasnila Petra de Sutter, predsednica odbora Evropskega parlamenta za notranji trg in varstvo potrošnikov. Preprečiti vpliv Instagramovega algoritma na izbor objav na časovnicah uporabnikov pravno ne bi bilo izvedljivo, je zapisala v svojih odgovorih novinarjem. Namesto tega bo Uredba P2B prinesla večjo transparentnost delovanja algoritmov, ki bo podlaga za poznejše ukrepe in politike, je dodala. Glede strahov pred tihimi blokadami pa Sutter meni, da so ti pretirani. »Postavljanje vprašanj ni še nikoli privedlo do povračilnih ukrepov,« je zapisala.

Učinek Uredbe P2B bi lahko bil drugačen, a dve leti po uveljavitvi GDPR več strokovnjakov opozarja na pomanjkljivo spoštovanje slednje. Ena izmed težav je irski pooblaščenec za varstvo osebnih podatkov, ki je odgovoren za nadzor nad Facebookovo evropsko podružnico v Dublinu. Irski pooblaščenec se sooča s pomanjkanjem kadra, obenem pa, »kot kaže, ne razume uredbe GDPR«, je za novinarje povedal eden izmed strokovnjakov s področja delovanja platform. Še ena težava je pomanjkljiv nadzor. Nobena ustanova, ne na ravni Evropske unije ne v državah članicah, nima potrebne moči oziroma orodij za pregled delovanja ogromnih platform, vključno z Instagramom. Zaradi tega ne morejo zagotoviti spoštovanja določb GDPR.

Možna diskriminacija ustvarjalcev vsebin

Rezultati preiskave kažejo, da so tako moški kot ženske, ki ustvarjajo vsebine, prisiljeni pokazati golo kožo, če želijo doseči svoje občinstvo. A učinek bi lahko bil večji za ženske ustvarjalke vsebin, kar bi pomenilo diskriminacijo za podjetnice. Listina Evropske unije o temeljnih pravicah prepoveduje diskriminacijo glede na spol. A možnosti za sprožitev pravnih postopkov za uporabnike Instagrama ne obstajajo. Zakonodaja namreč ne upošteva specifičnosti podjetništva na družbenih omrežjih.

Miriam Kullmann, docentka na dunajski ekonomski in poslovni univerzi, je v svojih odgovorih novinarjem zapisala, da se evropska zakonodaja ukvarja skoraj izključno z diskriminacijo v delovnih razmerjih. Samozaposlene osebe, na primer podjetniki, ki ustvarjajo vsebino za Instagram, pa v tej zakonodaji niso zaščiteni.

Nekatere skupine posameznikov sicer se borijo za pravice neodvisnih ustvarjalcev vsebin na družbenih omrežjih. IG Metall, največji sindikat v Evropi, podpira skupno prizadevanje ustvarjalcev vsebin za YouTube, ki od Google (lastnika YouTuba) zahtevajo več pravičnosti in transparentnosti v primerih, ko jim YouTube ne odobri pozicioniranja oglasov v objavljenih videih. A v IG Metall zaenkrat ne načrtujejo razširitve programa podpore na ustvarjalce vsebin na ostalih platformah.

Instagram uporablja vsak tretji Evropejec

Število evropskih podjetnikov, ki ustvarjajo vsebine na Instagramu, se verjetno meri v tisočih. Učinek njihovih vsebin je ogromen, posamezni podjetniki imajo lahko na stotisoče sledilcev. Pri Facebooku trdijo, da je aprila letos Instagram uporabljalo skoraj 140 milijonov prebivalcev Evropske unije – torej vsak tretji.

Instagram uporabljajo praktično vsi prebivalci EU, ki so stari med 18 in 24 let. Izogibanje fizičnim stikom med zadnjo pandemijo bolezni covid-19 je še zvišalo količino časa, ki ga uporabniki Instagrama porabijo na tej platformi. Facebook je svojim investitorjem povedal, da so se v enem tednu karantene v Italiji ogledi na Instagramu podvojili.

Podreditev zunanjim avtoritetam

Pred skoraj stotimi leti je slavna britanska avtorica Virginia Woolf izjavila, da ženske zase potrebujejo lastno sobo, da lahko izkoristijo svojo kreativnost. Podreditev mnenjem zunanjih avtoritet je enako povabilu gnilobe v srce lastnega dela, je zapisala.

Podreditev avtoritetam, ki so ustvarile algoritem za urejanje prikazov na časovnici, v primeru Instagrama ni izbira. Nepripravljenost ustvarjalcev objav, da na njih pokažejo svoje gole dele telesa, močno zmanjša širjenje njihovih objav med sledilci. Vsi podjetniki, tako moški kot ženske, morajo slediti pravilom, ki so jih postavili Facebookovi inženirji, če želijo na platformi zaslužiti primeren prihodek za življenje.

Članek objavljamo v sodelovanju z AlgorithmWatch in EDJNet.