društvo
vijest

Paranoidni algoritmi

Foto: AFP / Fouad Maghrane

Prva stvar koju je vjerojatno većina ljudi zabrinutih za političku budućnost svijeta pomislila nakon što je ugledala prizore pariške katedrale Notre Dame u plamenu bila je: samo da nije teroristički napad. Ti su strahovi vrlo brzo odagnani, ali sami scenariji koji su vam u tom trenutku mogli proći kroz glavu dobar su indikator trenutnog globalnog političkog stanja. A da ipak ne ostane sve na strahovima u glavama, pobrinula se platforma YouTube.

Naime, prošle je godine u sklopu navodne borbe protiv lažnih vijesti, YouTube smislio tzv. informacijske panele ili panele znanja. Uz neki live prijenos koji gledate trebao bi se pojaviti banner sa sadržajem s Enciklopedije Britannice ili Wikipedije. Taj bi vam sadržaj trebao pružiti osnovne informacije o onome što vidite, a u svrhu eliminacije lažnih informacija ili priča koje bi pratile događaje koji se prenose. Ti su informacijski paneli, naravno, automatizirani i njima upravlja algoritam.

Međutim, na slučaju požara u Notre Dameu, algoritam je kolosalno zakazao. Korisnici YouTubea u Sjedinjenim Američkim Država i Južnoj Koreji su uz live prijenose požara mogli pročitati članke s Enciklopedije Britannice o terorističkom napadu u New Yorku 11. rujna 2001. godine. Dakle, ne samo da nije spriječeno širenje lažnih vijesti, već je platforma izravno pridonijela širenju paranoje. Pogreška je relativno brzo uočena, banner je otklonjen i YouTube se ispričao, ali daleko je to od izoliranog incidenta.

Već je odavno poznato da su algoritmi koje koristi YouTube za predlaganje videa za gledanje “naklonjeni” ekstremno desnim sadržajima i teorijama zavjere. Ne radi se tu o političkim sklonostima tvoraca algoritama ili vlasnika platforme, u ovom slučaju Googlea, već o nemilosrdnoj poslovnoj računici. Predlaganje šokantnih i senzacionalističkih videa jamči više pregleda i intenzivniju interakciju što donosi više prihoda od reklama. Na Biltenu smo već pisali i o toj poslovnoj pozadini, kao i o načinima na koji je ekstremna desnica i fašisti koriste.

Pokušajmo, dakle, ocrtati i sumirati cijeli krug. U kapitalizmu, naravno, ne postoji planiranje: ne prepoznavaju se i ne izračunavaju ljudske potrebe na kojim se onda zasniva proizvodnja već je plasman proizvoda na tržište neizvjesna stvar. Takozvana tržišna utakmica. Kako bi pojedine kompanije plasman učinile izvjesnijim i prodali svoje proizvode, posežu za reklamama. Pri tome im je bitno da reklamu vidi što veći broj ljudi. A ljudska je pažnja posljednjih godina u velikoj mjeri usmjerena na sadržaje na platformama poput YouTubea. Kako bi što više zaradio od onih koji žele platiti za svoju reklamu, YouTube mora korisnike što dulje zadržati. I to čini tako da nameće ekstremne i lažne sadržaje koji ljude uznemiruju, tjeraju na interakciju i isisavaju njihovu pažnju.

I to se sve događa dok nam gotovo svi zemaljski ekonomski eksperti govore kako je planiranje u ekonomiji nemoguće i kako vodi do katastrofalnih rezultata. A u live prijenosu gledamo kako nas logika reklama – zapravo kapitalistička verzija planiranja – izravno “isporučuje” vladavini ekstremne desnice. Sovjetski pokušaji planiranja ekonomije na kraju nisu uspjeli, ali duboko vjerujemo da planiranje zasnovano na ljudskim potrebama zaslužuje barem još jednu priliku. Pogotovo ako je alternativa fašistička propaganda. Iskoristimo te algoritme za nešto drugo.