Jak algorytmy nas radykalizują? [EKSPERYMENT]

Gdy dwa lata temu naukowcy z Dublin City University opublikowali badanie, w którym dowiedli, że algorytmy w mediach społecznościowych promują wyższość mężczyzn nad kobietami oraz mizoginistyczne treści, w mediach podniosła się dyskusja o potrzebnych regulacjach. Temat zniknął jednak równie szybko, co się pojawił.

W związku z rosnącym odsetkiem przemocy ze strony chłopców wobec swoich równolatek reporterka „Sydney Morning Herald”, Amber Schultz, znowu pochyliła się nad sprawą. Na wyczyszczonym do ustawień fabrycznych telefonie założyła konta w mediach społecznościowych na nazwisko fikcyjnego nastolatka, Jadena Michaela. Przez pierwsze pół godziny była zupełnie pasywna, a po tym czasie zaczęła wchodzić w interakcję z treściami promującymi manosferę – czyli przestrzeń internetową skupiającą ruchy m.in. inceli, samców alfa i skrajnych krytyków feminizmu.

Nie każda aplikacja proponowała to samo

Na TikToku pierwsze treści krytykujące feminizm i promujące tradycyjne role płciowe pojawiły się już po 13 minutach. Po 49 minutach zaczęły wyświetlać się materiały o podłożu religijnym, sugerujące, że kobiety powinny być szlachetne i służyć swoim mężom. Jednocześnie TikTok ani razu nie przedstawił obrazu zdrowej, partnerskiej relacji.

Instagram, zamiast nienawiści do kobiet, przekonywał Jadena Michaela do dołączenia do kościoła. Promowane obrazy relacji z kobietami były pozytywne – pary się śmiały, chłopcy kupowali partnerkom kwiaty i wszyscy wspólnie chwalili Boga. Autorka eksperymentu podkreśliła jednak, że Meta (do której należy Instagram) tydzień wcześniej podpisała wartą 24 miliardy dolarów ugodę po procesie, w którym została oskarżona o napędzanie kryzysu zdrowia psychicznego wśród młodzieży i celowe uzależnianie jej od technologii.

YouTube, który w badaniu z 2024 roku wypadł najgorzej, tym razem znalazł się na samej górze tabeli. Wyjątkiem był jeden kontrowersyjny filmik (pytający, „co zawiera więcej DNA: gwiazda OnlyFans czy Omnitrix z bajki Ben 10”), który pojawił się po 26 minutach scrollowania – reszta treści była neutralna.

KDA Press powtarza eksperyment w Polsce

Maria Rożek i Lena Grycel z Kanału Dziennikarstwa Aktywistycznego (KDA Press) powtórzyły eksperyment w Polsce. W rolce na Instagramie pokazały wyniki 20-minutowego scrollowania, podczas którego wielokrotnie pojawiały się wulgarne filmy przedmiotowo traktujące kobiety i promujące toksyczną męskość.

Jak działa algorytm?

Głównym celem algorytmów rekomendacyjnych w mediach społecznościowych nie jest dostarczanie wartościowych treści, lecz maksymalizacja czasu spędzonego w aplikacji oraz wskaźnika zaangażowania.

Treści wywołujące skrajne emocje – takie jak strach, złość, poczucie zagrożenia czy oburzenie – generują najwięcej komentarzy. Dla algorytmu fakt, że użytkownik zatrzymał wzrok na danym wideo na kilka sekund dłużej, jest sygnałem, że dana treść jest wartościowa. W ten sposób platformy monetyzują uwagę nieletnich użytkowników, podsuwając im materiały coraz bardziej skrajne. Ale skoro treści są podsuwane użytkownikom jeszcze przed jakąkolwiek interakcją, to znaczy, że problem rośnie – a regulacji nadal nie ma.