Algorytmy w mediach społecznościowych nie są neutralnymi sorterami treści, tylko systemami optymalizacji uwagi. Ich podstawowym zadaniem nie jest pokazywanie najbardziej wartościowych informacji ani budowanie wspólnoty, lecz maksymalizowanie zaangażowania: czasu spędzonego w aplikacji, liczby interakcji, powrotów użytkownika i reakcji emocjonalnych. Działają w oparciu o ogromne ilości danych: co klikamy, jak długo patrzymy na post, gdzie zatrzymujemy przewijanie, co komentujemy, co nas oburza, co nas bawi, z kim wchodzimy w spory. Na tej podstawie modele predykcyjne szacują, jakie treści z największym prawdopodobieństwem wywołają reakcję i to właśnie one są promowane. Problem polega na tym, że emocjonalna reaktywność nie jest tym samym co dobro użytkownika ani jakość debaty publicznej. W praktyce algorytmy uczą się wzmacniać treści skrajne, konfliktowe, lękowe lub uzależniające, ponieważ one najlepiej podnoszą wskaźniki aktywności. Z tego mechanizmu wynika szereg skutków ubocznych, które coraz częściej są opisywane jako realne zagrożenie dla zdrowia psychicznego i jakości więzi społecznych.

Pierwszym wielkim problemem jest systemowe wzmacnianie polaryzacji i konfliktu.

Algorytmy nagradzają treści, które wywołują silne emocje, zwłaszcza gniew, oburzenie, strach i pogardę, ponieważ takie emocje zwiększają prawdopodobieństwo komentarza, udostępnienia lub wejścia w spór. W rezultacie użytkownicy są częściej eksponowani na najbardziej radykalne wersje stanowisk, a nie na ich umiarkowane formy. Treści wyważone i niuansujące spór są statystycznie mniej angażujące, więc przegrywają w rankingu. Prowadzi to do sytuacji, w której grupy światopoglądowe widzą siebie nawzajem w karykaturalnej formie, co utrudnia dialog i niszczy zaufanie społeczne. Wspólnota przestaje być budowana wokół współpracy i zrozumienia, a zaczyna wokół wspólnego wroga.

Drugim problemem jest tworzenie baniek informacyjnych i złudzenia rzeczywistości.

Algorytm personalizuje strumień treści tak, aby był dopasowany do użytkownika, ale to dopasowanie oznacza zawężanie perspektywy. Jeśli ktoś wchodzi w interakcje z określonym typem treści, dostaje ich coraz więcej i coraz bardziej skrajnych wariantów. Z czasem powstaje środowisko informacyjne, które wygląda jak obiektywna rzeczywistość, choć jest tylko wycinkiem wzmacnianym przez model predykcyjny. Użytkownik ma poczucie, że większość ludzi myśli podobnie, ponieważ widzi głównie treści zgodne z własnymi preferencjami. To osłabia zdolność rozumienia pluralizmu i zwiększa podatność na dezinformację, ponieważ treści zgodne z wcześniejszymi przekonaniami są rzadziej krytycznie oceniane.

Trzecim problemem jest uzależniająca architektura uwagi i jej wpływ na zdrowie psychiczne.

Platformy wykorzystują mechanizmy znane z psychologii behawioralnej, takie jak zmienne nagrody, nieprzewidywalne wzmocnienia, powiadomienia, liczniki reakcji oraz nieskończone przewijanie. Algorytm uczy się, co utrzymuje użytkownika w napięciu poznawczym i podaje to w odpowiednich dawkach. To sprzyja kompulsywnemu korzystaniu, rozregulowaniu koncentracji i poczuciu przestymulowania. Badania łączą intensywne używanie mediów społecznościowych z nasileniem objawów lękowych, depresyjnych, problemów ze snem i obniżoną samooceną, szczególnie u młodszych użytkowników. Problemem nie jest tylko czas spędzony online, ale jakość bodźców, czyli szybka, emocjonalna i porównawcza treść podawana w ciągłym strumieniu.

Czwartym problemem jest ekonomia porównań i presja wizerunkowa.

Algorytmy promują treści, które dobrze działają wizualnie i emocjonalnie, czyli atrakcyjne, spektakularne i idealizowane. To tworzy środowisko permanentnego porównania społecznego. Użytkownicy widzą wyselekcjonowane fragmenty życia innych ludzi i podświadomie traktują je jako normę. Prowadzi to do chronicznego poczucia niedosytu oraz wrażenia bycia gorszym, mniej atrakcyjnym i mniej udanym. Dodatkowo algorytmy wzmacniają treści skrajnie estetyzowane lub kontrowersyjne, co może wpływać na zaburzenia obrazu ciała, zwłaszcza u nastolatków. Wspólnota oparta na autentyczności zostaje zastąpiona konkursem widoczności.

Piątym problemem jest degradacja jakości informacji i debaty publicznej.

Algorytm nie rozumie prawdy ani wartości poznawczej, rozumie natomiast prawdopodobieństwo reakcji. Jeśli fałszywa lub uproszczona informacja wywołuje większe zaangażowanie niż rzetelne wyjaśnienie, system ma strukturalną tendencję do jej wzmacniania. Nie musi to wynikać ze złej woli platformy, lecz z przyjętej funkcji celu, czyli maksymalizacji interakcji. W rezultacie dezinformacja, teorie spiskowe i treści manipulacyjne mogą rozchodzić się szybciej niż sprostowania. Debata publiczna przesuwa się w stronę haseł, skrótów i prowokacji, ponieważ to one najłatwiej przyciągają reakcje. Długie i złożone argumenty przegrywają z krótkimi i ostrymi komunikatami.

Wspólnym mianownikiem tych problemów jest to, że algorytmy optymalizują zachowanie użytkownika, a nie jego dobrostan.

Nie pytają, co buduje zdrową wspólnotę, tylko co utrzymuje uwagę. Nie pytają, co wspiera równowagę psychiczną, tylko co zwiększa aktywność w systemie. Dlatego coraz częściej wskazuje się, że głównym źródłem trudności nie jest sama technologia, lecz model biznesowy oparty na monetyzacji uwagi. Dopóki podstawową walutą pozostaje czas i reakcja emocjonalna, dopóty system będzie promował to, co najmocniej pobudza, nawet jeśli długofalowo szkodzi jednostkom i relacjom społecznym.