Algoritmusok árnyékában: bennfentesek szerint a felháborodás hajtja a közösségi média profitját

Több mint egy tucat bennfentes állítja: a közösségi platformok tudatos döntésekkel engedték felszínre a káros tartalmakat, mert ezek hozták a kattintásokat és a bevételt.

A Meta és a TikTok működésébe engednek ritka betekintést azok a whistleblowerek, akik szerint a közösségi média algoritmusai nem véletlenül terelik a felhasználókat egyre szélsőségesebb tartalmak felé. A BBC oknyomozása alapján a felháborodást kiváltó posztok kiemelten jól teljesítenek, és ezt a cégek belső kutatásai is alátámasztják.

Ezt olvastad már?

Németország meglátta a ragyogó lehetőséget a mesterséges intelligencia térhódításában

Íme a legjobb zajszűrős fejhallgatók – a csend többé nem luxus!

Felhasználói élmény helyett engagement minden áron

Egy volt Meta-mérnök szerint a vezetőség kifejezetten arra utasította a fejlesztőket, hogy több „határeset” tartalmat – például összeesküvés-elméleteket vagy nőgyűlölő posztokat – engedjenek át a szűrőkön, hogy felvegyék a versenyt a TikTokkal. A háttérben egyszerű üzleti logika húzódik: minél több időt töltenek a felhasználók a platformon, annál több hirdetést lehet nekik megjeleníteni.

A TikTok egyik alkalmazottja eközben arról számolt be, hogy a tartalommoderáció során bizonyos politikai ügyek elsőbbséget élveztek még akkor is, amikor fiatalokat érintő visszaélések kerültek napirendre. A cél – állítása szerint – a szabályozói nyomás enyhítése és a politikai kapcsolatok védelme volt.

Gyors növekedés, elmaradó védelem

A probléma gyökere részben a TikTok robbanásszerű sikerében keresendő, ami új korszakot nyitott az algoritmusvezérelt tartalomfogyasztásban. A Meta válasza az Instagram Reels bevezetése volt, azonban bennfentesek szerint ezt megfelelő biztonsági rendszerek nélkül indították el. Belső kutatások alapján a Reels kommentjei között jelentősen több volt a zaklatás, a gyűlöletbeszéd és az erőszakos tartalom, mint az Instagram más felületein. Eközben a platform növekedésére több száz fős csapatot állítottak rá, míg a biztonsági részlegek erőforrásigénye háttérbe szorult.

A „fekete doboz” algoritmusok hatása

A mesterséges intelligencia által vezérelt ajánlórendszerek működése sokszor még a fejlesztők számára sem teljesen átlátható. Egy korábbi TikTok-mérnök szerint az algoritmusok nem „értik” a tartalmat, számukra minden poszt csupán adatpont. A rendszer így könnyen jutalmazza azokat a tartalmakat, amelyek erős érzelmi reakciót váltanak ki, különösen a dühöt.

Ez a mechanizmus különösen veszélyes lehet a fiatalokra. Egy brit fiatal például arról számolt be, hogy tinédzserként az algoritmus fokozatosan radikalizálta, egyre szélsőségesebb nézetek felé terelve őt.

Valós kockázatok, ellentmondó válaszok

A bennfentesek szerint a káros tartalmak – beleértve az erőszakot, zaklatást vagy akár terrorizmussal kapcsolatos posztokat – egyre nagyobb számban jelennek meg a platformokon. Eközben a cégek nyilvánosan tagadják, hogy tudatosan erősítenék ezeket.

A Meta közleménye szerint „téves” az az állítás, hogy profit érdekében káros tartalmakat népszerűsítenének, míg a TikTok „kitalációnak” nevezte a vádakat, hangsúlyozva, hogy fejlett technológiával igyekeznek kiszűrni az ártalmas posztokat. A valóság azonban – a megszólalók szerint – ennél összetettebb: az algoritmusok által jutalmazott figyelemalapú gazdaságban a felháborodás továbbra is az egyik legerősebb valuta.

Forrás: BBC News

Borítókép: Freepik