Trollí farmy, jak fungují a proč je dobré o nich vědět?

Redakce / 21.02.2025

Algoritmus sociálních sítích nás udivuje a neustále překvapuje. Co však vnímáme v posledních měsících velmi silně, je obsah, který se uživatelům zobrazuje bez logiky zájmů a preferencí uživatele. Velký vliv na zveřejněný obsah, konkrétně na Facebooku, mají tzv. trollí farmy. O čem se bavíme a proč to děláme?

Již téměř 10 let spravujeme regionální portál. Spolu s tím spravujeme několik dalších facebookových stránek, na kterých pouze tvoříme obsah, jako stránky nic cíleně nesledujeme, minimálně lajkujeme a komentujeme jen na našich profilech. Jinými slovy – jde o profily, které jsou na straně sledování obsahu zcela neaktivní. A co nás zaráží, je obsah, který vidíme při správě těchto stránek a který má znaky agresivní manipulace.

Proč se tak děje?

Uživatele, kteří se o svůj profil nijak nestarají, sociální síť automaticky obsluhuje „tím aktuálně nejoblíbenějším a nejsledovanějším“. Kromě roztomilých kočiček a nalezených psů sem ale bohužel spadají i dezinformace a propaganda. Zkrátka – pokud si člověk nevybírá, co chce vidět (je ve své komunitní bublině), nemá šanci uniknout masově šířenému manipulativnímu obsahu.

Ve čtvrtek 20. února jsme narazili na článek Tomáše Dvořáka, který tuto toxickou stránku sociálních sítí skvěle vysvětluje – a hlavně popisuje, jak se toho za jejich tichého souhlasu (a otevřených peněženek) masivně zneužívá!

A protože si tento text pravděpodobně přečetli jen ti, kteří se o svůj Facebook aktivně starají, rozhodli jsme se ho zveřejnit i na našich portálech. Chceme, aby se tyto informace dostaly i k dalším lidem. A vzhledem k tomu, jak vážná je situace ve světě i u nás, budeme podobné texty zveřejňovat i nadále.

PROČ SE TO DĚJE A CO SE S TÍM DÁ DĚLAT
Autor: Tomáš Dvořák

Aktuální praxe Facebooku je, že unikátnost uživatele ověřuje POUZE unikátním telefonním číslem. Pro callcentrum v Indii, Íránu nebo Rusku tak není žádný problém vytvořit stovky tisíc nových "uživatelů" a každému z nich přiřadit některé volné číslo. Největší devizou trollích farem jsou ale účty ukradené reálným lidem přes některé podvodné stránky a esemesky, protože mají dlouhou historii, profil plný reálných fotek a působí mnohem důvěryhodněji.

Falešné a ukradené účty

Jsou to právě takové falešné a kradené účty (stovky tisíc v Česku, stamilióny ve světě), které se starají o to, aby vaši rodiče a prarodiče měli kanál novinek plný fašistů, ruských pohádek a obsahu, který zpochybňuje naše instituce, vědce nebo rovnou veškeré demokratické hodnoty. Ano, samy algoritmy sociálních sítí samozřejmě nabízejí více negativního obsahu, ale to je chyba nás lidí, že takový obsah preferujeme. Robotický systém nechápe emoce. Nedokáže vyhodnotit PROČ nás něco zaujalo, měří jen CO nás zaujalo, a to nám dává.

Trollí farmy

Trollí farmy se naučily algoritmy jednoduše zneužívat. Tím, že spamují pozitivní interakce u obsahu, který se má lidem nabízet, zatímco hromadně nahlašují obsah, který chtějí potlačit. V případě nahlašování přitom nejde primárně o to daného člověka zabanovat. I když Meta obvykle nakonec vyhodnotí, že obsah není proti pravidlům, pořád je to signál pro systémy, že nemají takový obsah doporučovat, a ten se pak zobrazuje čím dál méně lidem.

Za kolik si koupíš lajky?

Na Slovensku si nedávno analytici všimnuli, že Fico má podezřele hodně reakcí pod každým příspěvkem. Dokonce víc než některé mezinárodní celebrity. Má Fico mimořádně aktivní fanoušky? Occamova břitva říká, že s největší pravděpodobností ne, prostě si reakce kupuje (10 000 lajků se dá dnes pořídit už od 50 dolarů).

Začalo to kapelami a osobnostmi

A nutno říct, že tahle strategie pravděpodobně nevznikla kvůli politickému obsahu. Na začátku to byl normální byznys, který využívaly hlavně známé osobnosti, kapely nebo lidé, kteří se chtěli živit jako influenceři (velká část z nich to dělá doteď). Jelikož jsem jako marketér pomáhal spravovat desítky profilů kapel, můžu vám na rovinu říct, že většina z těch větších měla na profilu tisíce, ale i desítky tisíc falešných sledujících, nejčastěji z Indie, Turecka nebo jihovýchodní Asie. Prostě v určitou chvíli dali peníze někomu, kdo jim slíbit vylepšit jejich profil, a ten dal peníze některé z farem, které tyhle služby nabízí.

Politická zbraň

Politická zbraň se z toho stala až ve chvíli, kdy sociální sítě politici objevili, tedy o několik let později. Novinkou byl ale objem peněz, který do toho byli ochotni nalít (což dnes i díky kryptoměnám téměř nejde dohledat). Už to nebyly stovky a tisíce korun, ale statisíce a miliony. Princip je přitom stejný: vysoký počet reakcí oblbuje algoritmy sítí a útočí na naši přirozenou psychologickou slabinu: když někde vidíme hodně lidí (reakcí), dáváme tomu větší důležitost a manipuluje nás to k souhlasu a souznění.

Dezinformace a totalitní propaganda

Dezinformace a totalitní propagandas tímhle jednoduchým principem pracují dokonale. Dodávají tisíce nadšených komentářů a reakcí k obsahu, který jim vyhovuje, a naopak ubíjí negativními reakcemi obsah, který je jim nepohodlný (proto neustále - a marně - apeluju na politiky, aby takové profily blokovali!). Kdo říká, že přece stačí lépe komunikovat, tak skutečně nechápe rozsah a obludnost toho problému.

Užiteční hlupáci

Na tomhle místě je potřeba říct, že je dost dobře možné, že třeba taková Hamplová ani netuší, že její profil boostují ruské trollí farmy. Totalitní státy si prostě vytipují osobnosti, které pomáhají jejich agendě, a zaúkolují trollí farmy, aby rozjely svoje kouzla. Podporovaná osobnost tak klidně může žít v domnění, že náhlý zájem o ní je jen výsledkem dlouhodobé práce, která se konečně začala úročit.

Algoritmus - zbraň

Hodně se mluví o potřebě demokratů dělat lepší marketing, lépe komunikovat, přesvědčovat a podobně. Jenže sociální sítě, které jsou dnes primárním kanálem pro přijímání zpráv, jsou doslova v zajetí falešných účtů, které si z algoritmů udělaly psychologickou zbraň. A dokud taková psychologická operace bude bujet, jakékoliv jiné aktivity jsou jako hašení požáru čajovou lžičkou, zatímco do něj z druhé strany někdo přilívá benzín.

Takže co se s tím dá dělat?

Ten problém má ve skutečnosti z velké části jednoduché řešení jménem "KYC" ("Know You Customer" neboli poznej svého zákazníka). Soubor kroků, kterým by masová sociální síť měla zaručovat, že její uživatelé jsou skutečné, žijící osoby, a ne falešné profily z "trollích farem". Kontaktujte své poslance, senátory a europoslance, aby donutili provozovatele sociálních sítí zavést spolehlivé KYC postupy. Aby existence farem na falešné účty a falešný obsah jednoduše nebyla možná. Aby se opět narovnala pravidla - a to nejen pro politickou diskuzi. Garantuju vám, že pokud se to podaří prosadit, ta změna, která ze dne na den nastane, vás pozitivně šokuje.

Tomáš Dvořák

FB stránka Tomáše Dvořáka
Původní post podobný našemu začátku - doporučuji diskusi pod textem
Tento text na FB stránce Tomáše Dvořáka - doporučuji diskusi pod textem