Před čtyřmi lety, 15. března 2019, se osmadvacetiletý Australan jménem Brenton Harrison Tarrant přihlásil na svůj Facebook z novozélandského města Christchurch a spustil živé vysílání. Až potud nic neobvyklého, živých vysílání se na jedné z největších sociálních sítí světa denně odehrávají miliony. Brzy se ale ukázalo, že tentokrát nepůjde o žádnou kratochvíli. Tarrant, vyzbrojený celkem šesti palnými zbraněmi, během zhruba čtvrthodiny povraždil padesát lidí v mešitě al-Núr a islámském středisku v nedalekém Linwoodu. Dalších čtyřicet osob si z jeho řádění odneslo střelná poranění, ale aspoň přežily. Celý tento čin mohl zbytek planety sledovat na živém facebookovém streamu, který skončil až krátce po dopadení pachatele.

Až do té doby se na krvavá videa specializovaly hlavně útvary typu Islámského státu a jeho napodobitelů, u kterých se s tím tak trochu počítalo. Recepty na mediální pozornost však mají tendenci se šířit i přes ideologické a kulturní hranice, takže fakt, že k podobnému kroku sáhl i protiislámsky motivovaný jednotlivec, není ve skutečnosti tak paradoxní. „Attention economy“, na níž svět sociálních sítí stojí a padá, je tatáž v Londýně i v Kábulu.

Původní facebookové video Tarrantova útoku zhlédlo jen 4000 lidí, jeho kopie se však rozšířily všude možně, a i když je jeho pouhé držení v řadě zemí trestným činem (asi podobně jako držení dětské pornografie), stejně si jej každý zkušenější surfař internetových vod dokáže během pár minut najít a za pomoci VPN stáhnout tak, aniž na sebe upoutá pozornost státních orgánů. Ke kompletní eliminaci takových záběrů z internetu nemá žádný stát dostatek schopností a „velký firewall“, který by k blokování příslušného provozu byl potřeba, by musel být minimálně na úrovni toho čínského – což zase koliduje s občanskými právy obyvatel liberálnějších států. Největší sociální sítě ovšem zavedly speciální černé listiny, s jejichž pomocí brání pokusům svých uživatelů Tarrantovo video opět nahrávat na jejich servery. Facebook sám tvrdí, že takových pokusů zmařil 1,5 milionu; zda je to pravda a jak přesně k tomuto číslu došli, to se u tradičně uzavřené a tajnůstkářské společnosti Meta jen tak nedovíme. Ale o tom, že „snaha byla“, se nedá pochybovat. Snaha je totiž vždycky a zakázaný obsah přitahuje zvýšenou pozornost lidí, které by třeba jinak ani nezajímal.

Hranice porozumění

Ačkoli sociální sítě jsou dostupné valné většině obyvatel planety, neznamená to, že by příslušné restriktivní mechanismy fungovaly všude stejně. Masakr v Christchurchi byl Facebookem „diagnostikován“ a videa promazána relativně rychle. Významným prvkem v oné rychlosti byla ovšem skutečnost, že čin se odehrál v anglicky mluvící zemi a v západním kulturním okruhu. Mezi Brentonem Tarrantem a zaměstnanci Facebooku v Kalifornii nestála žádná jazyková ani civilizační bariéra, ti druzí tedy mohli velmi rychle pochopit, co se vlastně děje a proč. S rostoucí kulturní a jazykovou vzdáleností od Kalifornie ovšem toto porozumění rychle klesá.

Na pomyslném opačném pólu je patrně Myanmar, značně uzavřená a Západu nesrozumitelná země, na které britské koloniální panství nezanechalo ani zdaleka tak hluboké stopy jako na sousední Indii. Dokonce ani změna názvu země (do roku 1989 Barma) ještě nestihla úplně prosáknout do všeobecného povědomí v jiných částech světa, Evropu a Ameriku nevyjímaje. Ale i v Myanmaru se samozřejmě dávno rozšířily sociální sítě, včetně Facebooku. A právě Facebook čelí ve Spojených státech a ve Velké Británii žalobě ze strany myanmarských občanů – uprchlíků z muslimského kmene Rohingyů. Podle žaloby Facebook nejen že v Myanmaru už od roku 2012 toleroval příspěvky vyzývající k vyhlazování Rohingyů, ale dokonce je umožňoval propagovat pomocí placené inzerce. Americká žaloba byla v prosinci 2022 zamítnuta kalifornskou soudkyní Yvonne Gonzalezovou Rogersovou, ale žalobci od ní zároveň dostali možnost žalobu doplnit a následně podat znovu. Případ tedy ještě není u konce. Rohingyové požadovali při první žalobě odškodnění ve výši 150 miliard dolarů a zdůvodňovali je tím, že nečinnost Facebooku způsobila v jejich domovině nejméně deset tisíc vražd.

Jen den poté, co soudkyně Rogersová prozatímně zamítla žalobu Rohingyů, se společnost Meta stala terčem další žaloby v Nairobi, hlavním městě afrického státu Keňa. Tentokrát je jedním z dvou žalujících syn etiopského profesora chemie Meareg Amare Abrhy. Ten byl v říjnu 2021 zavražděn po kampani na sociálních sítích coby údajný příslušník kmene Tigrajců; mezi Tigrajci a etiopskou vládou probíhala tou dobou dvouletá válka, která si vyžádala několik set tisíc obětí a destabilizovala životy víc než deseti milionů lidí. I v Nairobi je Facebook obviňován z toho, že proti šíření genocidní propagandy mezi svými etiopskými uživateli nic podstatného neudělal. Black Lives Matter, ovšem jen mimo Afriku samotnou?

Specifickým problémem z hlediska moderování obsahu je i současná rusko-ukrajinská válka, jejíž vizuální dokumentace se na sociální sítě valí ze všech stran. Válka mezi dvěma průmyslově vyspělými státy je patrně tou vůbec nejnásilnější aktivitou, jaké je lidstvo technicky schopné, a záplava videí a snímků z linií dotyku to bohatě dokazuje; stačí strávit deset minut na redditových fórech, jako je Combat Footage, abyste viděli roztrhaných a seškvařených lidských těl dost do konce života. Většina sociálních sítí válečná videa ovšem nemaže a maximálně k nim přidává varování nebo vyžaduje, aby uživatelé před jejich zhlédnutím potvrdili, že jsou dospělí. Otázka, jestli tím náhodou nejsou porušena osobnostní práva obětí, jejichž poslední okamžiky viděly statisíce lidí, zůstává jaksi stranou.

Nový hráč jménem TikTok

Naprostá většina sociálních sítí světa je provozována americkými firmami, které sice svými rozměry dávno přerostly mez, pod kterou se korporace musejí ohlížet na zájmy menších států, ale z pohledu západních zemí jsou přece jen „nějak“ dosažitelné a ovlivnitelné. Jedním z nejmladších konkurentů na této scéně je ovšem TikTok, síť vlastněná čínskou firmou ByteDance, a v jeho případě nemají západní státy – kromě hrozby tvrdého zákazu, o které se teď v několika zemích jedná – k dispozici příliš mnoho prostředků, jak po něm něco účinně požadovat. Při současné geopolitické situaci je dost nepravděpodobné, že by se to v dohledné době změnilo.

Naprostá většina videí na TikToku je neškodná a větší obavu vzbuzuje spíš snaha samotné aplikace vysávat z uživatelských telefonů osobní data. U některých z nich ovšem ze znalosti kontextu stejně zamrazí. Před měsícem došlo v německém Freudenbergu k vraždě dvanáctileté školačky Luisy. Dvě její spolužačky, které den po její smrti vyvěsily na TikTok veselé taneční video, se později přiznaly k tomu, že ji ubodaly. Účty obou pachatelek na TikToku i Instagramu byly německými úřady preventivně zablokovány, jednak s ohledem na oběť, která se objevila v jednom dřívějším videu, jednak asi i z obavy, aby se na nich nevynořilo něco horšího. Jednou z věcí, které u sociálních sítí nikdy nevíte předem, je totiž otázka, kolik dalších lidí dostalo od daného účtu heslo a jestli náhodou nemají v záloze další obsah ke zveřejnění.

Najít optimální meze pro regulaci obsahu na sociálních sítích je asi nemožný úkol, a to jak právně, tak technicky. Legislativa jednotlivých států je nesmírně různorodá a ani uvnitř společných trhů, jako je EU, se jejich členové neshodnou na jednotné hranici svobody projevu. Firmy provozující sociální sítě mají vesměs chronický nedostatek živých zaměstnanců-moderátorů a robotická umělá inteligence zatím není v tomto směru příliš spolehlivá. U již existujícího videa, jako je Tarrantův záznam ze střelby v novozélandské mešitě, není velký problém automaticky identifikovat a odstranit jeho kopie, ale o to hůř se identifikují úplné novinky; tam bývá lidský faktor nezastupitelný.

Také násilí na sociálních sítích, stejně jako většina témat souvisejících s brutalitou a smrtí, v sobě skrývá hrozbu přehnané „autoimunitní“ reakce společnosti. Dostatečně velký šok, i z izolované a jednorázové události, jakou byla hromadná vražda v Christchurchi, může v jinak liberálních a demokratických státech vést k přijetí drakonických opatření, za která by se žádné autoritářské režimy nestyděly a jejichž následné pozvolné odbourávání může trvat desítky let. (Nebo se také nemusí podařit nikdy; viz osudy americké národní bezpečnosti po 11. září 2001.) Na druhé straně by státní moc neměla zcela ignorovat například systematické štvanice na konkrétní osobu, které zjevně překračují mez nebezpečného vyhrožování. Sdílejí-li stovky lidí vaše jméno a domovskou adresu společně s výzvami k tomu, aby vás někdo přišel „srovnat“, není to banalita, zvlášť je-li atmosféra v zemi z nějakého důvodu (volby, ekonomická krize) právě vyhrocená.

Nejpozději od vynálezu palných zbraní a knihtisku se dá říci, že technologie mají náskok před právem. Je to i případ dění ve virtuálním prostoru. Valná většina konfliktů na sítích se naštěstí nikdy nepřelije do reálného světa, avšak na výjimky si patrně budeme muset zvyknout.