Šéf sociální sítě Facebook Mark Zuckerberg se ve videu na Instagramu pochlubil „totální kontrolou nad ukradenými údaji miliard lidí“. Zlověstný klip byl ale společným dílem umělců Billa Posterse, Daniela Howea a reklamní agentury Canny, kteří tím chtěli varovat před stále sílící manipulací v digitálním prostoru i před samotnou technologií deepfake, s jejíž pomocí video vytvořili. Ta totiž dovoluje simulovat mimiku i mluvu libovolné osoby a vkládat do úst vlastní slova. Nebezpečnému fenoménu se věnujeme i v aktuálním vydání Týdeníku Echo.

„Na vteřinu si představte tohle: Jeden muž s totální kontrolou nad ukradenými údaji miliard lidí. Všechna jejich tajemství, jejich životy, jejich budoucnost… ten, kdo ovládá data, ovládá budoucnost,“ říká v autenticky vyhlížejícím videu Zuckerberg. Autoři takto softwarově upravili úryvek z vysílání televize CBS News z roku 2017, kdy šéf Facebooku promlouval k médiím o zneužití jeho platformy ruskými subjekty ve snaze ovlivnit americké prezidentské volby.

 

 

 

 

Zobrazit příspěvek na Instagramu

 

 

 

 

 

 

 

 

 

 

 

Příspěvek sdílený Bill Posters (@bill_posters_uk), Čen 7, 2019 v 7:15 PDT

Jeden z autorů řekl deníku The Guardian, že nové video bylo zamýšleno jako komentář současné praxe technologických firem. „Skutečnost, že data občanů, včetně podrobných poznatků o jejich politickém zaměření, sexualitě, povahových rysech a osobnosti, jsou zpřístupňována zájemcům s nejvyšší nabídkou, ukazuje, že průmysl digitálního ovlivňování a s ním spojené mechanismy představují hrozbu nejen pro práva jednotlivců, ale také pro naše demokratická zřízení,“ citoval list Posterse.

Falešné video mělo v době psaní článku na kontě necelých 100 tisíc zobrazení. Společnost Facebook, pod kterou Instagram spadá, se sice snaží s podobnými příspěvky bojovat, tento konkrétní ale neplánuje smazat. „Naložíme s tímto obsahem stejně, jako nakládáme se všemi dezinformacemi na Instagramu. Jestliže jej nezávislí ověřovatelé informací označí za falešné, odfiltrujeme jej z doporučovacích rozhraní jako jsou Návrhy a přehled hashtagů,“ sdělil médiím mluvčí Facebooku. Situaci by ale mohl zkomplikovat požadavek vysílací společnosti CBS, která se domáhá stažení videa kvůli „podvodnému a nepovolenému užití obchodní značky CBSN“.

Internet se baví, odborníci varují před manipulacemi

Právě přístup Facebooku k podobnému potenciálně škodlivému obsahu má sehrát zásadní roli v boji proti fake news. Vedle internetových diskuzních portálů jako Reddit či 4chan se deepfake videa šíří nejrychleji skrze sociální sítě a mobilní messengery. „Video (s Zuckerbergem) mělo méně než 5000 zhlédnutí, než na něj začala upozorňovat média, ale to, jak s ním Facebook naloží, by mohlo vytvořit precedent pro jeho postup vůči budoucím deepfake videím,“ uvedla televize CNN v reakci na instagramový klip.

Odborník na bezpečnost Clint Watts z Výzkumného ústavu pro zahraniční politiku vystoupil kvůli videu před americkými poslanci s varováním, že podobná videa mohou eskalovat až v násilné nepokoje. Poukázal zároveň na sílu „klasických“ falešných zpráv sdílených skrze aplikaci WhatsApp, které rozpoutaly násilnosti v Indii. „Rozšířením deepfake videí se zvýší počet i intenzita těchto nepokojů,“ dodal Watts.

Skutečnost, že Facebook neplánuje video odstranit, ale pouze „skrýt“ z různých kanálů a zhoršit mu rating pro vyhledávání, se setkalo se smíšenými reakcemi. Zatímco experti hovoří o nezodpovědnosti rychle řešit fenomén, s jehož odhalováním a ověřováním mají potíže i moderní analytické nástroje, část internetových diskutérů s obsahem nemá problém, pokud sami autoři upozorní, že jde o falešné video.

Nebo pokud jde o humorné videomontáže. Díky jejich popularitě i samotné dostupnosti deepfake aplikací jich denně přibývají desítky. Některé si dělají srandu z politiků, jiné nahrazují tváře všech herců za Nicolase Cage. Jelikož jsou tato deepfake videa prozatím klasifikována jako parodie, i zde jsou bezpečnostní odborníci na pozoru. Jednak kvůli tomu, jak lehce je technologie zneužitelná i na nepolitické úrovni (např. falešná sexuální nahrávka, která rozpoutá rodinnou roztržku), jednak kvůli samotné dostupnosti a relativní jednoduchosti technologie, díky které z „dnešních vtipálků mohou vyrůst zítřejší dezinformátoři“.