Nechci, aby si někdo myslel, že jsem takové hrůzy někdy řekla. Použít Ukrajinku jako tvář k propagaci Ruska je šílenství, prohlásila Olha Lojeková, když svou tvář spatřila v řadě videí na čínských sociálních sítích. Jde o výsledek snadno ovladatelných nástrojů generativní umělé inteligence, které jsou snadno dostupné on-line. „Byl to můj obličej a můj hlas. Bylo to děsivé. Viděla jsem samu sebe říkat věci, které jsem nikdy neřekla,“ svěřila se jednadvacetiletá studentka Pensylvánské univerzity stanici BBC.

Profily, které používaly její tvář, vystupovaly pod různými jmény, například Sofia, Nataša, April nebo Stacy. Všechny „dívky“ mluvily mandarínsky, tedy jazykem, který se Lojeková nikdy neučila. Pocházely z Ruska a hlavním tématem videí bylo čínsko-ruské přátelství, případně propagace ruských výrobků.

„Tak v devadesáti procentech těch videí se mluvilo o Číně a Rusku a přátelství mezi nimi. Že jsou to silní spojenci. Další videa zase vypadala jako reklamy na potraviny,“ řekla Lojeková. „Natasha imported food“ byl jeden z největších účtů, který její tvář využíval. Než „Nataša“ s více než 300.000 sledujícími přistoupila k propagaci ruských potravin, říkala v úvodu videí věci typu: „Rusko je ta nejlepší země. Je smutné, že ostatní státy se od něj odvracejí, Rusky se chtějí podívat do Číny.“ Lojekovou, jejíž rodina je stále na Ukrajině, taková vyjádření rozčilovala a urážela.

První AI klony Lojekové se objevily v roce 2023, tedy chvíli poté, co si sama založila kanál na YouTube. Zhruba po měsíci jí začaly chodit dotazy od lidí, zda mluví mandarínsky, protože ji viděli na čínských sociálních sítích. Lojeková začala pátrat a jednu „dívku“ se svou tváří objevila na čínské obdobě sítě Instagram, platformě Siao-chung-šu (Xiaohongshu), další na serveru Bilibili, který funguje jako asijský YouTube.

„Bylo jich (účtů) tam spoustu. Některé z nich měly v popisku ruskou vlajku,“ uvedla Lojeková. Podle svých slov zatím objevila 35 účtů, které používají její tvář.

Snoubenec Lojekové na existenci falešných videí upozornil na platformě X. Firma HeyGen, která podle ukrajinské youtuberky technologii zneužitou ve videích vyvinula, v reakci odhalila takřka 5000 videí jejích AI klonů. Společnost také informovala, že obličej Olhy Lojekové pro další tvorbu videí zablokovala. Aby k podobnému zneužití v budoucnu nemohlo dojít, HeyGen rovněž podle svých zástupců zaktualizoval bezpečností protokol.

Angela Zhangová z univerzity v Hongkongu považuje to, co se stalo Olze, v Číně za „velice běžné“. Podle Zhangové je Čína zemí „rozsáhlé šedé ekonomiky, která se zaměřuje na padělání, zneužívání osobních údajů a výrobu deepfaků“, tedy videí, na nichž pomocí generativní AI říkají virtuální verze lidí věci, které ti skuteční nikdy nevyřkli.

Čína byla jednou z prvních zemí, která se o regulaci AI začala pokoušet na legislativní úrovni. Dokonce upravila svůj občanský zákoník tak, aby chránil osobnostní práva před zneužitím pomocí digitálně zfalšovaného obsahu. Kvůli podezření z „výměny tváře umělou inteligencí“ čínské úřady podle statistik zadržely v minulém roce 515 lidí.

Otázkou zůstává, jak se tolik videí falešné Lojekové dostalo na síť. Podle BBC může být důvodem jejich obsah – propagace čínsko-ruských vztahů. V posledních letech se obě země výrazně sblížily. Čínský vůdce Si Ťin-pching a ruský prezident Vladimir Putin dříve uvedli, že přátelství mezi Ruskem a Čínou „nemá hranic“. Čínská státní média také přebírají ruskou propagandu, která ospravedlňuje okupaci Ukrajiny. Jakékoliv diskuze o rusko-ukrajinském konfliktu na internetu čínská vláda cenzuruje.

„Není jasné, jestli ty účty byly nějak propojené, ale propagace zpráv, která je v souladu s vládní rétorikou, se jim (čínské vládě) bezesporu hodí,“ uvedla Emmie Hineová, výzkumnice v oblasti práva a technologií z Boloňské univerzity. „I kdyby ty účty nebyly přímo propojené s Komunistickou stranou Číny, propagace jejího poselství snižuje pravděpodobnost, že by je někdy odstranila,“ dodala.

Podle Hineové je hlavním cílem čínské regulace AI zachovat současnou společenskou stabilitu a propagovat inovaci a ekonomický vývoj. „Na papíře ta pravidla (regulace AI) vypadají sice striktně, ale zaznamenali jsme, že v praxi jsou velmi selektivní,“ řekla.