Technologie rozpoznávání obličejů z fotografií či kamerových záznamů budí kontroverze. Policie v Česku po kritice nevládní organizace Iuridicum Remedium (IuRe) oznámila, že zkušebně už rok využívá tuto technologie při objasňování závažných trestných činů či při identifikaci mrtvých. Podobná technologie se však váže s lidskoprávními otázkami i problematickým dopadem do soukromí, budí i politickou nevoli a řeší se na úrovni Evropské unie. Česká policie se přitom při využívání softwaru odvolává na paragraf zákona, který jim k tomu nedává povolení, říká v rozhovoru s deníkem Echo24 výkonný ředitel IuRe a advokát Jan Vobořil.

Vaše organizace upozornila na využívání analytického systému pro rozpoznávání obličejů českou policií, jaká v tom vidíte největší rizika?

Určitě budeme zjišťovat ještě další okolnosti, co už ale můžeme říct teď a jde o zásadní riziko, že tady chybí jednoznačná právní regulace využívání těchto nástrojů. Policie se odvolává na paragraf 66a zákona o polici, tam je ale řečeno jen to, že mohou vytvářet databáze digitálních fotografií, které získají z veřejných registrů, konkrétně v tomto případě z registrů státní správy – z evidence občanských průkazů a cestovních dokladů. Ale o tom, že by to pak mohli využívat k biometrické identifikaci a porovnávat to speciálním softwarem s fotografiemi, které někde získají, o tom není v zákoně ani slovo.

Právní regulace je tedy v tomto naprosto nedostatečná, všechno podstatné vychází z interního pokynu policejního prezidenta, který nám sice poskytli, ale z podstatné části začerněný. Veřejnost vůbec nemá kontrolu nad tím, jak ten systém funguje. Policie nám to sice může popisovat, ale my jim můžeme i nemusíme věřit. Nikde není dostupný dokument, kde by byla napsaná pravidla dostupná veřejnosti. Je to velký problém a u policie to opakovaně funguje úplně stejně, třeba u kriminalistické databáze DNA. Policie tímhle způsobem dlouhodobě reguluje své nástroje.

Co tedy v interním pokynu policejního prezidenta podle vás chybí či je začerněno?

Není tam jasné, kdo k tomu má přístup, jakým způsobem a za jakých podmínek ho může získat, neodhadneme, jak často a v jakých případech je systém využíván. Například policie říká, že k tomu má přístup jen specializovaný orgán, přímo z pokynu ale vyplývá, že tam mohou být přímé přístupy i z dalších oddělení policie s celostátní působností – což nemusí znamenat, že je mají, ale může to tak být . Policie mluví o využívání nástroje u závažných trestných činů, ale existuje nějaké omezení, kdy může být nástroj využíván? Základní parametry neznáme – jak funguje referenční databáze, jak se naplňuje daty, jak se aktualizují či likvidují a tak dále. Nic z toho tam není.

Některé další informace lze zjistit z dodavatelských smluv (rámcové smlouvy na ní navazující smlouvy) třeba to, jaké funkce by měl systém poskytnout – porovnávat s referenční databází, porovnávat fotografie mezi sebou a podobně.

Tvrdíte, že policie nasazení systému tajila a dokonce lže o tom, jak o nasazení systému informovala. Chová se podle vás policie nezákonně?

Skoro si myslím, že jejich záměr původně ani nebyl to tajit. Považují to prostě za totéž jako každý jiný informační systém, který používají už desítky let. Vůbec jim nedochází, že rozpoznávání obličejů je s ohledem na efektivitu takového nástroje něco kvalitativně jiného a zásah do lidských práv je tam podstatně větší. Možná tedy nepovažovali za důležité takovou informaci veřejně prezentovat. Tomu pak nahrává i způsob regulace neveřejným pokynem policejního prezidenta.

Sešli jsme se s nimi na výboru v roce 2021, pak proběhl ještě seminář k tématu biometriky v roce 2022, nikde nasazení tohoto informačního systému nezmiňovali. Je pravda, že v té době ještě neměl být v provozu. Od té doby jsme s nimi ale žádnou komunikaci v tomto směru neměli a pokud vím, tak ani Výbor. Tedy rozhodně se ohrazuji proti tomu, že Výbor pro lidská práva a moderní technologie, navíc jak říkají proaktivně, podrobně a opakovaně, o systému informovali. Transparentnost je v tomto směru naopak velmi nízká a mluvit o tom, že poskytli informace a nezmínit, že velká část z nich je začerněná, je také z jejich strany tak trochu výsměch. Na žádné jiné informace, které by se konkrétně tomuto systému věnovaly, jsme nenarazili.

Takže trváte na tom, že policie lže?

Pravda to prostě není. Na výboru vystoupili jednou v říjnu 2021, ne opakovaně a o tomto systému jsme se konkrétně nebavili. Je to ostatně dohledatelné i ve zveřejněných zápisech ze zasedání výboru.

Policie sama tvrdí, že využívá systémy jen v jasně vymezených případech. Možná ještě přísnější regulace se objevuje v návrhu Aktu o AI v EU. Umíte si využití v nějaké regulované podobě představit?

Existují dvě metody. Buď máte sledování real time, tedy například kamery na pražském letišti, které mají být teoreticky schopné vás upozornit v momentu, kdy hledaný člověk projde před kamerami. A nebo tyto systémy dodatečné analýzy, ať už videoobrazu či fotek. To jsou dvě věci, které se v rámci vyjednávání Aktu o AI řeší. V posledním schváleném návrhu z evropského parlamentu je obsažen zákaz real time sledování a regulace dodatečné analýzy. V zásadě si asi dokážu představit, že by se to nemělo úplně zakázat, ale měla by tam být přísná regulace včetně soudního povolení. Stejně jako jasné vymezení, v jakých případech se to používá. Samozřejmě nám policie řekne, že je to používané jen u závažné kriminality, ale totéž nám říkali u data retention, tedy získávání metadat o elektronické komunikaci. Pak zjistíte, že jsou to statisíce dotazů ročně a používají to úplně u všeho.

Často se v souvislosti s rozpoznáváním obličejů a jeho zneužíváním zmiňují autoritativní či totalitní režimy, je to ale výjimečná věc i směrem na západ?

Až tak výjimečná věc to není. Na webu kampaně Reclaim Your Face, na níž spolupracujeme, a která se snaží omezit využívání metod rozpoznávání obličeje ve veřejném prostoru, jsou uveřejněné různé kauzy z Evropy z posledních let. Třeba Francie připravila na chystanou olympiádu velký kamerový systém s biometrickým sledováním, některé bezpečnostní složky evropských států třeba zase využívaly pololegální či spíše nelegální databázi Clearview, která obsahuje miliardy fotografií různě postahovaných z internetu za účelem biometrické identifikace. Takže obdobné kauzy se objevují i v dalších státech.