Europoslanci schválili nová pravidla pro fungování umělé inteligence. Jde o první pokus na světě o podobnou regulaci této technologie a mohl by podle expertů ovlivnit podobné normy také v zemích mimo Evropskou unii. Nařízení zavádí klasifikaci technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Ne ve všem však vyvolává jen chválu, ostře se proti němu staví například čeští Piráti. Podle nich předloha totiž legalizuje užití umělé inteligence k plošnému sledování lidí.

Nová pravidla mají podle představ zajistit, aby umělá inteligence byla důvěryhodná, bezpečná, respektovala základní práva EU a podporovala inovace. Pro novinku hlasovalo 523 europoslanců, proti jich bylo 46 a 49 se zdrželo. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů budou podléhat silné regulaci.

“Akt o umělé inteligenci měl mimo jiné zakázat ty nejvíce nebezpečné způsoby využití umělé inteligence a nastavit základní mantinely, za které technologii v zájmu lidských práv prostě pustit nemůžeme. Bohužel v případě biometrických kamer dělá pravý opak. Programy umělé inteligence umí v reálném čase rozpoznávat obličeje a přiřazovat je ke konkrétním lidem. Umožňují v reálném čase sledovat, kdo, kdy a kde je a s kým. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí, což vidíme třeba v dnešním Rusku. Tam jsou nainstalovány třeba v metru a zneužívány ke špehování těch, kdo si dovolí mít ‚nesprávný‘ názor. Pozice Evropského parlamentu požadovala zákaz této technologie, národní vlády ale protlačily pravý opak,“ kritizoval podobu návrhu pirátský europoslanec Marcel Kolaja.

Podle kritiků tak v současné podobě akt o umělé inteligenci de facto vytváří právní rámec pro využívání biometrických kamer. To se stalo nedávno tématem i v Česku (psali jsme např. zde). Text nařízení, o kterém se ve středu hlasovalo, je dojednaným kompromisem mezi vyjednavači Evropského parlamentu, Evropskou komisí a belgickým předsednictvím v Radě EU, které zastupuje jednotlivé členské státy. Právě Piráti s konečnou verzí spokojeni nebyli, a proto hlasovali proti aktu.

Mnozí europoslanci ale nový akt o umělé inteligenci ocenili. „Jsem hrdá na to, že se nám podařilo dosáhnout ochrany základních práv občanů, ale zároveň necháváme prostor pro inovace,“ uvedla dánská europoslankyně Karen Melchiorová z liberální frakce Renew. Jak uvedl německý europoslanec Sergey Lagodinsky z frakce Zelených, „je zapotřebí kontrolovat budoucí vývoj, než budoucí vývoj bude kontrolovat nás“. Ve středu přijatá úprava je podle něj slabší, než jakou si představoval, nicméně „je to lepší než vůbec nic“. „V řadě ohledů jde o průkopnické nařízení,“ prohlásil Lagodinsky, který se narodil v Rusku, ale jeho rodina v 90. letech emigrovala do Německa.

Podle české europoslankyně Dity Charanzové z frakce Renew vytváří akt o umělé inteligenci „omezení pro vývoj, ale nesmí bránit ve vývoji“. Umělá inteligence je podle ní věcí budoucnosti. „Neměli bychom se vzdávat tohoto nástroje z důvodu strachu. U každé inovace existují rizika,“ uvedla v úterní rozpravě. Podle ní unijní pravidla nastavením mantinelů v AI dávají „jasné zadání vývojářům, aby cítili zodpovědnost za to, co vytvářejí“.