Evropská unie v pátek pozdě večer dosáhla předběžné dohody na regulaci umělé inteligence (AI). Ještě bude ale třeba doladit detaily. Informuje o tom agentura Reuters, která píše o „přelomových“ pravidlech. EU podle ní má nakročeno k tomu, aby se stala prvním z významných světových hráčů, který bude mít normy pro regulaci systémů, jako je ChatGPT.

„Dohoda!“ napsal krátce před půlnocí na X eurokomisař pro vnitřní trh Thierry Breton. „EU se stává vůbec prvním kontinentem, který stanoví jasná pravidla pro používání umělé inteligence,“ doplnil po několikadenním jednání mezi členskými státy a zástupci Evropského parlamentu, které jen v pátek trvalo téměř 15 hodin.

Ohledně konečné podoby dokumentu, který vstoupí v platnost nejdříve v roce 2025, poskytli zástupci unijních institucí ale jen málo informací, upozornil list The Guardian. V oblasti regulace AI se podle něj EU nicméně dostává před USA, Čínu a Británii. Šéfka Evropské komise Ursula von der Leyenová dala najevo přesvědčení, že pravidla přinesou „jedinečný právní rámec pro vývoj důvěryhodných technologií,“ které neomezí bezpečnost a základní práva občanů ani firem.

EP a členské státy jednaly zdlouhavě mimo jiné o AI řízených systémech dohledu, které by mohla využívat policie, zaměstnavatelé nebo maloobchodníci. Europarlament podle médií prosadil zákaz sledování v reálném čase a používání biometrických technologií včetně rozpoznávání emocí. Breton ale v tomto ohledu zmínil tři výjimky. Policie bude moci tyto technologie případně používat pouze v případě hrozby teroristického útoku, při pátrání po obětech trestné činnosti a při stíhání skutečně závažné trestné činnosti.

Základem dohody je odstupňovaný systém založený na riziku, v němž se nejvyšší úroveň regulace vztahuje na nástroje, které představují nejvyšší riziko pro zdraví, bezpečnost a lidská práva. Původní návrh legislativy předložený Evropskou komisí předpokládal, že do této kategorie budou patřit všechny systémy s více než 10 000 firemních uživatelů. Kategorie nejvyššího rizika je nyní definována počtem počítačových operací potřebných k trénovaní stroje. Do této kategorie podle zdrojů zatím spadá ale pouze jeden model, kterým je Chat GPT4 společnosti OpenAI. Regulace dále službám AI ukládá povinnost, aby zveřejňovaly údaje o způsobu trénování systému v širokém spektru činností od psaní novinových článků až po diagnostiku rakoviny.

Pravidla stanoví například omezení při využívání AI pro biometrickou identifikaci ze strany bezpečnostních složek nebo zákaz používání takzvaného sociálního skóre či sociálního kreditu, což je hodnocení lidí na základě jejich chování a aktivit na sociálních sítích.

Spotřebitelům mají pravidla umožnit podávat stížnosti, firmám zase hrozí v případě porušení pokutami, a to v maximální výši 35 milionů eur (854 milionů Kč) nebo sedmi procent celosvětového obratu dané společnosti. Evropská pravidla by se podle Reuters mohla stát vzorem i pro další státy.

V rámci EU dlouho nepanovala shoda především na regulaci základních modelů, neboli generativní umělé inteligence. Základní modely, jako je ChatGPT vytvořený společností OpenAI, jsou systémy umělé inteligence vyškolené na velkých souborech dat. Mají schopnost učit se z nových dat a provádět různé úkoly.