Komise navrhla právní rámec pro umělou inteligenci

Nový právní rámec tvoří návrh nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro AI (Artificial Intelligence) a kterým se mění některé legislativní akty Unie (COM/2021/206 final) a Sdělení Komise Evropskému parlamentu, Radě, Evropskému hospodářskému a sociálnímu výboru a Výboru regionů: O podpoře evropského přístupu k umělé inteligenci (COM/2021/205 final).
Nový právní rámec je pokračování dlouhodobé politiky Komise a rady, která započala zveřejněním evropské strategie pro AI v roce 2018 a pokračovala rozsáhlými konzultacemi se zúčastněnými stranami, které vyústily v roce 2019 ustavením odborné skupiny na vysoké úrovni pro umělou inteligenci, která vypracovala pokyny pro zajištění důvěryhodnosti AI a v roce 2020 hodnotící seznam pro důvěryhodnou AI. Souběžně s tím byl v prosinci 2018 jako společný závazek s členskými státy zveřejněn první koordinovaný plán v oblasti AI.
Bílá kniha Komise o AI, která byla zveřejněna v roce 2020, představila jasnou vizi AI v Evropě: ekosystém nejvyšší úrovně založený na důvěře, který je základem dnešního návrhu. Veřejné konzultace k bílé knize o AI se účastnila široká škála subjektů z celého světa. K bílé knize byla připojena „Zpráva o dopadech umělé inteligence, internetu věcí a robotiky na bezpečnost a odpovědnost“, která dochází k závěru, že stávající právní předpisy v oblasti bezpečnosti výrobků obsahují řadu nedostatků, které je třeba řešit zejména ve směrnici o strojních zařízeních.

Zásada důvěryhodnosti AI
Nový právní rámec se bude uplatňovat přímo (formou nařízení bude přímo závazný a použitelný ve všech členských státech EU) a stejně ve všech členských státech na základě definice AI, která by měla obstát i ve zkoušce času. Komise navrhla přístup založený na posouzení rizik se čtyřmi úrovněmi rizika:

i)    Nepřijatelné riziko
Velmi omezený soubor zvláště škodlivých způsobů využití AI, které jdou proti hodnotám EU, protože porušují základní práva, bude přímo zakázán (např. společenské hodnocení ze strany státních správ, vykořisťování zranitelnosti dětí, využívání podprahových technik a dále také (s omezenými výjimkami) live systémy biometrické identifikace na dálku na veřejně přístupných místech používané pro účely vymáhání práva).

ii)    Vysoké riziko
Omezený počet systémů AI definovaných v návrhu nařízení, které mají nepříznivý dopad na bezpečnost lidí nebo jejich základní práva (chráněná Listinou základních práv EU), je označen za vysoce rizikový. K návrhu je připojen také seznam vysoce rizikových systémů AI. Mezi tyto systémy patří rovněž bezpečnostní komponenty výrobků, na něž se vztahují odvětvové právní předpisy Unie. Vysoce rizikové vždy budou rovněž systémy, jejichž shodu musí podle uvedených odvětvových právních předpisů posuzovat třetí strana. V zájmu zajištění důvěry a vysoké úrovně ochrany bezpečnosti se stanoví závazné požadavky pro všechny vysoce rizikové systémy AI, které se týkají kvality použitých souborů dat, technické dokumentace a vedení záznamů, transparentnosti a poskytování informací uživatelům, lidského dohledu a robustnosti, přesnosti a kybernetické bezpečnosti. Mezi vysoce rizikové systémy patří technologie AI používané v:

-    kritické infrastruktuře (např. v dopravě), které by mohly ohrozit život a zdraví občanů,
-    vzdělávání nebo odborné přípravě, které mohou určovat přístup občanů ke vzdělávání a jejich profesní směřování (např. hodnocení zkoušek),
-    bezpečnostních součástech výrobků (např. aplikace UI v robotické chirurgii),
-    zaměstnávání, řízení pracovníků a přístupu k samostatně výdělečné činnosti (např. software pro třídění životopisů v přijímacích řízeních),
-    základních soukromých a veřejných službách (např. v úvěrovém hodnocení, které občanům znemožní získat půjčku),
-    prosazování práva, které může zasahovat do základních lidských práv (např. ověřování spolehlivosti důkazů),
-    řízení migrace, azylu a ochrany hranic (např. ověřování pravosti cestovních dokladů),
-    výkonu spravedlnosti a demokratických procesech (např. uplatňování práva v konkrétních případech).
Vysoce rizikové systémy AI budou před uvedením na trh podléhat přísným požadavkům na:
-    vhodné systémy hodnocení a zmírňování rizik,
-    vysokou kvalitu datových souborů, které se do systému vkládají, aby se minimalizovala rizika a diskriminační výstupy,
-    zaznamenávání činnosti k zajištění sledovatelnosti výsledků,
-    podrobnou dokumentaci obsahující veškeré informace o systému a jeho účelu, které úřady potřebují k posouzení jeho souladu s požadavky,
-    jasné a přiměřené informace pro uživatele,
-    vhodná opatření zajišťující lidský dohled k minimalizaci rizika,
-    vysokou úroveň spolehlivosti, bezpečnosti a přesnosti.

Za vysoce rizikové systémy, na které jsou kladeny přísné nároky, se konkrétně označují zejména všechny systémy biometrické identifikace na dálku. Jejich přímé používání ve veřejně přístupných prostorách pro účely prosazování práva je zásadně zakázáno. Omezené výjimky jsou přísně definovány a regulovány (např. pokud je to nezbytně nutné k pátrání po pohřešovaném dítěti, k zabránění konkrétnímu a bezprostřednímu teroristickému ohrožení nebo k odhalení, nalezení, identifikaci nebo stíhání pachatele nebo podezřelého ze závažného trestného činu). Takové použití podléhá povolení soudního nebo jiného nezávislého orgánu a je omezeno přiměřenými lhůtami, zeměpisným rozsahem a databázemi, v nichž lze vyhledávat.

iii)    Omezené riziko
Systémy AI podléhající specifickým požadavkům na transparentnost. Při používání systémů AI, jako jsou chatboty, by si uživatelé měli být vědomi toho, že komunikují se strojem, aby se mohli informovaně rozhodnout, zda budou pokračovat či nikoli.

iv)    Minimální riziko
Zahrnují všechny ostatní systémy AI, které lze vyvíjet a používat v souladu se stávajícími právními předpisy bez dalších zákonných povinností. Poskytovatelé těchto systémů se mohou dobrovolně rozhodnout, že uplatní požadavky na důvěryhodnou AI a budou dodržovat dobrovolné kodexy chování. Patří k nim např. videohry založené na AI nebo spamové filtry.
Pokud jde o vlastní systém zavádění do praxe, Komise navrhuje, aby na nová pravidla, jejichž zavádění bude usnadňovat nově zřízená Evropská rada pro AI, dohlížely příslušné vnitrostátní orgány dozoru nad trhem. Ty by měly rovněž řídit vývoj norem AI. Kromě toho se navrhují dobrovolné kodexy chování pro UI, která není vysoce riziková, a tzv. „regulační pískoviště“, jež mají napomoci zavádění odpovědných inovací.

Sankce za porušení nařízení
Nařízení obsahuje rovněž soustavu sankcí za porušení nařízení, resp. pokud budou na trh nebo do provozu uvedeny systémy AI, které nesplňují požadavky nařízení. Sankce stanoví členské státy tak, aby byly účinné, přiměřené a odrazující. Nařízení stanoví mezní hodnoty, které je třeba zohlednit:

-    až 30 mil. Eur nebo 6 % celkového celosvětového ročního obratu za předchozí účetní období (podle toho, která hodnota je vyšší) za porušení týkající se zakázaných praktik nebo nedodržení požadavků na data,
-    až 20 milionů Eur nebo 4 % celkového celosvětového ročního obratu za předchozí účetní období v případě nedodržení ostatních požadavků nebo povinností podle nařízení,
-    až 10 milionů Eur nebo 2 % celkového celosvětového ročního obratu za předchozí účetní období v případě poskytnutí nesprávných, neúplných nebo zavádějících informací oznámeným subjektům a příslušným vnitrostátním orgánům v odpovědi na žádost.

Vzhledem k tomu, že orgány, agentury a instituce EU by měly jít příkladem, budou se pravidla a sankce vztahovat i na ně; evropský inspektor ochrany údajů bude mít pravomoc ukládat jim pokuty.

Efektivní regulace AI
Koordinovaný plán pro AI předpokládá posílení postavení Evropy v oblasti udržitelné, bezpečné, inkluzivní a důvěryhodné AI. V zájmu zachování celosvětové konkurenceschopnosti je Komise odhodlána podporovat inovace ve vývoji a používání technologií AI ve všech odvětvích, a to ve všech členských státech EU.
K vytvoření dynamického prostředí vnitrostátních strategií a k financování partnerství veřejného a soukromého sektoru a výzkumných a inovačních sítí z prostředků EU by měl přispět koordinovaný plán v oblasti AI, který byl poprvé zveřejněn v roce 2018 s cílem vymezit opatření a nástroje financování vývoje a zavádění AI. Aktuálně zveřejněná komplexní aktualizace koordinovaného plánu přináší konkrétní společné kroky, jež mají v rámci spolupráce zajistit, aby veškeré úsilí bylo v souladu s evropskou strategií pro umělou inteligenci a Zelenou dohodou pro Evropu, a zároveň zohlednit nové výzvy související s důsledky pandemie Covid-19. Aktualizace přináší vizi, jak urychlit investice do AI, jež může napomoci oživení. Má rovněž urychlit provádění vnitrostátních strategií v oblasti UI, odstranit roztříštěnost a řešit globální výzvy.
Aktualizovaný koordinovaný plán by měl využít finanční prostředky přidělené prostřednictvím programů Digitální Evropa a Horizont Evropa, facility na podporu oživení a odolnosti, která má 20% cíl v oblasti digitálních výdajů, a programů politiky soudržnosti. Tyto prostředky budou vynaloženy za těmito účely:

-    vytvářet příznivé podmínky pro vývoj a zavádění AI díky výměně poznatků o politikách, sdílení údajů a investicím do kritických výpočetních kapacit,
-    podpořit AI nejvyšší úrovně „z laboratoře až na trh“ vytvářením partnerství veřejného a soukromého sektoru, budováním a mobilizací výzkumných, vývojových a inovačních kapacit a zpřístupňováním testovacích a experimentálních zařízení a center pro digitální inovace malým a středním podnikům a orgánům veřejné správy,
-    zajišťovat, aby AI působila ve prospěch občanů a zlepšovala životní podmínky ve společnosti,
-    budovat strategické vedení v odvětvích a technologiích s velkým dopadem, včetně životního prostředí, a to zaměřením se na příspěvek AI v oblasti udržitelné výroby, zdraví (prostřednictvím rozšíření přeshraniční výměny informací), a také ve veřejném sektoru, v oblasti mobility, vnitřních věcí, zemědělství a robotiky.

AI a nařízení o strojních zařízeních
Nezávisle na nařízení o AI byl Komisí schválen návrh nařízení Evropského parlamentu a Rady o strojních výrobcích (COM (2021) 202), které zajišťuje, že nová generace strojních zařízení zaručí bezpečnost uživatelů a spotřebitelů, a podporuje inovace. Mezi strojírenská zařízení patří široká škála spotřebních a profesionálních výrobků, od robotů (čistících robotů, robotů osobní péče, kolaborativních robotů, průmyslových robotů) až po sekačky na trávu, 3D tiskárny, stavební stroje, průmyslové výrobní linky.  
Nařízení o strojních nařízeních volně doplňuje nařízení o AI. Nařízení o AI se zabývá bezpečnostními riziky systémů AI zajišťujících bezpečnostní funkce ve strojních zařízeních, zatímco nařízení o strojních zařízeních v příslušných případech zajistí bezpečné začlenění systému AI do celého strojního zařízení, aby nebyla ohrožena bezpečnost strojního zařízení jako celku. Nařízení o strojních zařízeních mj. upraví některé oblasti, pokud jde o oblast působnosti, definice a bezpečnostní požadavky, s cílem zvýšit právní jasnost a zohlednit nové vlastnosti strojních zařízení. Kromě toho se další prvky snaží zajistit vysokou úroveň bezpečnosti, a to stanovením klasifikačních pravidel pro vysoce riziková strojní zařízení a zavedením posuzování shody u strojních zařízení, která byla podstatně změněna.
Podniky budou muset k dosažení souladu s nařízením o AI i nařízením o strojních zařízeních provádět pouze jedno posouzení shody. Mezi strojní výrobky patří široká škála výrobků pro běžné spotřebitele i profesionály, od robotů a sekaček na trávu přes 3D tiskárny a stavební stroje až po průmyslové výrobní linky.

Další legislativní postup
Evropský parlament a členské státy budou přijímat návrhy Komise týkající se evropského přístupu k umělé inteligenci a ke strojním výrobkům řádným legislativním postupem. Po přijetí budou nařízení přímo použitelná v celé EU. Souběžně s tím bude Komise pokračovat ve spolupráci s členskými státy na uskutečňování kroků oznámených v koordinovaném plánu.

Petr Mišúr

Státy EHP, které zavedly vnitrostátní strategii AI
Vnitrostátní strategie pro umělou inteligenci přijalo celkem 19 členských států (Bulharsko, Česká republika, Dánsko, Estonsko, Finsko, Francie, Kypr, Litva, Lotyšsko, Lucembursko, Maďarsko, Malta, Německo, Nizozemsko, Portugalsko, Slovensko, Švédsko a nejnověji v prosinci 2020 Španělsko a Polsko) a Norsko.

Publikováno: 18. 6. 2021 | Počet zobrazení: 1072 215