Nová povinnost pro firmy zabývající se umělou inteligencí
Od února letošního roku začala platit část AI aktu, která se týká zakázaných praktik, a tím i nová povinnost pro firmy vycházející z nařízení EU AI Act a článku 4. Vztahuje se na všechny subjekty, jež vyvíjejí nebo implementují umělou inteligenci.
Jak upozorňuje Česká asociace umělé inteligence (ČAUI), zvlášť zbystřit a mít se na pozoru by měly organizace, které vyvíjejí nebo implementují vysoce rizikové AI systémy. Právě pro ně budou totiž platit přísnější požadavky, včetně nutnosti zajištění lidského dohledu nad výstupy těchto technologií. Firmy nyní mají půl roku na přípravu – od srpna 2025 by měl totiž začít ostrý dohled a sankcionování porušení pravidel.
Ačkoli nové předpisy nejsou mediálně avizovány bombastickými titulky, neznamená to, že by jejich porušení procházelo bez povšimnutí, ačkoli pokuty podle všeho zatím udíleny nebudou. Důvodem je mj. skutečnost, že v ČR dosud neexistuje (a tedy ani nefunguje) žádný úřad, který by povinnosti vyplývající ze zmíněného nařízení vymáhal, a ačkoli sankční ustanovení AI Act začnou platit od 2. srpna letošního roku a článek 4 mezi nimi přímo nefiguruje, tento stav nebude patrně trvat věčně. Navíc může být nízká úroveň AI gramotnosti v budoucnu přitěžující okolností při posuzování dodržování dalších povinností.
Na vlnu nových povinností vyplývajících z předpisů, nicméně už stačili hbitě naskočit ti, kdo se snaží využít obav z dopadu nových předpisů k snadným ziskům – při porušení pravidel systémy umělé inteligence totiž může hrozit drakonický postih. Firmy, které vyvinou nebo použijí AI v rozporu s AI Actem, mohou čelit pokutám až 7 % svého ročního obratu nebo 35 mil. Eur.
V poslední době se tak na českém trhu začaly objevovat nabídky různých webinářů a certifikací slibujících snadné splnění požadavků zmíněného článku 4. Jak nicméně upozorňuje ČAUI (která na svém webu https://asociace.ai/eu-ai-act/) nabízí i detailní informace k dokumentu EU AI Act, takovéto univerzální kurzy a instantní certifikáty nemají žádnou oficiální platnost a nejsou nutné.
„Pokud organizace skutečně potřebují formální potvrzení o vzdělávání v oblasti AI, doporučuji se zaměřit na individualizované interní školení nebo dlouhodobé vzdělávací programy zaměřené na praktické využití umělé inteligence,“ říká Lukáš Benzl, ředitel ČAUI.
Pokyny k zakázaným praktikám umělé inteligence podle EU AI Act zveřejnila v únoru Evropská komise na svém oficiálním webu. I když nejsou přímo právně závazné, dávají jasnou představu o tom, co už v EU s umělou inteligencí není možné dělat, a co už může být „za hranou“. Pro lepší představu může posloužit i následující výpis nejdůležitějších bodů ze zmíněného dokumentu, shrnující pokyny, které prakticky popisují zakázané praktiky.
- AI nesmí manipulovat podprahovými technikami
Reklamy nebo chatboty nesmí ovlivňovat lidi skrytými signály, které obcházejí jejich vědomé rozhodování. Což znamená konec praktik tzv. neuromarketingu, který působí na podprahové ovlivňování vůle lidí bez jejich vědomí.
- Žádná AI nesmí zneužívat slabiny lidí
AI nesmí cílit na děti, seniory, osoby s postižením nebo lidi v tíživé finanční situaci a ovlivňovat jejich chování ve svůj prospěch.
- Sociální skórování v EU není povoleno
Sociální skórování s dopadem na přístup k běžným službám (jako je např. systém „hodnocení občanů“ podle jejich chování, fungující v Číně apod.) je v EU zcela zakázané.
- Zakázán je automatický sběr obličejů z internetu
Firmy nesmí hromadně sbírat a analyzovat snímky obličejů z webu nebo záběry z bezpečnostních kamer k vytvoření databází pro rozpoznávání tváří.
- Rozpoznávání emocí na pracovišti
Umělá inteligence nesmí analyzovat emoce zaměstnanců v práci nebo studentů ve školách – s výjimkou zdravotních a bezpečnostních důvodů, tzn. výhradně pro lékařské účely.
- Omezení biometrické kategorizace
AI nesmí analyzovat biometrické údaje a zařazovat a systemizovat lidi podle rasy, politických názorů, víry nebo sexuální orientace.
- Využití AI v policejních či dohledových službách
Policie nemůže sledovat lidi pomocí AI v reálném čase (až na zákonem stanovené výjimky). Systémy pro biometrickou identifikaci na veřejných místech v reálném čase nejsou povolené, s výjimkou hledání pohřešovaných osob, pátrání po nebezpečných pachatelích nebo k zabránění teroristických hrozeb. Zakázané jsou rovněž prediktivní AI systémy, tzn. snahy předpovídat zločince jen na základě osobnosti (podobně jako např. funguje systém ve známém sci-fi filmu Minority report).
Jan Přikryl
Foto: Artificialintelligenceact.eu
2
