Do hledáčku nám vstupuje legislativní iniciativa v oblasti umělé inteligence, tentokrát však vnitrostátního charakteru. Proč zde máme a co obsahuje nový návrh zákona o umělé inteligenci? Jaká je jeho vazba na Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (akt o umělé inteligenci) (dále jen „AI Akt“)? Tyto otázky zodpovídáme právě v tomto článku.
AI Akt je přímo použitelným nařízením EU, pravidla z něj vyplývající tak platí jednotně ve všech členských státech. Nicméně i když jde o přímo použitelný právní předpis, neznamená to, že není třeba přijmout doplňující zákony na úrovni jednotlivých členských států. Z AI Aktu přímo vyplývá, že některé otázky jsou přenechány přímo členským státům k jejich vlastní vnitrostátní úpravě. AI Akt zejména ukládá nové povinnosti pro orgány státní správy a veřejného sektoru, přičemž se tedy typicky jedná o procesní otázky, sankční mechanismy či orgány dozoru a další institucionální otázky.
Toto téma, zejména s ohledem na konkrétní dozorové orgány v rámci ČR, jsme částečně rozebrali v našem článku: Druhá vlna povinností dle AI Aktu.
Dle druhé vlny povinností z AI Aktu, účinné od 2. srpna 2025, je totiž Česká republika povinna určit oznamující orgány podle podmínek stanovených v AI Aktu. Adaptační zákon se ale nyní stále připravuje. V tuto chvíli prochází legislativním procesem Návrh zákona o umělé inteligenci a o změně zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů, ve znění pozdějších předpisů (dále jen „Návrh zákona o umělé inteligenci“). Návrh zákona o umělé inteligenci připravilo po konzultacích s odborníky Ministerstvo průmyslu a obchodu, které návrh již vyslalo do meziresortního připomínkového řízení a poté ho předloží vládě. Předpokládá se, že zákon by mohl vstoupit v platnost v průběhu roku 2026.
Níže si blíže rozebereme, co všechno v současné podobě Návrh zákona o umělé inteligenci obsahuje.
Některé povinnosti provozovatelů či konkrétních poskytovatelů AI systémů
Návrh zákona o umělé inteligenci doplňuje k povinnostem z AI Aktu i několik upřesňujících povinností pro provozovatele[1] a poskytovatele AI systémů. Nejvýznamnější z nich je, že poskytovatelé některých vysoce rizikových AI systémů musí oznamovat dodatečné informace o sobě a AI systémech před uvedením na trh nebo do provozu. Adresátem tohoto oznámení je příslušný orgán dozoru, přičemž informace, na které se tato oznamovací povinnost vztahuje, se stanovují po vzoru informací vedených v unijní databázi AI systémů na základě přílohy VIII. AI Aktu.
Kromě oznamovací povinnosti klade zákonodárce na provozovatele a poskytovatele i určité jazykové požadavky. Provozovatel musí orgánu dozoru předložit dokumenty k prokázání shody AI systému v českém, slovenském nebo anglickém jazyce. To stejné se týká i poskytovatelů v případě prohlášení o shodě podle čl. 47 AI Aktu a oznámeného subjektu v případě certifikátu podle čl. 44 AI Aktu.
Zřízení příslušných vnitrostátních orgánů
Jak bylo v úvodu zmíněno, AI Akt klade na členské státy povinnost pověřit či nově zřídit určité vnitrostátní orgány, konkrétně alespoň jeden oznamující orgán a alespoň jeden orgán dozoru nad trhem. Ministerstvo průmyslu a obchodu proto navrhlo stanovit Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ) oznamujícím orgánem podle čl. 70 odst. 1 AI Aktu, tedy bude nově kontrolovat dodržování povinností oznámenými subjekty.
Kromě stanovení oznamujícího orgánu určuje Návrh zákona o umělé inteligenci i tři orgány dozoru nad trhem, přičemž každý vykonává dozor v předem vymezených oblastech. Česká národní banka (ČNB) bude mít na starost dohled nad dodržováním povinností osobami, které podléhají jejímu dohledu, tedy nad finančním sektorem. Příslušnost ČNB k vykonávání dohledu lze podle Návrhu zákona o umělé inteligenci stanovit dvěma kritérii, tedy osoba buď podléhá dohledu ČNB podle zákona o České národní bance[2] nebo vykonává činnost na základě povolení, licence, registrace nebo oprávnění k činnosti uděleného ČNB.
Kromě České národní banky vykonává dozor nad trhem i Úřad pro ochranu osobních údajů (ÚOOÚ), a to v případě dodržování povinností v souvislosti s vysoce rizikovými AI systémy uvedenými v čl. 74 odst. 8 AI Aktu. ÚOOÚ totiž splňuje přísná kritéria stanovená pro orgány dozoru podle tohoto ustanovení AI Aktu.
Posledním ze tří určených orgánů dozoru nad trhem je Český telekomunikační úřad (ČTÚ), který vykonává dozor nad dodržováním povinností v oblastech, kde ho nevykonávají ČNB či ÚOOÚ. Jeho příslušnost je tak zbytková a zajistí, že nebude docházet k prolukám v příslušnosti. Kromě výkonu dozoru nad trhem je ČTÚ zároveň jednotným kontaktním místem pro komunikaci s orgány dle čl. 70 odst. 1 AI Aktu a plní roli příslušného orgánu pro přijímání oznámení o závažných incidentech souvisejících s AI systémy podle čl. 73 odst. 10 AI Aktu. V neposlední řadě by ČTÚ jakožto obecný orgán dozoru a jednotné kontaktní místo měl rovněž vypracovávat zprávu o pokutách podle čl. 99 odst. 11 AI Aktu.
Jelikož čl. 74 odst. 1 AI Aktu výslovně stanoví, že se na AI systémy spadající do jeho působnosti použije nařízení (EU) 2019/1020[3], vztahuje se i na postupy vnitrostátních orgánů dozoru nad trhem zákon o dozoru nad trhem s výrobky[4]. Tím ale nejsou dotčeny kompetence, úkoly, pravomoci a nezávislost ČNB ani povinnost ČNB zachovávat mlčenlivost o všech informacích získaných v souvislosti s výkonem její činnosti.
Některé pravomoci orgánů dozoru
Výše uvedené orgány dozoru nad trhem potvrzují podle čl. 36 odst. 9 AI Aktu, že vysoce rizikové systémy AI, na které se vztahuje dočasná platnost certifikátů shody, nepředstavují riziko pro zdraví, bezpečnost nebo základní práva. Tímto potvrzením se současně prodlužuje platnost příslušných certifikátů. Konkrétní orgán dozoru nad trhem je příslušný k vydání potvrzení vždy vůči poskytovatelům, nad nimiž vykonává dozor. Jednotlivé orgány dozoru si zároveň musí vzájemně vyměňovat informace k zajištění koordinovaného postupu; zejména ČTÚ a ÚOOÚ jsou povinny informovat ostatní orgány dozoru o zahájení kontroly nebo řízení podle tohoto zákona.
Každý orgán dozoru nad trhem si rovněž může v souvislosti s řízením podle AI Aktu nebo tohoto zákona vyžádat stanovisko Národního úřadu pro kybernetickou a informační bezpečnost (NÚKIB) nebo Úřadu pro ochranu osobních údajů (ÚOOÚ), které musí být vydáno bezodkladně.
V návaznosti na možnost svěřit orgánům dozoru nad trhem možnost vydávat donucovací opatření v podobě varování dle čl. 99 odst. 1 AI Aktu se zavádí institut upozornění na porušení povinnosti. Poruší-li provozovatel či oznámený subjekt povinnost z AI Aktu méně závažným způsobem, orgán dozoru nad trhem bude mít možnost jej vyzvat k nápravě porušení v přiměřené lhůtě, která nesmí být kratší než 15 dnů. Pokud vyzvaná osoba zjedná ve lhůtě nápravu a tuto skutečnost orgánu dozoru nad trhem oznámí, vyhne se tak řízení o přestupku, jelikož orgán dozoru usnesením věc odloží a toto usnesení pouze poznamená do spisu.
Veřejný ochránce práv
Česká republika má dle čl. 77 odst. 2 AI Aktu povinnost sestavit, udržovat, zveřejňovat a oznamovat Evropské komisi seznam orgánů chránící základní práva, které splňují kritéria dle čl. 77 odst. 1 AI Aktu. I když už ČR seznam sestavila a Evropské komisi ho oznámila, převezme do budoucna plnění těchto povinností veřejný ochránce práv. Zákonodárce ale v důvodové zprávě[5] k Návrhu zákona o umělé inteligenci zdůrazňuje, že tato skutečnost neznamená, že by veřejný ochránce práv byl příslušným orgánem podle AI Aktu.
Zřízení regulačního sandboxu pro umělou inteligenci
Jednou z nejdůležitějších novinek Návrhu zákona o umělé inteligenci je zřízení regulačního sandboxu podle čl. 57 odst. 1 AI Aktu. Zřizovatelem tohoto sandboxu je stanoven Úřad pro technickou normalizaci, metrologii a státní zkušebnictví, provozovatelem se ale stane Česká agentura pro standardizaci. Provoz regulačního sandboxu bude spočívat v nastavení podmínek jeho provozování a zajištění konkrétních úkonů a jednání souvisejících s tímto provozováním. Jelikož má dle AI Aktu navazující unijní terciární legislativa zajistit, že přístup k regulačnímu sandboxu bude bezplatný pro malé, střední a začínající podniky, je nutné vyčlenit pro to prostředky ve veřejných rozpočtech. O to se postará Ministerstvo průmyslu a obchodu při přípravě rozpočtu pro daný rok.
Provoz regulačního sandboxu a účast v něm bude probíhat na základě soukromoprávní smlouvy. To zajistí vyšší míru flexibility, která umožní snazší a zatím přesněji neupravené fungování sandboxu. Důležité ale je, že účast na regulačním sandboxu bude nenároková, resp. podáním nabídky na účast v regulačním sandboxu nevznikne nárok na uzavření smlouvy o účasti. Přesná, transparentní a nediskriminační kritéria výběru účastníků regulačního sandboxu by měla být vymezena v podmínkách sandboxu vydaných provozovatelem, tj. Českou agenturou pro standardizaci.
V neposlední řadě zákonodárce vyloučil použití § 63 zákona upravujícího výzkum, vývoj, inovace a transfer znalostí[6], jelikož by se úprava v tomto ustanovení dostala do rozporu s požadavky, které na regulační sandbox klade AI Akt.
Zajištění uchování dokumentace po zániku poskytovatele AI systému
Už z AI Aktu plyne poskytovatelům vysoce rizikových AI systémů povinnost uchovávat specifikovanou dokumentaci. Je ale třeba pokrýt i případy, kdy dojde k zániku (popř. úmrtí) poskytovatele nebo jeho zplnomocněného zástupce. Na to Návrh zákona o umělé inteligenci pamatuje a pověřuje určité osoby (nejčastěji likvidátory či insolvenční správce) úschovou této dokumentace po zániku poskytovatele. Tyto pověřené osoby musí zároveň o způsobu úschovy informovat příslušný orgán dozoru nad trhem.
Některé procesní otázky a úprava přestupků
Kromě výše uvedeného upravuje Návrh zákona o umělé inteligenci i dílčí procesní otázky v souvislosti s vysoce rizikovými AI systémy. Mimo jiné určuje, kdo je účastníkem řízení o povolení uvedení na trh nebo do provozu bez posouzení shody, řízení o schválení testování těchto AI systémů či dalších řízení a stanovuje konkrétní lhůty k rozhodnutí.
Zároveň Návrh zákona o umělé inteligenci vymezuje skutkové podstaty přestupků, jejichž horní hranice pokuty je stanovena přímo v čl. 99 AI Aktu, dále přestupků, pro něž AI Akt horní hranici pokuty nestavuje, a přestupků spočívajících v porušení navrhované úpravy. V neposlední řadě Návrh zákona stanovuje i příslušnost vnitrostátních orgánů k projednávání přestupků, která je odvozena od příslušnosti k výkonu dozoru nad trhem. Nadto se v případě přestupků spočívajících v porušení povinnosti související s žádostí o poskytnutí informací ze strany oznámeného subjektu navrhuje jako orgán příslušný k projednání přestupku Úřad pro technickou normalizaci, metrologii a státní zkušebnictví.
Pro přestupky uvedené v tomto zákoně je stanovena jednotná zvláštní promlčecí doba v délce 5 let, přičemž odpovědnost za přestupek zanikne nejpozději 8 let od jeho spáchání.
Závěr
Návrh zákona o umělé inteligenci v souhrnu představuje fakticky pouze nutnou adaptaci na přímo účinný AI Akt. Zároveň ale zavádí podstatné novinky, jako je regulační sandbox, nebo se věnuje dodatečným povinnostem provozovatelů AI systémů a dalších subjektů, tedy částečně doplňuje rámec stanovený AI Aktem.
Je ale otázkou, jaké připomínky vyvstanou po skončení meziresortního připomínkového řízení a v jaké podobě Návrh zákona o umělé inteligenci projde Parlamentem České republiky. V nejbližší době bude pro všechny poskytovatele či provozovatele AI systémů klíčové sledovat vývoj tohoto Návrhu zákona o umělé inteligenci, aby se stihli včas na změny připravit.
V případě jakýchkoli dotazů k tématu právní regulace AI či dalším oblastem EU regulace a compliance jsme Vám v PEYTON legal k dispozici.
[1] Provozovatelem AI Systému se rozumí poskytovatel, výrobce produktu, zavádějící subjekt, zplnomocněný zástupce, dovozce nebo distributor, ve smyslu čl. 3 odst. 8 AI Aktu, tedy fakticky se jedná o nadřazený pojem ke kategorii povinných subjektů dle AI Aktu.
[2] Zákon č. 6/1993 Sb., o České národní bance, ve znění pozdějších předpisů.
[3] Nařízení Evropského parlamentu a Rady (EU) 2019/1020 ze dne 20. června 2019 o dozoru nad trhem a souladu výrobků s předpisy a o změně směrnice 2004/42/ES a nařízení (ES) č. 765/2008 a (EU) č. 305/2011.
[4] Zákon č. 87/2023 Sb., o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů (zákon o dozoru nad trhem s výrobky), ve znění pozdějších předpisů.
[5] Důvodová zpráva k návrhu zákona o umělé inteligenci a o změně zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů, ve znění pozdějších předpisů.
[6] Zákon č. 328/2025 Sb. o výzkumu, vývoji, inovacích a transferu znalostí.
Mgr. Jakub Málek, managing partner – malek@plegal.cz
JUDr. Tereza Pechová, advokátní koncipientka – pechova@plegal.cz
Rozálie Polášková, právní asistentka – polaskova@plegal.cz
30. 10. 2025