DOHLED NAD UMĚLOU INTELIGENCÍ
Co je AI Akt a proč se vás týká
AI dnes rozhoduje o věcech, které se vás přímo týkají. Od reklam po žádosti o půjčku. AI Akt vám dává jistotu, že tato rozhodnutí budou férová, průhledná a pod kontrolou. Ukážeme vám, jaká máte práva.
Co pro vás AI Akt znamená
Zákaz manipulace a neviditelného sledování
Právo vědět, že mluvíte s AI
AI transparentnost a ochrana před deepfake
Právo na vysvětlení AI rozhodnutí, která vás zásadně ovlivňují
Právo na přezkum AI rozhodnutí, které vás zásadně ovlivňují
Co už dnes AI dělat nesmí
Zakázané praktiky platí už dnes, i bez národního zákona. Hlavní rolí ČTÚ je nyní edukovat a vysvětlovat, co pravidla znamenají v praxi.
ZAKÁZÁNO
Manipulace a zneužívání
Podprahová manipulace a zneužití zranitelnosti, třeba věku nebo zdravotního stavu.
ZAKÁZÁNO
Sledování a hodnocení
Social scoring, prediktivní policejní systémy a rozpoznávání emocí ve škole či práci.
ZAKÁZÁNO
Biometrie
Plošný scraping obličejů z internetu a nedovolená biometrická identifikace či kategorizace.
Videa #AIPRAVIDLA
Video
Video
Video
Časté otázky
Jak přesně AI Akt reguluje deepfake obsah?
AI Akt nezakazuje vytváření deepfake obsahu jako takového. Zaměřuje se především na transparentnost – tedy aby uživatelé věděli, že pracují s obsahem vytvořeným nebo upraveným pomocí umělé inteligence. Součástí těchto pravidel je také požadavek na technické označování takového obsahu, které může usnadnit jeho pozdější identifikaci.
Současně ale neplatí, že by jakékoli vytváření nebo šíření deepfake obsahu bylo automaticky povolené. Škodlivé způsoby využití této technologie mohou být postižitelné podle dalších právních předpisů, například v oblasti trestního práva, ochrany osobnosti nebo ochrany osobních údajů.
Za významný krok lze považovat také skutečnost, že AI Akt od 2. prosince 2026 zakáže určité systémy umělé inteligence umožňující vytváření realistických intimních materiálů zneužívajících identitu skutečné osoby bez jejího souhlasu. Cílem tedy není zakázat technologii jako takovou, protože ta může mít řadu legitimních využití například v oblasti vzdělávání, vědy, medicíny nebo umění, ale omezit její škodlivé použití.
Koho se AI Akt týká?
Poskytovatel AI systému
Musí v prvé řadě zajistit, aby jimi vyvíjené tzv. vysoce rizikové AI systémy byly bezpečné a spolehlivé. Za tímto účelem musí plnit požadavky zahrnující oblasti řízení rizik, transparentnosti pro uživatele, lidského dohledu, práce s daty, technické dokumentace, logování či oznamování závažných incidentů. Další povinnosti se týkají kupříkladu označování „syntetického obsahu“ vytvářeného AI systémy či registrace AI systémů v databázi EU.
Dovozce a distributor AI systému
Každý má specifické povinnosti spíše administrativního charakteru odvíjející se od jeho postavení v dodavatelském řetězci.
Organizace používající AI systémy (zavádějící subjekty)
Jsou povinny zejména používat vysoce rizikové AI systémy v souladu s návodem k použití a pod dohledem kvalifikované osoby, monitorovat jejich provoz či oznamovat závažné incidenty. Ve vybraných případech musí např. posoudit dopady použití AI systému na základní práva, zaregistrovat jejich používání v databázi EU nebo informovat dotčené zaměstnance a další osoby, že budou působení AI systému vystaveni.
Jaká pravidla platí od 2. srpna 2026?
Povinnost informovat o komunikaci se systémem AIUstanovení čl. 50 odst. 1 AI Aktu ukládá poskytovatelům systémů AI zajistit, aby fyzické osoby byly náležitým způsobem informovány o tom, že komunikují s chatbotem, voicebotem nebo jiným systémem určeným k přímé interakci s fyzickými osobami, náležitým způsobem.
Označování obsahu vytvořeného pomocí AIČTÚ připomíná, že podle čl. 50 odst. 2 se povinnost poskytovatelů AI systémů zajistit, aby výstupy těchto systémů byly řádně označeny ve strojově čitelném formátu a byly tak i detekovatelné, vztahuje na veškerý zvukový, obrazový, video nebo textový obsah, krom stanovených výjimek. Naproti tomu povinnost zavádějícího subjektu podle čl. 50 odst. 4 se vztahuje toliko na tzv. deep fake a texty zveřejňované za účelem informování veřejnosti o záležitostech veřejného zájmu. Pokud je tedy obrazový, zvukový nebo video obsah vytvořen nebo významně upraven zavádějícím subjektem pomocí AI způsobem, který může vzbudit dojem autenticity, vzniká povinnost informovat veřejnost o tom, že byl tento obsah vytvořen nebo upraven za pomoci umělé inteligence. Totéž platí pro text, jenž je zveřejněn za účelem informování veřejnosti o záležitostech veřejného zájmu, generovaný nebo manipulovaný AI systémem. ČTÚ v tomto směru upozorňuje, že podle čl. 50 odst. 5 AI Aktu je třeba využívat jasné a rozlišitelné způsoby označení. V praxi lze využít například označení nebo ikony typu „AI generated“ pro plně generovaný obsah nebo „AI modified“ pro obsah upravený pomocí AI. Příklady vhodných způsobů označení lze nalézt v Kodexu správné praxe pro transparentnost AI generovaného obsahu.
Rozpoznávání emocí a biometrická kategorizacePodle čl. 50 odst. 3 mají zavádějící subjekty využívající systémy AI pro rozpoznávání emocí nebo biometrickou kategorizaci fyzických osob povinnost řádně informovat o jejich použití každou dotčenou fyzickou osobu.ČTÚ rovněž připomíná, že AI Akt stanoví řadu výjimek z výše uvedených pravidel, kupříkladu pro účely související s odhalováním trestné činnosti apod., a doporučuje dotčeným subjektům vyhodnotit, zda daná činnost nespadá pod některou z těchto výjimek.
Týká se povinnost označovat AI generovaný obsah i médií?
Obecně platí, že podle AI Aktu nemají média výjimku, jsou subjekty jako všechny ostatní, AI Aktu podléhají a musí podle něj jednat. Nicméně bychom rádi upozornili na výjimku z povinnosti uvádět, že k vytvoření či úpravě textu sloužícího k informování veřejnosti o záležitostech veřejného zájmu byla využita umělá inteligence v případech, kdy takový text následně prošel procesem přezkumu člověkem nebo redakční kontroly a pokud za jeho zveřejnění nese redakční odpovědnost (konkrétní) fyzická nebo právnická osoba.