- Od srpna 2026 platí v EU nová pravidla pro označování obsahu vytvořeného umělou inteligencí
- Cílem je usnadnit rozpoznání chatbotů, deepfake i dalšího AI obsahu a omezit podvody
- Regulace má ale i své díry, nejasná pravidla nebo riziko větší a nákladnější byrokracie
Evropská unie (EU) je prvním a zatím jediným regionem na světě, kde byla zavedena plošné regulace umělé inteligence. Nyní přišel další významný krok: od 2. srpna 2026 začala platit část nařízení AI Act, která se zaměřuje především na transparentnost. Nová pravidla mají zajistit, aby lidé poznali, kdy komunikují s umělou inteligencí nebo kdy sledují obsah vytvořený či výrazně upravený pomocí AI. Co to pro vás znamená?
ℹ️ Stačí jeden klik! Přidejte si nás mezi mezi preferované weby, případně nás sledujte v Google Zprávách, nebo na Seznam.cz
EU chce, abyste každý poznal AI
Na první pohled jde o rozumnou myšlenku. Generativní umělá inteligence se během posledních dvou let stala součástí každodenního života a současně s tím výrazně usnadnila práci podvodníkům – ať už snadnější tvorbou falešných fotografií, videí nebo hlasových nahrávek. Evropská komise proto tvrdí, že větší transparentnost pomůže omezit podvody, dezinformace i manipulaci s veřejným míněním.
Jenže stejně jako u většiny evropských regulací se už nyní objevují otázky, zda nová pravidla nepřinesou více administrativních výdajů než skutečného užitku. Jednou z nejviditelnějších změn je povinnost informovat uživatele, pokud komunikují se systémem umělé inteligence. Typickým příkladem jsou chatboti zákaznické podpory. Pokud vám odpovídá AI místo skutečného operátora, mělo by to být jasně uvedeno. Podobná pravidla se mohou týkat také hlasových asistentů, automatických telefonních linek nebo dalších služeb, kde by si člověk mohl snadno myslet, že komunikuje s živou osobou.
V druhé větvi se nařízení zaměřuje na obsah vytvořený generativní AI. Vývojáři těchto systémů musí zajistit, aby bylo možné AI obrázky, videa nebo zvukové nahrávky rozpoznat. Nejde jen o viditelné upozornění pro uživatele, ale také o technická metadata nebo digitální vodoznaky, které mohou pomoci při ověřování původu obsahu.
Velkou pozornost věnuje AI Act také deepfake videím. Pokud umělá inteligence vytvoří nebo výrazně upraví realistický záznam skutečné osoby, měl by být takový materiál označen jako syntetický nebo uměle upravený.
Co přesně AI Act řeší?
AI Act není jen o označování AI obsahu. Evropské nařízení rozděluje systémy umělé inteligence podle míry rizika – od zakázaných aplikací přes vysoce rizikové systémy až po běžné generativní modely typu ChatGPT nebo Gemini. Od srpna 2026 začala platit především pravidla týkající se transparentnosti, tedy povinnost informovat uživatele o využití AI a označovat některé typy syntetického obsahu.
Tohle dává smysl
Jen málokdo dnes zpochybňuje, že realistické AI podvrhy představují rostoucí problém. Technologie, které byly ještě před několika lety dostupné jen velkým studiím, dnes zvládne používat prakticky každý. Stačí běžný počítač a předplatné některé z AI služeb. Právě deepfake videa se stále častěji objevují při podvodech, vydírání nebo šíření dezinformací. Vytvořit falešný telefonát, hlasovou zprávu nebo video známé osobnosti, například prezidenta Petra Pavla, jak vám doporučuje investovat do kryptoměn, je dnes otázkou několika minut.
From 2 August, EU rules require disclosure of the professional use of generative AI if:
🔹Content can be mistaken for real people, places, events
🔹Text on matters of public interest had no human review
🔹User is interacting with a chatbot📷AI Modified-©nejdetduzen/Adobe Stock pic.twitter.com/ERs99hbSKg
— European Parliament (@Europarl_EN) August 2, 2026
V tomto směru dává evropská regulace poměrně velký smysl. Pokud bude uživatel předem vědět, že sleduje obsah vytvořený AI, může k němu přistupovat opatrněji. Stejně logická je také povinnost přiznat používání chatbotů. V době, kdy jsou konverzační modely stále přesvědčivější, je fér dát uživateli jasně vědět, že na druhé straně nesedí skutečný člověk.
Pozitivem je i to, že pravidla platí pro všechny společnosti, které své AI služby nabízejí uživatelům v Evropské unii. Nezáleží tedy na tom, zda jde o americký technologický gigant, českého mobilního operátora nebo libovolný startup.
Právě tady ale začínají první pochybnosti. Vzpomínáte si, jak vypadal internet po zavedení GDPR? Prakticky každá webová stránka začala zobrazovat cookie lištu. Zpočátku šlo o novinku, dnes většina lidí tato upozornění automaticky odklikne, aniž by jim věnovala jedinou vteřinu pozornosti.
Někteří odborníci varují, že něco podobného může nastat i u označování AI. Pokud budou štítky upozorňující na použití umělé inteligence přítomné u fotografií, videí, chatbotů, vyhledávačů, překladačů nebo kancelářských aplikací, lidé si na ně velmi rychle zvyknou. Po několika měsících je mohou začít ignorovat stejně jako dnes ignorují většinu cookie upozornění. Prostě jen další otravná lišta…
Transparentnost pak sice bude formálně splněná, ale svůj hlavní účel už plnit nemusí.
Definice „AI obsahu“ budí rozpaky
Ještě složitější otázkou je samotná definice AI obsahu. Co když novinář napíše celý článek sám, ale nechá si od AI opravit pravopis? Nebo fotograf odstraní rušivý objekt pomocí funkce generativního vyplnění ve Photoshopu? Je AI dílem fotografie, kterou telefon automaticky doostřil nebo upravil expozici pomocí algoritmů strojového učení?
Samé otázky. Evropská komise ve svých materiálech přitom velmi vágně definuje onen problematický AI obsah: „Syntetický obsah je informace bez ohledu na formát (text, obraz, zvuk či video), která byla vytvořena nebo upravena systémem umělé inteligence.“
Zaměřte se na formulaci „vytvořena nebo upravena“. Dále totiž Komise uvádí, že povinnost označovat AI obsah „se nevztahuje na případy, kdy systémy umělé inteligence plní podpůrnou funkci při běžné úpravě textu nebo podstatným způsobem nemění vstupní data poskytnutá provozovatelem ani jejich sémantiku, ani na případy, kdy jsou ze zákona oprávněny odhalovat, předcházet, vyšetřovat nebo stíhat trestné činy“.
To znamená, že když ChatGPT opraví článek po stylistické stránce, Photoshop odstraní šum a podobně, nejde podle Komise o AI generovaný obsah. Rozhodující je, zda AI vytváří nebo podstatně manipuluje obsah, nikoliv zda autor použil AI jako pomocný nástroj. To bohužel otevírá cestu různým kličkám v tomto zákoně.
Kdo chytí podvodníky s AI?
Možná největší slabinou celé regulace je ale její praktická vymahatelnost. Poctivé firmy pravděpodobně nové povinnosti splní. Přidají štítky, metadata i potřebná upozornění. Jenže člověk, který vytvoří falešné video politika, bankéře nebo ředitele firmy s cílem někoho podvést, se evropským nařízením nejspíš řídit nebude. Je těžké představit si, že by podvodník dobrovolně přidal ke svému deepfake videu upozornění, že jde o uměle vytvořený obsah.
AI is the most important technology of our time.
Europe wants to become the first AI Continent.
For advanced healthcare, for the transport sector and so much more.
European AI Gigafactories will provide the necessary computing power to make this possible.
Together with our… pic.twitter.com/FdOSqYbTiu
— Ursula von der Leyen (@vonderleyen) July 30, 2026
Regulace tak může paradoxně nejvíce zatížit právě ty společnosti, které se pravidly řídí už dnes, zatímco skuteční podvodníci je jednoduše obejdou. Předsedkyně Evropské komise Ursula von der Leyen ve svém prohlášení z konce července uvedla, že chce mít z Evropy „první AI kontinent“. Těžko si přiznat, že složitou regulací toho lze docílit.
Dobrý záměr, složitá realita
AI Act řeší problém, který skutečně existuje. Schopnosti generativní umělé inteligence rostou obrovským tempem a společnost se bude muset naučit rozlišovat mezi skutečností a syntetickým obsahem; dokud to ještě jde. Požadavek na větší transparentnost proto není sám o sobě kontroverzní.
Otázkou ale zůstává, zda současná podoba pravidel dokáže tohoto cíle dosáhnout. Pokud se upozornění na použití AI objeví téměř všude, mohou se stát jen dalším prvkem digitálního prostředí, který budou lidé automaticky přehlížet. A podvodníci, kteří zatím pomocí AI způsobují rekordní škody, jsou tak trochu z obliga.
Jakub Fišer
Další dnešní články
