- OpenAI přidá v následujících týdnech do ChatGPT a Codexu neviditelný vodoznak, a to jen v EU
- Zákazníci API si vodoznak mohou zapnout po celém světě, detektor ale zatím dostanou jen schválení výzkumníci a odborné organizace
- Podle testů OpenAI detektor hůř poznává krátké texty a matematiku
OpenAI oznámila, že v následujících týdnech začne do textů z ChatGPT a Codexu přidávat neviditelný vodoznak. Dostanou ho způsobilí zákazníci ve všech tarifech, ale jen v Evropské unii. Důvodem je AI Act, který po poskytovatelích generativní AI vyžaduje strojově čitelné označení výstupů.
ℹ️ Stačí jeden klik! Přidejte si nás mezi mezi preferované weby, případně nás sledujte v Google Zprávách, nebo na Seznam.cz
Podpis ukrytý ve výběru slov
Systém jménem textGrain přidává do výběru slov skrytý statistický signál, který čtenář nepozná, ale detektor ho najde. Podle firmy se ve vlastních testech vyrovnal konkurenčním přístupům včetně SynthID od Googlu, případně je překonal, a u modelu Astra prý vodoznak na výsledcích benchmarků nic významného nezměnil. Technologii hodlá zveřejnit jako open source.
Do výchozího nastavení pro celý svět vodoznak zatím nepřijde, regionální start totiž firmě dává prostor poučit se z reálného provozu. Zákazníci API si ho ale od pondělí mohou u vybraných modelů zapnout kdekoli na světě, v základu zůstává vypnutý. Do pár týdnů má taky přibýt nabídka přes cloudové partnery.
Slabiny z první ruky
Při cílové míře falešných poplachů 1 % našel detektor vodoznak zhruba v 80 % textů o 200 tokenech a v 95 % textů o 400 tokenech, a to na tématech typu psychologie. U matematiky, kde je ve výběru slov menší volnost, vycházejí výsledky znatelně hůř.
Upravené texty dopadly citelně hůř. U odpovědí o 400 tokenech klesla detekce po výměně 10 % slov za synonyma z přibližně 92 na 66 %, po výměně čtvrtiny slov dokonce na 17 %. Testy s úpravami přitom běžely na anglických odpovědích, o dalších jazycích oznámení mlčí.
Kdo smí hledat
Přístup k detektoru proto OpenAI zatím omezil na schválené výzkumníky a odborné organizace, o jejichž žádostech rozhoduje případ od případu. Veřejnosti ho kvůli riziku přehlédnutých vodoznaků i falešných poplachů nezpřístupnil. Nástroj jen oznámí, zda našel vodoznak OpenAI, a nevyzradí autora ani zadání. Chybějící značka navíc nedokazuje lidské autorství, protože text mohl být příliš krátký, upravený či přeložený, nebo vznikl v nástrojích jiné firmy. Ověřování obrázků a zvuku zůstává veřejné.
Podle novely AI Actu mají poskytovatelé, jejichž systémy byly na trhu už před 2. srpnem 2026, na strojově čitelné značení čas do 2. prosince 2026. Anthropic oznámil vodoznak pro nové modely Claude už 14. srpna a zavádí ho globálně, protože zatím nemá spolehlivý způsob, jak ho omezit podle regionů.
