- Tvůrci ChatGPT prý interně řeší, jak vydat dávno připravenou technologii vodoznaku
- Vodoznak by potenciálně pomohl s plagiátorstvím a dezinformacemi
- Až 30 % uživatelů ChatGPT prý ale něco takového odmítá
V OpenAI to prý zase interně vře. Na vině má být zatím nezveřejněný nástroj pro detekci textu generovaného umělou inteligencí, tedy v podstatě jakýsi „vodoznak“ pro text.
Jak na identifikaci AI obsahu?
Přestože je technologie údajně velmi přesná a může se pochlubit až 99,9% účinností, obavy z možného zneužití a negativního dopadu na uživatele vedly k opatrnému přístupu a možné vydání nástroje pro širokou veřejnost brzdí.
Technika vodoznaku, kterou si v OpenAI sami vyvinuli, jemně upravuje volbu slov tak, aby v generovaném textu vytvořila zjistitelný vzor. Mohlo by se tak jednat o nesmírně cenný nástroj pro pedagogy a další osoby, které se snaží identifikovat obsah vytvořený umělou inteligencí, zejména s ohledem na obavy o akademickou integritu a šíření dezinformací.
Firma se prý ale také obává možných nevýhod, v čele s odrazením uživatelů od používání ChatGPT nebo odrazování od legitimního používání AI nástrojů pro uživatele využívající ChatGPT jako jazykového pomocníka.
Uživatelům se to nelíbí
Jedním z klíčových faktorů pro ono pomyslné sešlápnutí brzdy má být zpětná vazba uživatelů ChatGPT. Průzkum OpenAI měl totiž ukázat, že téměř 30 procent uživatelů by v případě zavedení vodoznaku využívalo ChatGPT méně. Používá snad společnost dotazování ChatGPT nějakým méně košer způsobem, a tím pádem by se bála, že ji díky vodoznaku někdo plácne přes prsty?
OpenAI je tak prý v současné době v rozkolu, kdy část zaměstnanců lobuje za to, aby byl vodoznak nezbytným krokem k řešení možného zneužití textu generovaného umělou inteligencí. Zatímco druhá část firmy prý případné plagiátorství zase tolik neřeší a snaží se zuby nehty vyhnout všemu, co by jakkoliv ohrozilo zisky.
Půjde to i jinak?
Společnost tak prý zkoumá alternativní metody, které mohou být pro uživatele méně rušivé, například vkládání metadat do textu, ale jejich účinnost zatím není tak jistá jako v případě vodoznaku.
V reakci na zprávy o vodoznaku OpenAI potvrdila, že výzkum sice probíhá, ale zdůraznila „uvážlivý přístup“ vzhledem k jeho složitosti. OpenAI na svém webu vyzdvihla, že je důležité zvážit rizika a přínosy, včetně možnosti obcházení ze strany škodlivých subjektů a nezamýšlených důsledků pro určité skupiny uživatelů. Firma prý také aktivně zkoumá metody, díky kterým by mohly být vodoznaky odolnější vůči neoprávněným zásahům a méně pravděpodobně stigmatizovaly určité skupiny uživatelů.
