- Letošní americké prezidentské volby budou prvním zásadním testem zneužívání AI
- OpenAI proto zavádí přísná pravidla pro využívání ChatGPT a Dall-e
- Nad potenciálním zneužitím open source projektů ale visí otazník
Ve snaze ochránit integritu letošních amerických prezidentských voleb zavádí OpenAI přísná pravidla týkající se využití ChatGPT i Dall-e. Opatření, která byla původně podrobně popsána na blogu společnosti OpenAI a o nichž informoval deník The Wall Street Journal, mají za cíl bojovat proti zneužívání umělé inteligence při činnostech souvisejících s volbami.
Jasné zákazy i opatření
Klíčovým opatřením je zákaz používání nástrojů OpenAI k vydávání se za volební kandidáty nebo místní samosprávy. Kromě toho nelze tyto nástroje používat k vedení volebních kampaní, lobbování nebo k jakýmkoli činnostem, které by mohly odrazovat od hlasování nebo zkreslovat volební proces.
Pro zvýšení autenticity obrázků generovaných umělou inteligencí plánuje OpenAI integrovat do obrázků vytvářených pomocí svého Dall-E digitální pověření od Koalice pro prokazování pravosti obsahu (Coalition for Content Provenance and Authenticity, C2PA).
Tento systém, který přijímají i velcí technologičtí hráči, jako jsou Microsoft, Amazon, Adobe a Getty, zakóduje obrázky informacemi o jejich původu, což usnadní rozlišení obrázků generovaných umělou inteligencí od autentických.
Nástroje OpenAI navíc uživatele s dotazy týkajícími se hlasování přesměrují na web CanIVote.org, tedy spolehlivý online zdroj informací o hlasování v USA.
První zatěžkávací zkouška
Americké prezidentské volby budou prvním opravdu zásadním testem pro masové využívání, či lépe řečeno potenciální zneužívání nástrojů umělé inteligence a bude zajímavé sledovat, jak se s takovou výzvou všichni poperou. Jak technologické firmy, tak sociální sítě a v neposlední řadě samozřejmě i samotní správci kampaní jednotlivých kandidátů.
Jestli budou výše zmíněná opatření a zákazy skutečně fungovat, se uvidí nejspíše až v příštím roce (volby budou vrcholit na přelomu října a listopadu), kdy usedne prach a bude čas a klid na vyhodnocení toho, co fungovalo, a toho, co se nepovedlo. Nicméně je potřeba připomenout, že OpenAI je sice možná nejviditelnější a nejdůležitější firmou s vlastním modelem umělé inteligence (respektive velkého jazykového modelu), nicméně není ani zdaleka jediná.
A je s otazníkem, jak se k volbám, lépe řečeno k potenciálnímu zneužití nástrojů umělé inteligence, postaví ostatní v čele s Googlem, Metou, Microsoftem nebo třeba Anthropicem. A zatímco od těchto firem můžeme očekávat snahu o zodpovědný přístup, pořád tu máme především open source projekty, které jdou zcela mimo jakékoliv případné regulace.
