V Číně způsobila pozdvižení aplikace Zao, která dokáže velmi přesvědčivě nahradit obličej známých herců ve filmech tím vaším. Představena byla teprve v pátek, ale brzy se stala jednou z nejstahovanějších aplikací v čínském iOS App Store (v tom českém ji ale nenaleznete).
Podobně jako nedávno aplikace Face App však i tento počin není bez kontroverzí. Podle smluvních podmínek totiž veškerá uživatelem vygenerovaná data patří vývojářům a mají na ně permanentní, neodvolatelná, převeditelná a relicensovatelná práva, to vše samozřejmě bez nároku na odměnu pro uživatele. Za aplikací stojí společnost Momo, která provozuje sociální síť a IM komunikátor.
Dá se ještě videu věřit?
Na Zao upozornil na Twitteru Allan Xia, který sdílel půlminutový klip, v němž jeho obličej nahradil Leonarda DiCapria v několika filmech. Podle Allana je aplikace schopna video vygenerovat z jediné fotky. Bloomberg nicméně podotýká, že v jejich testování aplikace žádala pořídit více snímků, například s otevřenou pusou a podobně.
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT
— Allan Xia (@AllanXia) September 1, 2019
Aplikace nabízí jen omezený počet klipů, vaši tvář tedy nedokáže dosadit do jakéhokoliv videa. Podle odborníků je tak zřejmě její umělá inteligence vycvičena speciálně pro několik vybraných videí. I tak jde však o velmi zajímavý počin, neboť výsledná videa působí opravdu přesvědčivě. Opět se tak oživila debata o tom, že se neodvratně blíží doba, kdy videa přestanou být důvěryhodným důkazním prostředkem. Když i zdarma dostupné mobilní aplikace dokáží dosáhnout takto kvalitních výsledků, je jasné, že profesionální software dokáže vše posunout ještě o úroveň dál.
Vraťme se ale ještě k problematice podmínek aplikace. Vývojáři v reakci na kritiku slíbili, že uživatelská data bez souhlasu nevyužij na nic jiného, než zdokonalení aplikace. Uživatelům také přibyla možnost odstranit svá data z čínských serverů. Zejména v souvislosti s Čínou je však třeba podotknout, že bát se zneužití je opravdu na místě.
Čína totiž stejně jako jiné země využívá policejní kamery se schopností rozpoznat obličeje. V případě komunistické země je však tento dohled „velkého bratra“ doveden k dokonalosti a husté pokrytí kamerami bezpečnostní složky patřičně využívají. To se ostatně ukázalo nyní při protestech v Hongkongu, kde policie vyhledává a zatýká protestující právě na základě automatické detekce obličejů na kamerových záznamech.
