- Síť přes 400 aplikací a webů, které se tvářily jako běžné AI nástroje, skrývala generátor sexuálních a násilných deepfaků
- Kontrolu v App Storu i Google Play obešly tak, že skrytou verzi zapínal až server po schválení
- Apple po upozornění stáhl 19 aplikací a odkazuje na pravidla, která zpřísnil teprve v říjnu
Aplikace Viefur na první pohled uměla jedinou věc: z fotky kočky udělat kočku v havajské košili, jak upíjí z kokosu. Balíček 130 mincí na to stál zhruba 4 dolary, v přepočtu asi 100 Kč s DPH. Podle vyšetřování magazínu Wired a evropské neziskovky AI Forensics ale za určitých podmínek dokázala z fotky skutečného člověka vyrobit pornografický obrázek nebo video.
Jedna šablona pro kočky, druhá pro znásilnění
Viefur nebyl výjimka. Výzkumník Paul Bouchaud z AI Forensics zmapoval síť více než 400 propojených aplikací a domén, které se vydávaly za výuku jazyků, AI trenéra cvičení nebo editor fotek. Skrytá verze načetla webové rozhraní s desítkami šablon a vedle nahoty mezi nimi Wired našel i scénu znásilnění nebo muže, který drží ženě nůž u krku. Kredity se platily přes platební systémy Applu a Googlu.
Síť podle Bouchauda vznikla koncem roku 2025 a na jaře nabrala obrátky, v nejrušnějších týdnech přibývalo kolem třiceti nových dvojic aplikace a webu. Jen na Google Play bylo v září aktivních 27 aplikací s více než 350 tisíci staženími. Stopy vedou k čínsky mluvícím vývojářům a hongkongské firmě KeLing Technology Limited, která na dotazy Wiredu neodpověděla.
Recenzent vidí kočku, zákazník z reklamy porno
Trik stojí na serveru, kterému aplikace po instalaci pošle jazyk, identifikátor zařízení a informaci, odkud ji člověk stáhl. Server teprve pak rozhodne, kterou tvář ukáže, takže recenzent Applu nebo Googlu dostane nevinnou verzi. Jedním ze spouštěčů byla podle všeho instalace přes reklamu na Facebooku či Instagramu a takových reklam napočítal Bouchaud od začátku roku desítky tisíc.
Výzkumník to popisuje jako organizovaný byznys, ve kterém jeden provozovatel točí stovky jednorázových aplikací, reklamy přitom platí pod falešnými jmény. Autoři sítě podle něj nečekají, že je vymáhání pravidel dožene, a zatím je nedohnalo.
Apple se brání, Meta počítá účty
Apple po upozornění stáhl 19 aplikací včetně Viefuru. Podle mluvčího Adama Demy splňovaly v době kontroly pravidla a vývojáři až po schválení vyměnili web, odkud aplikace tahají obsah, za pornografický. Firma navíc za poslední rok kvůli podobným podvodům pozastavila desítky tisíc aplikací, v polovině října pak zpřísnila pravidla. Nový bod 2.5.19 zakazuje skryté či spící funkce a za jejich maskování hrozí zrušení vývojářského účtu.
Google většinu aplikací stáhl už předtím, než ho Wired oslovil, na dotazy ale nereagoval. Meta uvádí, že zasáhla proti 11 600 reklamním účtům a firmě KeLing zakázala inzerovat už v roce 2025. Jenže reklamy běžely dál a nové se objevovaly ještě ve chvíli, kdy Wired článek dokončoval.
