- Komunikační platformu Telegram trápí boti, kteří vytvářejí svlečené fotky uživatelů
- Boti využívají k nekonsensuálnímu svlékání obětí umělou inteligenci
- Telegram reaktivně zakročil, ale problém nevyřešil a vznikají další
Miliony uživatelů využívají boty s umělou inteligencí s poměrně nepěkným cílem – nekonsensuálně „svlékat“ lidi. Explicitní obrázky za ně totiž vytváří specializovaný bot na Telegramu a internet je tak plný nejen nahých fotek z velké části vygenerovaných umělou inteligencí, ale také obav o digitální soukromí a zneužívání.
Výjimka? Kéž by
Podle zdrojů magazínu Wired bohužel nejde o nic ojedinělého a botů, kteří využívají AI k digitálnímu „odstranění oblečení“ z nahraných fotografií, je mnoho. A nepřekvapivě se těší poměrně velké popularitě. Navzdory rostoucí kontrole ze strany zákonodárců a technologických společností se tito boti nadále šíří, což jen podtrhuje snadnost, s jakou mohou lidé vytvářet škodlivé deepfake snímky.
Vyšetřování Wired identifikovalo nejméně 50 botů přímo na Telegramu, kteří nabízejí služby vytváření explicitních fotografií nebo videí a jejichž celková uživatelská základna přesahuje čtyři miliony aktivních uživatelů měsíčně. Jen dva boti uvedli, že každý z nich má více než 400 000 uživatelů. O nic okrajového tak rozhodně nejde.
Z Telegramu se tak bohužel stává jedna z hlavních platforem pro nekonsensuální tvorbu deepfake obsahu, přičemž skutečný počet botů je pravděpodobně mnohem vyšší, než uvádí přehled převážně anglicky mluvících kanálů, který provedl Wired. Kolik jich ale ve skutečnosti je, jak se někteří z nich maskují a kolik milionů uživatelů dohromady mají, ale nevědí ani reportéři Wired.
Bezzubá opatření
Boti Telegramu mají podporu nejméně 25 přidružených kanálů, které slouží k propagaci nových funkcí a nabízejí speciální nabídky tokenů potřebných k provozu botů. Tyto kanály se dohromady mohou pochlubit více než třemi miliony odběratelů. Všechno je to jednoduše příliš rozšířené na to, aby to dokázal Telegram ze dne na den utnout, což se očividně pořád neděje v takové míře, v jaké by to bylo záhodno. Po dotazech časopisu Wired prý Telegram odstranil 75 identifikovaných botů a kanálů, ale odmítl se vyjádřit ke své konkrétní politice týkající se explicitního deepfake obsahu.
Alespoň nějaká opatření jsou sice chvályhodná, ale v konečném důsledku, alespoň prozatím, vcelku k ničemu. Boži totiž fungují vesele dál. Několik provozovatelů botů po odstranění oznámilo nové verze svých nástrojů a je tak jasné, že tohle bude boj s větrnými mlýny. Nedostatečně přísné prosazování zásad a anonymita, kterou platforma poskytuje, umožňuje rychlý vznik nových botů a nabízí se tak otázka, jestli se zrovna právě na Telegramu může vůbec kdy podařit něco takového jednou provždy vyřešit.
Velký problém
Odborníci zdůrazňují psychickou újmu, kterou mohou takové snímky způsobit zejména ženám a mladým dívkám. Takové obrázky se sice nemusí dostat na Instagram či Facebook, ale právě na různých soukromých skupinách na Telegramu a nejen na něm mohou kolovat vcelku nerušeně.
Na místě je tak otázka, zda by neměl být Telegram, a vůbec platformy obecně, proaktivnější, namísto pouhé reaktivity. Bohužel pro mnohé uživatelky a uživatele je to zrovna u Telegramu se škodlivým obsahem složité. Historicky toho na něm nebylo zrovna málo, od extrémně pravicových skupin až po všemožné podvodníky. A Telegram s nimi buď nezatočil, nebo mu to, na rozdíl od jiných platforem, trvalo příliš dlouho. Nedávno také zakladatel Telegramu Pavel Durov čelil právním problémům ve Francii, což si vyžádalo některé změny v moderátorských zásadách platformy. Stále však není jasné, zda zásady Telegramu výslovně zakazují nekonsensuální deepfakes.
