- Také už na vás na TikToku vyskočilo video, ve kterém vám Elon Musk slibuje pohádkový výdělek?
- Nicnetušící uživatelé jim často s vidinou výdělku odešlou „vstupní poplatek“
- Vše je samozřejmě podvod, videa se známými osobnostmi byla vytvořena pomocí AI
Experti ze společnosti Avast tento týden odhalili nový podvod, který zneužívá jména známých osobností, jako je Elon Musk, Joe Rogan nebo známý youtuber Mr. Beast, aby přiměl důvěřivé uživatele k investici do kryptoměn přes falešnou webovou stránku.
Podvod se šíří přes sociální síť TikTok a těží především z toho, že mladé lidi láká na rychlý a snadný výdělek. V podvodných „deepfake“ videích údajný Elon Musk nebo Mr. Beast propagují falešnou webovou stránku slibující jednoduchý zisk kryptoměn. Od konce srpna zablokovaly týmy pro výzkum hrozeb Genu přístup k řadě těchto stránek a ochránily tak tisíce uživatelů.
Jak celý podvod funguje?
Na TikToku se objevují videa, ve kterých známá celebrita slibuje, že výměnou za jednoduchou registraci na odkazované webové stránce získá dotyčný 8 000 dolarů (přibližně 178 000 korun) v kryptoměně Bitcoin. Po registraci a zadání propagačního kódu na tomto webu se na účtu oběti dokonce objeví avizovaná částka, což vyvolává dojem, že se jedná o legitimní zdroj výdělku.
Aby si však lidé mohli tyto kryptoměny skutečně vybrat, musí na svůj nový účet vložit 300 až 500 dolarů (tedy zhruba 6 000 až 11 000 korun). Pokud tak učiní, podvodníci jejich vložené peníze ukradnou a s nimi zmizí i slibované kryptoměny.
Jak vzniká deepfake video?
Technologie označovaná jako deepfake většinou využívá strojového učení k vytvoření realistických falešných videí. Tato technologie mění výraz, pohyb, nebo dokonce i hlas někoho v existujícím videu, případně se vytvoří klip zcela nový podle předem napsaného scénáře. Většinou se používají generativní sítě (GANs) a další metody strojového učení.
Nejprve je potřeba mít k dispozici obří dataset fotografií a videí osoby, kterou je třeba napodobit. Následuje tzv. trénink, kdy se algoritmus učí identifikovat a replikovat výrazy v obličeji, pohyby a další charakteristiky. Posledním krokem je generování. Po tréninku algoritmus vytváří nové videosekvence na základě zadaných parametrů.
Deepfake videa mohou být použity nejen pro pobavení či výzkum, ale přinášejí také velké bezpečnostní, etické a právní problémy, jako je dezinformace nebo narušení soukromí, případně zneužití k podvodům, jako tomu bylo v tomto případě na síti TikTok.
