- FBI vydala oficiální upozornění, jak se vyvarovat podvodům s pomocí umělé inteligence
- Konkrétně jde o hrozbu naklonování hlasu, se kterým podvodníci budou kontaktovat vaše známé
- Problém je v době sociálních sítí, videí a podcastů poměrně rozšířený, obrana je přitom geniálně jednoduchá
FBI vydala varování na ochranu před podvody s hlasovým klonováním pomocí umělé inteligence. Zločinci totiž stále častěji využívají generativní technologii umělé inteligence, aby se vydávali za blízké obětí v tíživých situacích, jako jsou nouzové situace nebo požadavky na výkupné. Řešení? Triviální. Mezi členy rodiny sdílené tajné heslo.
Stačí jedno slovo
Americký Federální úřad pro vyšetřování doporučuje vytvořit jedinečné slovo nebo frázi pro ověření totožnosti člena rodiny během nečekaných nebo podezřelých hovorů. Příkladem mohou být osobní či obecné fráze nebo věty. Ve výsledku stačí ale klidně jen a pouze jedno konkrétní slovo, na kterém se s rodinou domluvíte. Takové heslo samozřejmě nikam nepište, nikde ho neříkejte a ujistěte se, že ho znají pouze členové vaší rodiny.
Podle FBI se podvodníci často spoléhají na umělou inteligenci, která napodobuje hlasy příbuzných a vytváří přesvědčivé prosby o finanční pomoc. Tyto podvody obvykle vyžadují přístup k ukázkám vašeho hlasu, které se nacházejí například v podcastech, rozhovorech nebo veřejných videích. Pokud váš hlas není snadno dostupný online, pravděpodobnost, že se stanete terčem podvodu, se sice snižuje, ale ani tak není nulová.
FBI radí
Doporučení je součástí širšího úsilí v boji proti podvodům s využitím umělé inteligence, které přesahuje rámec klonování hlasu. Zločinci využívají umělou inteligenci také k vytváření falešných profilových fotografií, identifikačních dokladů a realistických chatbotů, díky čemuž jsou podvody sofistikovanější a hůře odhalitelné. A je jen otázkou času, než bude nemožné rozlišit vašeho známého i skrze videohovor.
FBI tak doporučuje omezit veřejný přístup k nahrávkám vašeho hlasu a osobním snímkům. Což je v době sociálních sítí a všudypřítomných podcastů pro spoustu lidí ale prakticky nemyslitelné. Dalším opatřením k ochraně vaší digitální identity je udržování soukromých účtů na sociálních sítích a omezení počtu sledujících na důvěryhodné osoby.
Lidskost především
Myšlenka hesla „důraz na lidskost“ se poprvé prosadila v březnu 2023, kdy ji na síti X navrhl AI vývojář Asara Near. Near zdůrazňoval jeho užitečnost pro ověřování pravosti při podezřelých hovorech. Od té doby se tento koncept rozšířil a získal si uznání v komunitě výzkumníků AI pro svou jednoduchost a účinnost.
Jakkoliv jsou totiž dnešní AI nástroje komplexní a sofistikované, stačí na ně vytáhnout z rukávu triviální jednoslovné heslo a nebudou si vědět rady. O podobných technologiích je potřeba dát vědět především vašim známým či seniorům, kteří mohou být proti podobným podvodům náchylnější než třeba my. Stejně tak jako se vším i tady platí staré dobré „důvěřuj, ale prověřuj“.
