- Umělá inteligence se nachází všude okolo nás a je čím dál schopnější
- Nemusí sloužit jen dobré věci a je například primárním nástrojem dezinformátorů
- Ve velkém vtrhla také na sociální sítě, kde ji hojně využívají tvůrci obsahu
Umělá inteligence umí být velmi nápomocná, ale platí pro ni více než pro jakoukoliv technologii platí známé přísloví o ohni: umí být dobrý sluha, ale zlý pán. Na umělou inteligenci se začínají čím dál častěji obracet tvůrci obsahu, pro které se jedná o snadný a levný způsob, jak tvořit kvanta videí a zaplavovat sociální sítě více či méně pochybnými příspěvky. Tato praxe bují hlavně na platformě TikTok, kde tvoří AI obsah více než polovinu všech doporučovaných příspěvků.
Pokud trávíte čas na sociálních sítích, tak jste si prudkého nárůstu obsahu tvořeného pomocí umělé inteligence určitě všimli. Ne vždy je snadné ho rozeznat, ale když se zaměříte na detaily, tak průměrný uživatel by měl zvládnout poznat, zda je klip reálný, nebo vytvořený pomocí některé z moderních AI platforem. Kvantita tohoto typu obsahu ale v poslední době opravdu skokově roste.
Nejvíce je v tomto směru zasažena síť TikTok, která je zaměřena na krátká videa a kde se použití generativní umělé inteligence vyloženě nabízí. Dle nejnovějších dat je takřka 60 % videí, která jsou platformou doporučeny nově příchozímu uživateli na stránce For You (Pro tebe), tvořena umělou inteligencí, přičemž znepokojivý je fakt, že se jedná o kvalitativně špatný, až závadný obsah.
AI slop bere uživatele útokem
Tato videa na TikToku můžeme klidně označit jako AI slop, tedy velmi nekvalitní obsah, a tato síť je na tom v tomto směru v porovnání s jinými platformami opravdu špatně. Například na YouTube Shorts se k nově přihlášeným účtům dostane formou doporučení „pouze“ 21 % videí generovaných přes umělou inteligenci.
Pokud vstoupíte na TikTok jako nový uživatel, algoritmus ještě nezná vaše preference, a proto vám nabídne videa víceméně náhodně. V tomto směru jsou na tom nejhůře kategorie se vzdělávacími videi a obsahem pro děti, kde se nachází 57 % generovaného obsahu. V rámci hashtagu #CartoonKids bylo dokonce 97 ze 100 videí vytvořeno umělou inteligencí, což je alarmující.
Obsah tvořený lidmi stále existuje, ale ubývá ho
Mezi kategorie, kde produkují obsah výhradně tvůrci bez výrazné pomoci AI, patří fitness, móda a hudba. Zde se pohybuje podíl AI videí pod hranicí 2 %. V rámci této studie bylo analyzováno celkem 10 742 videí napříč 20 populárními kategoriemi a poté bylo detailně sledováno prvních 500 videí, které se zobrazily na nově přihlášeném účtu.
Nebezpečí obsahu generovaného pomocí AI tkví hlavně v dezinformaci dětí, protože tato videa mají často velmi pokřivenou realitu a zobrazují bizarní situace. Mnohdy obsahují také fatální chyby a klipy, které mají učit děti počítat, ale pletou čísla, nejsou výjimkou. Malé děti nemají schopnosti, aby tyto chyby odhalily a přesnost je klíčová i u obsahu zabývajícího se historií, vědou či zdravím.
Prevence je velmi slabá
TikTok o tomto problému ví a snaží se reagovat, ale jeho ochranné prostředky jsou bohužel nedostatečné. Uživatelé sice mohou omezit množství AI obsahu ve svém feedu, ale dle studií není tato metoda příliš účinná, a takto generovaný obsah redukuje jen minimálně. I to je jeden z důvodů právního tlaku na provozovatele sítě a již byly podány první žaloby kvůli porušování zákonů na ochranu nezletilých (například na Floridě).
