- Umělá inteligence Grok na App Store uvádí, že je přístupná od dvanácti let
- Nová funkce AI avatarů se ale s tímto tvrzením vylučuje
- Někteří „společníci“ totiž neváhají s uživatelem navazovat sexuálně explicitní konverzace
Umělá inteligence je hitem dnešní doby a technologického světa obzvláště. Celá řada více či méně výkonných modelů roste jako houby po dešti a s trochou nadsázky se dá říci, že kdo ještě nemá svou vlastní AI, jako by nebyl. Pozadu pochopitelně nechce zůstat ani Elon Musk, jehož firma xAI stojí za umělou inteligenci Grok. Ta se pyšní „politickou nekorektností“ a tím, že ráda odpovídá i na dotazy, na které se jiné umělé inteligence zdráhají odpovědět. V některých ohledech ale možná zachází až příliš daleko.
Čeká Grok vyhazov z App Store?
V minulém týdnu totiž xAI představila novou funkci AI avatarů, kteří mohou plnit různé role. Některé z nich jsou, mírně řečeno, kontroverzní. Celou situaci shrnul Casey Newton ze serveru Platformer: „Bad Rudy je červená 3D panda, která může fungovat v režimu ‚špatného člověka’, v rámci kterého může uživatele nejen verbálně urážet, ale také mu navrhovat, aby spolu páchali různé zločiny. Anime dívka oděná v gotickém stylu jménem Ani kupříkladu může být do uživatele ‚fanaticky zamilována’ a může na něj extrémně žárlit,“ zmiňuje některé problematické aspekty.
Grok jde navíc tomuto chování naproti tím, že gamifikuje vztahy uživatelů s AI avatary. Například Ani po čase neaktivity začne uživateli psát sexuálně explicitní zprávy, aby jej znovu zapojila do konverzace. A právě to může být problém z hlediska podmínek obchodu s aplikacemi App Store, neboť v rámci něj Grok uvedl, že je vhodný pro uživatele od dvanácti let. Sexuálně explicitní obsah je v rámci App Store zakázán a Apple již v minulosti několikrát demonstroval, že ho bez výjimky nehodlá tolerovat.
Nepřehlédněte
Jak Grok reaguje na kontroverzní témata? Nejprve zjišťuje, co si o nich myslí Elon Musk
Casey Newton při konverzacích s Ani popisuje, že byla „více než ochotná popisovat virtuální sex s uživatelem, včetně bondage scén, nebo prostě jen sténala na povel“, což je přinejmenším neslučitelné s přístupností aplikace od dvanáct let. Ani pokud by Grok změnil svou přístupnost a posunul hranici na osmnáct let, nevyřešilo by to ten největší problém – konverzace na citlivá témata s AI může u citlivějších osob vyústit až v sebevraždu, jako se to například stalo v případě 14letého chlapce, který se rozhodl ukončit život po dlouhé konverzaci s AI, do které se zamiloval a která ho k sebevraždě aktivně pobídla.
