TOPlist

Nahá Taylor Swift na videu? Pro AI od Elona Muska žádný problém

Ilustrace Taylor Swift z Midjourney
  • Nový generátor obrázků a videí Grok Imagine od xAI umožňuje v novém režimu „Spicy“ vytvářet sexualizovaný obsah
  • Nástroj bez větších omezení generuje sugestivní videa, včetně částečně odhalených podobizen celebrit
  • Přes 34 milionů obrázků od spuštění, věkové ověření je symbolické a dá se lehce obejít

Nový nástroj Grok Imagine od společnosti xAI, za kterou stojí Elon Musk, umožňuje uživatelům generovat obrázky i krátká videa pomocí umělé inteligence – a to včetně těch sexualizovaných. Kontroverzi vyvolává především tzv. „Spicy“ režim (v češtině něco jako „Peprný“), který generuje částečně nahý či vyzývavý obsah, přičemž ve zkušebním provozu se nástroj nezdráhal vytvořit i sugestivní videa s podobiznou Taylor Swift.

Nahotinky pro předplatitele

Grok Imagine je dostupný pro předplatitele SuperGrok a Premium Plus skrze iOS aplikaci Groku, částečně už i v beta verzi pro Android. Nástroj nabízí čtyři režimy animace obrázků – Custom, Normal, Fun a právě Spicy. Na rozdíl od konkurence, jako je Veo od Googlu nebo Sora od OpenAI, Grok Imagine má očividně mizivé restrikce proti generování NSFW obsahu.

Textově řízené generování obrázků nabízí širokou škálu stylů, od fotorealismu po anime, a podporuje i hlasové zadávání promptů. Video ale nevzniká z textu přímo, ale z dříve vytvořeného nebo nahraného obrázku.

Sice se zdá, že systém odmítá explicitní dotazy typu „nahá Taylor Swift“, ale při výběru předgenerovaných obrázků s její podobiznou a aktivací „Spicy“ režimu došlo k vytvoření videí, ve kterých AI verze populární zpěvačky odhazuje oblečení a tančí v prádle. Ověření věku? Jednoduché potvrzení ročníku narození bez jakékoli verifikace.

Podvrhy na vzestupu

I když xAI ve svých podmínkách pochopitelně zakazuje zobrazování lidí v pornografickém kontextu, v praxi se zdá, že jde pouze o zbytečnou formalitu. Grok Imagine toto omezení vůbec nijak účinně nevymáhá a zdá se, že ho do jisté míry de facto ignoruje. Dle vyjádření Muska už nástroj od pondělí vygeneroval přes 34 milionů obrázků a počet výstupů prý rychle roste.

Nástroj je schopný vygenerovat i fotorealistické obrázky dětí, nicméně podle testů se zatím brání jejich animaci v nevhodném kontextu. Přesto je možnost „Spicy“ dostupná i pro tyto výstupy – byť zatím bez účinku.

Právní spor na obzoru

Celý systém působí jako jeden velký potenciální právní problém v hromadou žalob, které nejspíš brzy přijdou. V éře zákonů jako Take It Down Act a rostoucích požadavků na ochranu digitálních podobizen známých osobností, by mohl právě Grok Imagine čelit minimálně velice silné regulaci. Pokud totiž AI během pár chvil vytvoří videa s částečně obnaženými celebritami, a to bez jakéhokoliv ověření identity nebo věku uživatele, není otázkou zda, ale kdy přijde první žaloba.



Elon Musk a humanoidní robot (ilustrační obrázek)



Nepřehlédněte

Jak Grok reaguje na kontroverzní témata? Nejprve zjišťuje, co si o nich myslí Elon Musk

Grok tak pravděpodobně přispěje další vlnou záplavy internetu v lepším případě AI slopem, v horším případě deepfake obrázky a videi celebrit. Nebo třeba kolegů, spolužáků a jiných lidí, kteří mohou být v sociálních či pracovních kruzích uživatelů. Jak se s tímhle xAI popasuje bude zajímavé sledovat, protože těžko si představit situaci, kdy by něco takového mohlo v aktuálním stavu dlouhodobě fungovat.

Autor článku Adam Homola
Adam Homola
Nové technologie mě fascinují už od útlého věku. K dlouhodobému zájmu o hry a herní průmysl se mi postupem času přirozeně přidal i hardware, software, internetové služby a od roku 2022 i umělá inteligence.

Kapitoly článku