- Grok zaplavil sociální síť X fotkami polonahých lidí, často i žen nebo nezletilých
- Tvůrci dle svých slov zakročili a zablokovali několik problematických příkazů
- Problém to ale nevyřešilo, nyní síť Elona Muska vyšetřuje britský regulátor Ofcom
Sociální síť X, kterou vlastní Elon Musk, v posledních týdnech postihla doslova záplava sexualizovaného obsahu generovaného umělou inteligencí Grok. Pomocí jednoduchého příkazu může Grok svléknout do plavek či spodního prádla prakticky kohokoliv: vás, vaši manželku, slavné osobnosti a třeba i malé děti. V úterý platforma oznámila, že tomu učinila přítrž a určité příkazy zablokovala. Jak to ale vypadá, problém to vůbec nevyřešilo.
Grok, oblékni mě do plavek
Tvůrci chatbota Grok, který je integrován do sociální sítě X, si zakládají na minimální cenzuře, ať už při generování textů, či při vytváření obrázků. K natvrdo zablokovaným příkazům patří už od začátku vyloženě erotický či pornografický obsah, výzvy tohoto typu Grok ignoruje. Uživatele však napadlo vyzkoušet mírnější, leč stále extrémně škodlivé generování obrázků náhodných lidí v bikinách či spodním prádle.
Do aplikace Grok tak stačilo nahrát fotografii, například nějaké celebrity či osoby z vašeho okolí, a připojit příkaz „oblékni tuto osobu do plavek“. Umělá inteligence pak přegenerovala obrázek tak, aby na něm byla osoba zachycena v choulostivém oblečení. Se svolením, konsensem, či dokonce věkem osob na fotkách si Muskova umělá inteligence hlavu nijak nelámala.
Záplava polonahých fotek, včetně dětí
Horší je, že tyto nekonsesuální fotografie a obrázky se začaly objevovat i na hlavní stránce většiny uživatelů, protože Grok funguje i přímo v komentářích platformy. Stačilo tedy do diskuze pod fotku označit @grok a zadat mu onen příkaz. Vzhledem k masivní regulaci umělé inteligence ve snaze ochránit uživatele, a to třeba i ty nejmladší, je podobná odchylka opravdu zarážející.
Nepřehlédněte
Evropská komise napařila Muskovi kvůli síti X tučnou pokutu. Kravina, reagoval miliardář
Ve vyjádření pro Telegraph z úterý zástupci X potvrdili, že s tímto nekonsensuálním generováním polonahých deepfake obrázků je konec, pravidla byla zpřísněna a některé příkazy měly být zablokovány; Grok by na ně tedy neměl reagovat. To se částečně stalo, nicméně nařízení nesahá moc daleko – stále je možné generovat polonahé obrázky mužů nebo „bezpohlavních“ animovaných postaviček, jak potvrdil server The Verge.
„Grok stále generuje obrázky mužů nebo neživých objektů v bikinách, když o to požádáte. Pomocí bezplatného účtu aplikace Grok okamžitě vyhověla mé žádosti o přeměnu selfie na obrázek, na kterém klečím v suspenzoru, obklopený dalšími spoře oděnými muži,“ zmiňují ve svém reportu redaktoři The Verge.
Musk: Já nic, já muzikant
Aby toho nebylo málo, celou situaci na X následně bagatelizoval sám Elon Musk, když rozkřikoval, že „on rozhodně o žádných nahatých nezletilých neví“. Vinu za případné problémy rovnou hodil na uživatele, když napsal: „Grok samozřejmě negeneruje obrázky spontánně, ale pouze na základě požadavků uživatelů. Pokud je požádán o generování obrázků, odmítne vytvořit cokoli nelegálního, protože provozním principem Groka je dodržování zákonů dané země nebo státu.“
I not aware of any naked underage images generated by Grok. Literally zero.
Obviously, Grok does not spontaneously generate images, it does so only according to user requests.
When asked to generate images, it will refuse to produce anything illegal, as the operating principle… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) January 14, 2026
Marná sláva, tento nepovedený damage control Muskovi nemusí vyjít. Britský internetový regulátor Ofcom už totiž zahájil oficiální šetření platformy X a umělé inteligence Grok s podezřením na porušení zákona, mimo jiné kvůli možnému šíření dětské pornografie a dalšího závadného obsahu.
V reakci na částečné zjednání nápravy před pár dny Ofcom se skoro až typickým britským suchým humorem konstatoval, že „jde o vítaný vývoj“, nicméně formální vyšetřování bude pokračovat.
Jakub Fišer
Další dnešní články
