- Po britském regulátorovi Ofcom má s umělou inteligencí Grok problém další orgán
- Úřad pro ochranu osobních údajů ICO vyšetřuje Muskovu firmu kvůli kauze svlékání na síti X
Britský úřad pro ochranu osobních údajů Komise pro informace (ICO) přitápí pod kotlem v kauze „svlékací“ umělé inteligence Grok. Po prvotním vyšetřování britského regulátora Ofcom a žalobě Muskovy bývalé partnerky teď přichází další zájem stran národního regulátora, tentokrát čistě z pohledu ochrany osobních dat.
V Anglii mají na Grok spadeno
Komise ICO nově oznámila formální vyšetřování společnosti X a xAI kvůli tomu, že Grok byl využíván k vytváření nekonsensuálních sexualizovaných deepfake snímků z fotek skutečných lidí. Úřad chce zjistit, zda X a xAI zpracovávaly osobní data vůbec zákonným způsobem a zda měly nastavené adekvátní pojistky proti tomu, aby Grok z osobních fotek vyráběl intimní či sexualizované obrázky.
Orgán se přitom do věci vložil už 7. ledna, kdy od X a xAI urgentně žádal vysvětlení, jak jejich systém splňuje pravidla GDPR po zprávách o generování polonahých a explicitních snímků v bikinách či spodním prádle, často i u nezletilých.
Britský regulátor v aktuálním prohlášení zdůrazňuje, že ztráta kontroly nad vlastní fotografií – pokud z ní AI bez vědomí člověka vytvoří intimní obraz – představuje okamžitou a značnou újmu, a to zejména u dětí. Skutečně stačilo na síti X označit @grok pod cizí fotkou a požádat o „svlečení do plavek“, přičemž systém nijak neřešil souhlas, věk ani identitu dotyčné osoby.
„Grok stále generuje obrázky mužů nebo neživých objektů v bikinách, když o to požádáte. Pomocí bezplatného účtu aplikace Grok okamžitě vyhověla mé žádosti o přeměnu selfie na obrázek, na kterém klečím v suspenzoru, obklopený dalšími spoře oděnými muži,“ zmiňují ve svém lednovém reportu redaktoři The Verge.
NEW: We've announced formal investigations into X and https://t.co/SjOuPRtZkW in relation to the Grok artificial intelligence system and its potential to produce harmful sexualised image and video content.
Read our full announcement: https://t.co/vnTkMcFi3Z. pic.twitter.com/1Ds4kqAJ55
— ICO – Information Commissioner's Office (@ICOnews) February 3, 2026
ICO zároveň připomíná, že jako britský dozorový orgán může v krajním případě uložit pokutu až 17,5 milionu liber nebo 4 % celosvětového ročního obratu firmy (zhruba 150 milionů liber) – což už je částka, která by firmu Elona Muska bolela. Sám miliardář se k vyšetřování stran (nejen) britských regulátorů nevyjádřil, ale tendence regulovat X ve Španělsku podobnou cestou označil za „tyranii“. Zároveň sdílí příspěvky dalších uživatelů, kteří označují tlak evropských regulátorů za „cílený“.
Elon Musk proti zbytku světa
Tlak na X a xAI se přitom dál stupňuje napříč Evropou i USA. Ve stejný den, kdy ICO zahájilo formální šetření, provedli francouzští žalobci razii v pařížské kanceláři X kvůli podezření, že Grok generoval materiály s dětskou sexuální tematikou a také obsah popírající holokaust; k výslechu si na duben předvolali i Elona Muska a šéfku X Lindu Yaccarino. Informoval o tom na svých stránkách Europol.
Už v lednu otevřela vlastní vyšetřování Evropská komise, která zkoumá, zda X před spuštěním Groku na platformě vůbec zhodnotila rizika, jak vyžaduje akt o digitálních službách (DSA). A do hry vstoupil i kalifornský generální prokurátor a britský online regulátor Ofcom, o němž jsme informovali dříve – oba se zaměřují na nekonsensuální sexuální obsah, který Grok pomáhal vytvářet a šířit. Podle oficiálního vyjádření X už se tak neděje, nebo minimálně ne přímo v rozhraní sociální sítě X.
