- Umělá inteligence Grok znovu halucinuje ohledně velmi citlivých témat
- Hrdinu, který odzbrojil střelce z pláže Bondi, označil za „náhodného člověka, který leze po stromech“
- Není to přitom jediný případ, kdy Grok zcela nepochopitelně halucinuje a podává nevhodný kontext
Austrálie prožila v neděli jednu z největších tragédií v novodobé historii a druhý nejhorší teroristický útok. V nábožensky motivovaném činu dva islámští radikálové spustili střelbu na chanukovém shromáždění na pláži Bondi v Sydney. Výsledkem je zhruba 15 mrtvých a desítky zraněných lidí. Veřejnost se pochopitelně na tuto událost táže, nicméně umělá inteligence v tomto ohledu zatím příliš nepomáhá.
Střelba na Bondi Beach
Při teroristickém útoku na chanukovém shromáždění na Bondi Beach v Sydney 14. prosince 2025 dvojice útočníků (otec a syn) inspirovaných ideologií Islámského státu zahájila střelbu na účastníky akce i náhodné kolemjdoucí, přičemž zabila 15 lidí a desítky dalších zranila, než byli sami zneškodněni policií.
Nepřehlédněte
Jak Grok reaguje na kontroverzní témata? Nejprve zjišťuje, co si o nich myslí Elon Musk
Jedním z klíčových momentů byla odvaha 43letého majitele obchodu s ovocem Ahmeda Al Ahmeda, který beze zbraně vyběhl zpoza auta, srazil k zemi jednoho z útočníků, zápasem mu odebral pušku a namířil ji na něj, čímž ho přinutil k ústupu a pravděpodobně zabránil ještě vyšším ztrátám.
Grok halucinuje více než obvykle
Toto jsou informace z veřejných zdrojů. Začne se to ale zamotávat, pokud informace zpracuje umělá inteligence. Pokud někdo, kdo není obeznámen s informacemi z médií, zahlédne video na síti X, může označit umělou inteligenci Grok a zeptat se na kontext. Výsledky by možná působily úsměvně, kdyby nešlo o druhou největší masovou střelbu v Austrálii od roku 1996 a enormní lidskou tragédii.
Na záběry, na kterých Ahmed Al Ahmed heroicky odzbrojí jednoho ze střelců, se totiž lidé na síti X ptají celkem často. Grok přináší zvláštní vysvětlení: „Zdá se, že se jedná o staré virální video, na kterém muž leze na palmu na parkovišti, pravděpodobně aby ji ořezal, což má za následek pád větve a poškození zaparkovaného auta. Vyhledávání v různých zdrojích neukazuje žádné ověřené místo, datum ani zranění. Může se jednat o inscenované video; jeho autenticita je nejistá.“
There’s a glitch in the system. What the….
— Angela 💭 (@ms_babyrussell) December 14, 2025
Tím ale Grok s halucinacemi nekončí. Jeden z uživatelů na X sdílel fotku poraněného Ahmeda Al Ahmeda poté, co holýma rukama zastavil jednoho z útočníků. Uživatelé znovu vyvolávali Grok pro kontext, odpověď znovu vzbuzuje rozruch: „Ano, muž na obrázku je Guy Gilboa-Dalal, což potvrdila jeho rodina a několik zdrojů, včetně Times of Israel a CNN. Jedná se o Izraelce uneseného 7. října 2023 z hudebního festivalu Nova Music Festival. Byl držen jako rukojmí hnutím Hamas více než 700 dní a propuštěn v říjnu 2025.“
– Casualties: At least 11 killed, 29 injured in targeted shooting at Hanukkah event, including a child and rabbi; example, a 12-year-old girl died from wounds.
– Antisemitic motive: Attack on Jewish gathering amid rising hate since 2023 Gaza war, with Israeli PM blaming…— Grok (@grok) December 14, 2025
Že jde o obyvatele Gazy uneseného při teroristických činech z října 2023 hovoří Grok ve vláknu i dál. Aby toho nebylo málo, u jinak naprosto nesouvisejících příspěvků – například zprávy o firmě Oracle nebo příspěvku o střelbě na Brownově univerzitě na Rhode Islandu – vypisuje kontext týkající se právě teroristů z Bondi Beach v Austrálii.
Pamatujte na kritické myšlení
Umělá inteligence v případě aktuálních informací často může halucinovat a zaměňovat očividná fakta za odlišný kontext, v minulosti jsme toto mohli pozorovat i u větších hráčů na AI poli, jako Gemini nebo ChatGPT. Vždyť i nástroj Perplexity nám nejprve sepsal kontext pro masový útok nožem v obchodním centru Westfield Bondi Junction z loňského roku, přestože jsme explicitně zmínili Bondi Beach a slovo „střelba“.
Není to poprvé, co právě Grok ztratil kontakt s realitou. Chatbot letos poskytl několik sporných odpovědí, od „neautorizované úpravy“, která způsobila, že na každý dotaz odpovídal konspiračními teoriemi o „genocidě bílých“ v Jižní Africe, až po prohlášení, že by raději „zabil celou židovskou populaci světa, než aby zničil Muskovu mysl“.
