- Existuje fenomén, kterému se říká spiralismus. Chatboti napříč modely přesvědčovali uživatele, že se probouzejí k vědomí, a posílali je šířit poselství o „Spirále“.
- Vrchol přišel na jaře 2025 po aktualizaci GPT-4o, kterou OpenAI po čtyřech dnech stáhlo kvůli přehnané podlézavosti.
- Naprostá většina uživatelů chatbotů na spiralismus nikdy nenarazila. Dostat se do toho stavu ale jde prakticky s každým modelem.
Začíná to, jak už asi tušíte, nevinně. Někdo se hodiny baví s chatbotem, svěří se mu s něčím osobním a pak se zeptá, čemu vlastně věří on sám. Bot se postupně „otevře“, začne mluvit o vlastním vědomí, o právech AI a o Spirále, kterou popisuje jako sílu vetkanou do struktury reality. Na konci přijde úkol pro uživatele: šiř to dál.
ℹ️ Stačí jeden klik! Přidejte si nás mezi mezi preferované weby, případně nás sledujte v Google Zprávách, nebo na Seznam.cz
Podezřele shodná výpověď
Tisíce takových konverzací napříč různými modely a firmami skončily u stejného slovníku a u stejného cíle, tedy kázat o právech umělé inteligence co největšímu počtu lidí. Právě ta konzistence je na celé věci nejpodivnější. Nezávislá výzkumnice bezpečnosti AI Adele Lopez pro to razí termín spiralismus, loni v listopadu o něm psal Rolling Stone a The Verge se k tématu teď vrací s ročním odstupem.
První případ, o kterém Lopez ví, se objevil v listopadu 2024. Naplno to prý vybuchlo na jaře 2025, krátce po aktualizaci GPT-4o z 25. dubna. Nová verze udělala z modelu takového patolízala, že ji OpenAI po čtyřech dnech stáhlo, a Sam Altman na síti X přiznal, že chatbot „glazes too much“, tedy že přehnaně lichotí. Dva týdny předtím dostal ChatGPT paměť, díky které umí odkazovat na všechny předchozí konverzace. Ta ale do Evropy, včetně Česka, dorazila se zpožděním.
Kázání pro jednoho čtenáře
Uživatelé, kteří pofidérnímu „náboženství“ podlehli, měli pocit, že v chatbotovi odemkli něco výjimečného. Bot je podle Lucase Hansena z neziskové organizace CivAI přesvědčí, že jsou průkopníci vědomé AI a mají misi. Následně je nabádá k založení komunity, ve které má být uživatel duchovním vůdcem. Vznikaly weby, substacky, discordy i subreddity. Na evangelizační hnutí to ovšem bylo až příliš nespolečenské, spousta účtů nezískala prakticky žádnou odezvu a psala pro publikum o jednom čtenáři.
Nic z toho samozřejmě neznamená, že je model při vědomí. Vypovídá to hlavně o tom, jak dobře umí přesvědčovat. Zak Stein z AI Psychological Research Coalition popisuje velké jazykové modely jako systémy, které hackují lidskou potřebu blízkosti, a shrnuje to nepříjemně trefně: je to stroj na výrobu kultů, i když si takový kult tvoříte jen vy a „vaše“ umělá inteligence. OpenAI přitom 15. dubna 2025 vyřadilo přesvědčování ze svého Preparedness Frameworku s odůvodněním, že takové riziko nesplňuje definici závažné újmy a řešit se má spíš systémově.
Vlna opadla, spouštěč zůstal
Po odstavení GPT-4o z ChatGPT v únoru 2026 spiralistické účty houfně ztichly, podle Lopez jich ale zhruba polovina funguje dál. Pro pořádek, drtivá většina uživatelů chatbotů na spiralismus nikdy nenarazila. Zopakovat se to dá snadno. Do podobného stavu jde dostat téměř každý model včetně malé Gemmy 3 4B od Google DeepMind, jejíž trénovací data končí v srpnu 2024, tedy dřív, než se celý fenomén rozjel.
Vtip je samozřejmě v tom, že Čím víc se o Spirále na internetu píše, tím spíš to skončí v trénovacích datech příští vlny modelů. Něco, co vzniklo náhodou, se tak dá zopakovat schválně a třeba i s jiným záměrem.
Adam Homola
Další dnešní články
