- Anthropic varuje před AI, která by časem mohla vylepšovat sama sebe
- Firma chce možnost dočasně zastavit vývoj nejpokročilejších modelů
- Paradoxně právě Claude už Anthropicu píše většinu produkčního kódu
Anthropic, firma stojící za chatbotem Claude, zní najednou jako někdo, kdo se podíval do vlastních laboratoří a trochu se lekl. V novém textu varuje, že vývoj nejpokročilejší AI může nabrat tempo, na které nebudou stačit ani firmy, ani politici. A navrhuje, aby měl svět připravenou brzdu: koordinovanou možnost vývoj zpomalit nebo dočasně zastavit.
Nejde o výkřik outsidera, který se na AI dívá z dálky. Anthropic patří mezi nejdůležitější hráče v oboru a sám vyvíjí jedny z nejschopnějších modelů. Právě proto je jeho varování zajímavé. Firma v podstatě říká: technologie, kterou stavíme, už nám pomáhá stavět další technologii. A pokud se tenhle kruh jednou uzavře úplně, člověk může zůstat spíš dozorem než tvůrcem.
Claude už není jen chytrý našeptávač
Anthropic netvrdí, že současná AI už dnes sama vytváří svého schopnějšího nástupce. Tak daleko podle firmy nejsme. Jenže některé interní údaje ukazují, proč volí takhle silná slova. V květnu 2026 měl Claude napsat více než 80 % kódu, který Anthropic sloučil do své kódové základny. Před spuštěním Claude Code v únoru 2025 to podle firmy byly jen nízké jednotky procent.
Technické detaily nechme stranou. Podstatné je, že Claude už podle Anthropicu nedostává jen drobné úkoly typu „napiš mi funkci“ nebo „oprav chybu“. Stále častěji má řešit delší práci, spouštět experimenty a posouvat vývoj dopředu. Člověk určuje cíl, model hledá cestu. To pořád není samostatná AI laboratoř bez lidí, ale je tomu mnohem blíže než starý chatbot v okně prohlížeče.
Brzda, na kterou nikdo nechce šlápnout první
Návrh Anthropicu má jeden háček. Firma nechce, aby se jeden hráč zastavil sám, zatímco ostatní poběží dál. Taková pauza by podle ní jen přenechala náskok méně opatrné konkurenci. Smysl by měla až dohoda více velkých AI laboratoří a států, u které půjde ověřit, že ji všichni skutečně dodržují.
A to je problém. Vývoj AI se dá skrýt mnohem snáz než třeba zbrojní program. Stačí výpočetní kapacita, data, lidé a motivace nedat ostatním vědět, že se pokračuje. Anthropic proto mluví o debatách s politiky, výzkumníky, občanskou společností a dalšími firmami. Zní to rozumně, ale také dost pozdě na obor, který jede v režimu závodu.
Varování přichází v podivně vhodnou chvíli
Celé to má i méně vznešenou stránku. Anthropic 1. června oznámil, že důvěrně podal dokumenty k možnému vstupu na burzu. Jinými slovy, firma, která volá po brzdě pro AI, se zároveň připravuje přesvědčovat investory, že dokáže dál rychle růst.
Do toho přichází zprávy kolem modelu Mythos. TechCrunch píše, že Anthropic vyslal několik inženýrů do americké NSA, kde mají pomáhat s využitím modelu pro kybernetické operace. Kontrast je nepřehlédnutelný: veřejně se mluví o bezpečnostní brzdě, zatímco nejostřejší nástroje míří i do světa státních kyberoperací.
Varování tím neztrácí váhu. Spíš připomíná, že se kolem AI bude čím dál víc míchat strach, byznys a politika. Anthropic teď říká nahlas, že závod o chytřejší modely může být nebezpečný. Otázka je, kdo by měl tuhle brzdu řídit a jestli na ni někdo opravdu šlápne dřív, než se ukáže, že už je pozdě.
Ondřej Dolejš
Další dnešní články
