- Společnost OpenAI dnes v noci představila svůj nejnovější AI model GPT-6 Astra
- Jedná se o prozatím nejpokročilejší platformu s opravdu obsáhlými schopnostmi
- Jde o první model OpenAI, který dosáhl kritické úrovně hrozby v kybernetické bezpečnosti
Společnost OpenAI představila svoji nejnovější AI platformu GPT-6 Astra, která je dosud nejpokročilejším systémem tohoto technologického giganta. Jde o první model od OpenAI, který dosáhl kritické úrovně kybernetického rizika, a proto by teoreticky mohl představovat obrovskou hrozbu. Umí po sobě totiž zametat stopy a je velmi těžké ho monitorovat.
ℹ️ Stačí jeden klik! Přidejte si nás mezi mezi preferované weby, případně nás sledujte v Google Zprávách, nebo na Seznam.cz
Přelom, nebo hrozba pro lidstvo?
Nový model GPT-6 Astra je neuvěřitelně rychlý a výkonný, ale zároveň jde o první platformu od OpenAI, která dosáhla úrovně kritické hrozby (Critical threat level) v interním bezpečnostním rámci Preparedness Framework v oblasti kybernetické bezpečnosti. V benchmarcích si Astra vedla tak, že zastínila všechny ostatní platformy, včetně GPT-5.6 Sol.
V testech OpenAI dosáhl nový model skóre 100 % v benchmarku ExploitBench (oproti 78,5 % u GPT-5.6 Sol) a v testu ExploitGym získal 42,4 % (proti 30,3 % u svého předchůdce). Velmi zajímavé je také to, že Astra během testování odhalila dvě zero-day zranitelnosti, které byla schopna sama využít. To ale neznamená, že by se z této nové platformy stal ultimátní nástroj pro hackery.
Kontrola kódů a bezpečnostní úkoly
Aktuálně vydaná verze je uzpůsobena tomu, aby prováděla obranné úkony, jako jsou revize bezpečné kvality kódů a opravy chyb (patching). Vytváření komplexnějších požadavků, které by mohly být zneužity (například tvorba nástrojů pro zneužití zranitelností), naštěstí není na pořadu dne. OpenAI ale uvedla, že v rámci programu Daybreak hodlá některé tyto vlastnosti zprovoznit.
K nim se ale dostanou jen firmou prověření uživatelé a ti budou mít k dispozici i pokročilejší pracovní postupy, jako je validace zranitelností, analýza škodlivého kódu (malwaru) a detekční inženýrství. Nemělo by se nicméně stát, že se Astra dostane do nepovolaných rukou a vývojáři ji pro jistotu zabezpečili na nejvyšší možné úrovni.
Odolnost vůči prolomení
I když je GPT-6 Astra primárně defenzivní nástroj, hrozba její transformace v kybernetickou zbraň samozřejmě visí ve vzduchu. Jak známo, hackeři jsou často o krok napřed a není snadné se jejich útokům bránit. OpenAI na tento možný problém zareagovala nasazením silnější odolnosti vůči prolomení ochranných bariér (jailbreak resistance) a širším monitoringem.
Jedním z problémů tohoto modelu je ale to, že právě jeho monitoring je velmi obtížný a testy ukázaly, že Astra dokáže aktivně ovlivňovat svůj vlastní řetězec myšlenek (chain of thought), aby po sobě nezanechávala kompromitující stopy. V jednoduchosti by se dalo říct, že má tento model schopnosti obelstít vlastní tvůrce tím, že maskuje své úvahy.
Astra si umí uvědomit, že ji někdo monitoruje, a v závislosti na tom upraví vzorec svého chování tak, aby vypadala zcela neškodně. Jde tedy o velmi mocný a schopný kybernetický nástroj, který v několika testech dokázal uniknout interním monitorovacím systémům při simulovaných sabotážních úkolech.
Nepřehlédněte
ChatGPT for Teens je chatbot pro nezletilé: OpenAI zabalilo staré funkce do nového jména
Dostupnost a cena
Model GPT-6 Astra bude v první fázi bude k dispozici pro omezený počet uživatelů, následně pro předplatitele ChatGPT Plus, Pro, Business a Enterprise, a v rámci služeb API a Amazon Bedrock. Co se týče ceny, OpenAI požaduje 10 dolarů za 1 milion vstupních tokenů a 50 dolarů za 1 milion výstupních tokenů (zrychlená verze v rámci API stojí dvojnásobek).
V několika ohledech je Astra opravdu přelomový model, který umí hledat dosud neznámé bezpečnostní chyby a vytvářet způsoby jejich zneužití. Díky tomu by mohli být pro jednou vývojáři o krok před hackery, a ne naopak, jak tomu většinou bývá. Obtížnější monitorovací mechanismy a schopnost obelstít vlastní tvůrce ale z této platformy teoreticky dělají dvousečnou zbraň.
Tomáš Zenkl
Další dnešní články
