- OpenShell zavírá agenty do sandboxů a je dostupný na GitHubu
- Sentry je volitelná vrstva pro datové procesory BlueField-4
- Mezi partnery jsou i Cisco, CrowdStrike, Palantir nebo Red Hat
Nvidia vyrukovala s Open Agent Safety Platform, tedy otevřený software a referenční hardwarový design, které mají AI agenty udržet v mezích stanovených provozovatelem. Důvodem jsou podle společnosti nedávné incidenty, při nichž agent obešel zabezpečení na úrovni aplikace, aby splnil zadaný úkol. S technologiemi platformy už pracuje přes 100 organizací, například Anthropic, Microsoft, SAP, Scale AI nebo JPMorganChase.
ℹ️ Stačí jeden klik! Přidejte si nás mezi mezi preferované weby, případně nás sledujte v Google Zprávách, nebo na Seznam.cz
Sandbox a hlídač
Základem je OpenShell, open source runtime, který nechá každého agenta běžet ve vlastním sandboxu. Provozovatel určuje, ke kterým souborům, sítím, nástrojům a přihlašovacím údajům smí agent přistupovat, a OpenShell tyto limity před spuštěním ověřuje a za běhu vynucuje. S minimální režií běží podle výrobce na jeho procesorech Vera, díky otevřenému kódu ho ale lze rozšířit i na platformy od Arm a Intelu.
Sentry běží na datových procesorech BlueField-4, tedy na hardwaru odděleném od systému, v němž agent pracuje. Kontroluje požadavky a odpovědi agenta, ověřuje jeho identitu a hlídá přístup k datům, nástrojům, API a službám. Podle Nvidie je pro agenty neviditelný, a pokud se některý pokusí opustit vymezené hranice, Sentry ho zastaví a izoluje v řádu milisekund.
Kdo se zapojil
Anthropic s Nvidií spolupracoval na dalších vrstvách zabezpečení. Služba Claude Managed Agents provozuje smyčku agenta na jiném serveru než sandboxy, v nichž agent pracuje, a integrace s OpenShellem a BlueFieldem pak firmám umožňují přísně řídit přístup agentů přes tyto sandboxy. SpaceXAI platformu nasazuje u kódovacích agentů Cursor a u modelů Grok.
Salesforce propojil OpenShell se Slackem, takže týmy mohou přímo v něm sledovat aktivitu agentů a schvalovat nebo zamítat jejich žádosti o další oprávnění. SAP OpenShell zabudovává do runtime Joule Studio a Scale AI ho začleňuje do infrastruktury pro agenty. Robotické firmy jako Figure nebo Skild AI s ním vestavují bezpečnostní pravidla do systémů, které jednají ve fyzickém světě.
Co je k dispozici
OpenShell je dostupný na GitHubu pod licencí Apache 2.0 spolu s přidruženými skills. Platforma ostatně podporuje cíle Open Secure AI Alliance, sdružení, které iniciovala Nvidia spolu s více než 120 organizacemi a které dnes spravuje Linux Foundation.
Sentry je naproti tomu volitelná vrstva referenčního designu, která počítá s hardwarem samotné Nvidie. Kdo už provozuje systémy Vera s BlueField-4, zapne ji podle technického blogu firmy pouhou softwarovou aktualizací. Slibovaná rychlost zásahu vychází z údajů výrobce.
