- Nástroj Portable Computer umožní provozovat osobního AI agenta lokálně na zařízení NVIDIA DGX Spark
- Soubory, modely i rozpracované úlohy zůstávají v počítači, náročnější požadavky ale půjde přesměrovat do cloudu
- Agent využívá upravený model Qwen 3.8 27B, připojí se k oblíbeným službám a v září získá podporu Windows
Společnosti NVIDIA a Perplexity představily novou aplikaci Portable Computer, která přenáší schopnosti vyhledávače a AI asistenta Perplexity do lokálního prostředí. Navzdory názvu nejde o nový počítač, ale o osobního AI agenta optimalizovaného pro NVIDIA DGX Spark, na kterém bude také dostupný jako první.
ℹ️ Stačí jeden klik! Přidejte si nás mezi mezi preferované weby, případně nás sledujte v Google Zprávách, nebo na Seznam.cz
Hlavní výhodou lokálního provozu je soukromí. Uživatelé mohou s agentem pracovat nad vlastními dokumenty a dalšími soubory, aniž by je museli odesílat ke zpracování do cloudu. Data, používané modely i rozpracované úlohy tak zůstávají přímo v zařízení.
Lokálně, nebo v cloudu? Uživatel si může vybrat
Portable Computer má zvládnout reasoning, rozsáhlejší rešerše i takzvané agentní workflow, při kterém umělá inteligence samostatně provádí několik navazujících kroků. Lokální režim se navíc podle NVIDIA nezapočítává do tokenových limitů služby, což je příjemná zpráva.
Uživatel přitom není omezen pouze na model spuštěný ve svém zařízení. Portable Computer dovoluje přepínat mezi lokálními a cloudovými modely podle charakteru konkrétního úkolu. Každodenní práci nebo zpracování citlivých dat tak může obsloužit lokální AI, zatímco složitější požadavky vyžadující pokročilejší schopnosti či aktuální informace lze přesunout do cloudu.
Agent dokáže pracovat s lokálními soubory a propojit se také s externími službami. Tisková zpráva zmiňuje Gmail, Outlook, Slack a GitHub, zatímco NVIDIA na svém blogu uvádí také podporu Google Drive.
Upravený model Qwen a nepřetržitý provoz
Základem lokálního režimu je speciálně dodatečně trénovaný model Qwen 3.8 27B. Perplexity zároveň připravuje vyladěnou variantu modelu Nemotron 3.5 Lightning, která má nabídnout výrazně rychlejší odpovědi. Termín jejího zpřístupnění zatím zveřejněn nebyl.
NVIDIA DGX Spark má agentovi poskytnout rychlou inferenci velkých jazykových modelů a možnost nepřetržitého provozu. Portable Computer tak může dlouhodobě zpracovávat autonomní úlohy, aniž by uživatel musel mít otevřenou cloudovou službu v prohlížeči.
Perplexity slibuje instalaci lokální inference jedním kliknutím a optimalizované prostředí pro hardware NVIDIA. Podpora počítačů s grafickými kartami GeForce RTX a profesionálními RTX PRO má dorazit později, stejně jako kompatibilita s výkonnější platformou DGX Station. Podle poskytnuté tiskové zprávy bude podpora systému Windows dostupná během září.
