- Windows ML je nově dostupný ve Windows 11 (24H2 a novější) a umožní aplikacím spouštět AI lokálně přímo na vašem PC
- Pro uživatele to znamená rychlejší reakce, více soukromí a menší závislost na internetu
- Adobe, McAfee či Topaz už chystají funkce jako vyhledávání ve videu, detekci deepfake a vylepšení fotek
Microsoft uvolnil platformu Windows ML pro běžné produkční nasazení. Novinka umožní vývojářům přidávat do aplikací funkce umělé inteligence, které poběží lokálně na počítači, tedy bez nutnosti posílat data do cloudu.
Lokální AI asistenti
Podporované jsou všechny stroje s Windows 11 verze 24H2 a novější. Praktický dopad pro běžné uživatele spočívá v potenciálně výrazně rychlejší a plynulejší práci, lepší ochraně soukromí i nižších nákladech na provoz online služeb.
První konkrétní příklady ukazují, k čemu to bude v praxi: Adobe plánuje pro Premiere Pro a After Effects lokální AI asistenty pro rychlé prohledávání médií, automatické štítkování zvuku a rozpoznávání střihů ve videu. McAfee využije Windows ML k automatické detekci deepfake videí a podvodů na sociálních sítích. Topaz Labs už na platformě postavil funkce pro doostření, obnovu detailů a další úpravy fotografií; Reincubate (Camo) zlepšuje kvalitu obrazu z webkamery v reálném čase. Vše přitom běží přímo lokálně na PC, takže funkce reagují svižně i bez trvalého připojení k internetu.
Snadné snad i pro vývojáře
Základní princip je jednoduchý: Windows ML podle typu úlohy vybere nejlepší „čip“ v počítači. Pro náročné grafické výpočty sáhne po grafické kartě, pro úsporný provoz využije neurální procesor (NPU) a pro univerzální úlohy zůstává k dispozici procesor. Díky tomu mohou AI funkce běžet efektivněji a s menší spotřebou energie, což přijde vhod zejména uživatelům notebooků.
Microsoft zároveň míří na to, aby to bylo pro vývojáře co nejjednodušší. Windows ML je kompatibilní s ONNX Runtime, takže lze znovu použít existující modely v ONNX formátu nebo převádět modely z PyTorche pomocí AI Toolkitu pro VS Code.
Samotný Windows se stará o distribuci a údržbu tzv. „execution providers“ – mostů mezi softwarem a různými čipy od AMD, Intelu, NVIDIE a Qualcommu. Aplikace se tak nemusí balit s obřími knihovnami, což snižuje jejich velikost o desítky až stovky megabajtů a usnadňuje aktualizace. Vývojáři se tak můžou rozhodnout, zda preferovat nízkou spotřebu, nebo nízkou latenci.
Hmatatelné zlepší na dosah
Microsoft poprvé představil Windows ML už v roce 2018, tehdy jen pro Windows 10. Až teď se ale platforma otevírá naplno a s podporou velkých partnerů, mezi nimiž jsou Adobe, McAfee, Topaz Labs, Wondershare či Dot Inc. Cílem je urychlit nástup lokální AI v širokém spektru aplikací, od střihu videa přes zabezpečení až po přístupnost, a přinést tak uživatelům Windows hmatatelné, každodenní zlepšení práce na počítači.
Ostatně kombinace lokální AI a cloudového řešení bude nejspíš blízkou budoucností umělé inteligence a budeme s tím vídat asi častěji. A to jak na počítačích, tak na mobilech. Díky lokálně běžícímu LLM bude moct být AI bleskově rychlé, zatímco v těch nejnáročnějších úkolech může LLM sáhnout po cloudu, což sice zvýší latenci, ale zároveň to zvýší i schopnosti.
