- AI generátor obrázků Stable Diffusion prošel významnou optimalizací, která snižuje nároky na grafickou paměť
- Vylepšená verze je výsledkem spolupráce britské firmy Stability AI a technologické společnosti Nvidia
- Optimalizace populárního AI generátoru se proto týká pouze grafických karet RTX
- Nvidia slibuje až 40% snížení náročnosti na VRAM, z 18 na 11 GB
Stable Diffusion od britské společnosti Stability AI patří v současnosti k nejpopulárnějším modelům pro generování obrázků, které dokáží převést text do vizuální podoby. Generativní umělá inteligence je však často poměrně náročná na výkon vašeho počítače, a proto řada podobných služeb funguje primárně v cloudu. Situaci by mohla zlepšit nová verze Stable Diffusion 3.5, na které britští vývojáři pracovali společně s technologickou společností Nvidia.
Stačí „pouze“ 11 GB VRAM
A právě na počítačích a pracovních stanicích s grafickými kartami RTX by měl generátor obrázků nově fungovat o poznání rychleji a s nižší náročností na hardware. Nvidii se s pomocí nástrojů TensorRT podařilo významně snížit nároky na grafickou paměť. Stable Diffusion 3.5 díky tomu vyžaduje „pouze“ přibližně 11 GB VRAM, tedy o 40 % méně než doposud. Nvidia uvádí, že ve srovnání s datovým typem BF16 PyTorch, který rovněž slibuje optimalizaci hlubokého učení, běží Stable Diffusion až 2,3krát rychleji.
(Ne)dostatek grafické paměti
V případě modelové řady RTX 50 se tak generátor obrázků od Stability AI stává použitelnějším zejména pro majitele modelů grafických karet RTX 5080 a 5070 Ti (16 GB), RTX 5070 (12 GB) či RTX 5060 Ti (ve verzi se 16 GB VRAM). Slabší, byť řadou uživatelů vyhledávané modely RTX 5060 a 5060 Ti (ve verzi s 8 GB VRAM) však nadále zůstávají výrazně pod hranicí oněch 11 GB.
„Stable Diffusion 3.5 Large nyní potřebuje pouze 11 GB VRAM, takže je praktické pro mnohem více notebooků a stolních počítačů,“ uvádí zástupci Nvidie v tiskové zprávě. Z optimalizace by podle výrobce měli těžit zejména majitelé grafických karet řady RTX 40 a 50 s architekturami Ada a Blackwell.