- Přelomový objev výzkumníků z Applu umožňuje nasazení umělé inteligence v telefonech
- Inženýři přišli na způsob, jak lépe pracovat s pamětí
- Již brzy bychom se mohli dočkat například chytřejší Siri
Generativní umělá inteligence Applu, v médiích často označovaná výrazem „Apple GPT“, by s největší pravděpodobností příští rok měla zamířit do iPhonů. Výzkumníci umělé inteligence cupertinského giganta tvrdí, že vynálezem inovativní techniky využití paměti flash dosáhli klíčového průlomu v použití velkých jazykových modelů (LLM) v telefonech iPhone a dalších zařízeních Applu s omezenou pamětí. Společnost by tímto mohla potenciálně smazat náskok, který si na ni vytvořili konkurenční technologičtí obři, kteří zachytili vlnu umělé inteligence na jejím počátku.
Apple ve vývoji umělé inteligence nezahálí
Chatboti založení na modelu LLM (velký jazykový model), jako jsou ChatGPT a Claude, jsou velmi nároční na data a paměť, což je pro zařízení jako iPhone, který nemá paměti na rozdávání, potenciálně problém. Aby tento problém Apple vyřešil, vyvinuli jeho výzkumníci novou techniku, která k ukládání dat modelu umělé inteligence využívá paměť flash – stejnou paměť, ve které jsou uloženy vaše aplikace a fotografie. V nové výzkumné práci s názvem „LLM in a flash: Efficient Large Language Model Inference with Limited Memory“ autoři upozorňují, že paměť flash se v chytrých telefonech vyskytuje ve větších kapacitách než paměť RAM a šla by využít pro běh LLM.
Kombinací metod zvaných Windowing (namísto toho, aby model umělé inteligence pokaždé načítal nová data, znovu použije některá již zpracovaná data) a Row-Column Bundling (tato technika se podobá čtení knihy po větších částech, nikoli po jednotlivých slovech) umožňuje modelům umělé inteligence pracovat až s dvojnásobnou velikostí dostupné paměti iPhonu. To znamená až pětinásobné zvýšení rychlosti na CPU a impozantní až 25násobné zrychlení na GPU. „Tento průlom je obzvláště důležitý pro nasazení pokročilých LLM v prostředích s omezenými zdroji, čímž se rozšíří jejich použitelnost a dostupnost,“ píší výzkumníci.
Nová metoda spočívající ve vyšší efektivitě umělé inteligence otevírá nové možnosti pro budoucí iPhony, jako jsou pokročilejší funkce Siri, překlad jazyka v reálném čase a sofistikované funkce využívající umělou inteligenci ve fotografii a rozšířené realitě. Tato technologie také vytváří předpoklady pro to, aby na iPhonech mohli přímo v zařízení pracovat komplexní asistenti a chatboti s umělou inteligencí, na kterých prý Apple již pracuje.
Práce Applu na generativní umělé inteligenci by se nakonec mohla promítnout i do hlasové asistentky Siri. Apple v únoru 2023 uspořádal summit o umělé inteligenci a informoval zaměstnance o práci na rozsáhlém jazykovém modelu. Podle agentury Bloomberg usiluje Apple o chytřejší verzi Siri, která bude hluboce integrovaná s AI. Firma například plánuje aktualizovat způsob, jakým Siri spolupracuje s aplikací Zprávy, což uživatelům umožní efektivněji pokládat složité otázky a automaticky doplňovat věty. Kromě toho prý Apple plánuje přidat AI do co největšího počtu vlastních aplikací.
Michael Chrobok
Další dnešní články
