- Tim Cook přiznal, že ani jeho AI nebude stoprocentní
- Apple Intelligence bude stát z velké části na ChatGPT, která se s „halucinacemi“ dodnes potýká
- Díky hardwarovým omezením se ale Apple Intelligence nedostane hned do rukou všem
Navzdory rozsáhlému internímu testování a přípravám, které předchází blížící se uvedení Apple Intelligence, šéf Applu Tim Cook připustil, že stoprocentní to nebude.
Halucinacím se nevyhne ani Apple
Cook na jasně položenou otázku, zda jeho plánovaná AI bude také halucinovat (tzn. vymýšlet si nesmysly a sebevědomě tvrdit, že jsou pravdivé), odpověděl také jasně – bude. V rozhovoru pro deník The Washington Post Cook zdůraznil důkladný proces testování, který v Applu před uvedením těchto nových schopností AI spustili. O omezeních však otevřeně prohlásil: „Jsem přesvědčen, že to bude velmi kvalitní. Ale upřímně bych řekl, že to není stoprocentní. Nikdy bych netvrdil, že je to stoprocentní.“
Stejně jako ostatní technologičtí giganti si i Apple uvědomuje, že žádný systém umělé inteligence není neomylný. A je pravdou, že Apple Intelligence bude z velké části spoléhat na OpenAI, respektive její ChatGPT, na který bude posílat složitější dotazy. Ty jednodušší bude řešit vlastní AI Applu. A ChatGPT, jak je dobře známo, na halucinace trpí, tudíž je důležité a citlivé věci vždy důkladně kontrolovat a ověřovat i jinde.
Na druhou stranu nejde jen o problém ChatGPT nebo malé umělé inteligence Applu, ale o problém prakticky všech. Velké jazykové modely, na kterých současné nástroje generativní umělé inteligence stojí, se s halucinacemi potýkají poměrně často a nikomu se to zatím nepodařilo spolehlivě eliminovat. Momentálně tak jde jednoduše o „vlastnost“ technologie jako takové, nikoliv o specifickou chybu jediného provozovatele AI.
Hlavně žádná ostuda!
Jakkoliv s halucinacemi zápasí všichni, mediálně nejvýraznější průšvih měl se svou AI Google. Jeho AI totiž nedokázala rozpoznat satirické či ironické komentáře uživatelů z Redditu nebo nevěděla, že server The Onion je celý postavený na úmyslně absurdních zprávách tvářících se jako zprávy normální. Ve výsledku tak vyhledávání Googlu „doporučovalo“ některým uživatelům jíst kamení, dávat si na pizzu lepidlo a další podobné nesmysly.
Předtím se zase Google potýkal s poměrně unikátním problémem při generování obrázků, kdy například americké otce zakladatele či nacistické vojáky vyobrazil v různých barvách pleti. Google z toho měl z obou případů obrovskou mediální ostudu a uspěchané a očividně nedostatečně otestované systémy opravuje za chodu.
Opatrnost především
Dá se předpokládat, že Apple se bude chtít podobné ostudě za každou cenu vyhnout a dost možná se mu to i podaří. Ostatně na rozdíl od Googlu či Microsoftu zatím nic neuspěchal, do AI vstupuje jako de facto poslední velký hráč a zatím jen velice opatrně. Díky poměrně zásadnímu omezení Apple Intelligence jen a pouze na novější hardware bude navíc nasazení AI funkcí velice pozvolné a vývojáři tak budou mít teoreticky dostatek času na další důkladné testování a ladění.
Nepřehlédněte
Revoluce ve světě AI? Apple Intelligence za vás napíše e-mail, roztřídí notifikace a pomůže Siri
Apple Intelligence tak může být před skutečně masovým nasazením ve výrazně lepším stavu, než v jakém třeba právě Google spustil svůj Gemini nebo předtím ještě Barda. S postupným přechodem na novější a novější verze například iPhonů se tak Apple Intelligence, která vyžaduje alespoň iPhone 15 Pro, dostane do rukou většiny uživatelů Applu pravděpodobně až za několik let. A tou dobou už mohou být halucinace, vzhledem k překotnému vývoji AI systémů, tak okrajovým problémem, že se s nimi nemusí běžný uživatel třeba ani setkat.
