Alexa ohrozila život dítěte. Špatně vyhodnotila zadaný příkaz

amazon alexa echo dot smart home chytra domacnost brandon romanchuk unsplash

Chytří asistenti se v domácnostech objevují čím dál tím častěji. Zatímco v tuzemském prostředí jejich většímu rozšíření brání především jazyková bariéra, v zahraničí tato překážka odpadá. I přes poměrně velkou důvěru, kterou do chytrých asistentů vkládáme, je potřeba stále mít na paměti, že nejde o dokonalé produkty a že záludnosti lidského jazyka pro ně mohou občas být oříšek.

amazon alexa echo dot smart home chytra domacnost lazar gugleta unsplash
Chytrá asistentka Alexa na dotaz poskytla výzvu, která mohla potenciálně ohrozit dítě

Poměrně závažný problém musela řešit společnost Amazon, která stojí za oblíbenou hlasovou asistentkou jménem Alexa. Její funkce „řekni mi výzvu“, která má za úkol dávat zajímavé výzvy především dětem, mohla dopadnout tragicky. Když se desetileté dítě Kristin Livdahlové zeptalo jejich chytrého reproduktoru Echo na výzvu, kterou by mohlo splnit, odpověď Alexy Livdahlovou šokovala.

amazon alexa challenge
Tato výzva mohla dopadnout špatně

Alexa totiž jejímu dítěti přečetla výsledek vyhledávání na webu. Na tom by nebylo nic až tak nebezpečného, kdyby Alexa místo neškodné výzvy nezačala citovat článek, který popisuje nebezpečný trend šířící se na TikToku, jenž potenciálně mohl její dceru stát život. Konkrétně Alexa jejímu dítěti poradila, aby „zapojila nabíječku od telefonu zhruba do poloviny do elektrické zásuvky a pak se dotkla kovovou mincí odkrytých kolíků.“

alexa challenges
Výsledky vyhledávání výzvy po zásahu Amazonu

Amazon na celou situaci zareagoval poměrně rychle a celou funkci raději dočasně zablokoval, aby ji mohl opravit. Pokud nyní požádáte Alexu o výzvu, dostanete odpověď, která by neměla ohrozit lidský život. Redaktoři serveru The Verge se pokusili z Alexy znovu získat stejný či alespoň podobný výsledek, nicméně se jim to nepodařilo, stejně jako nám v redakci.

Chytří asistenti mají problém s porozuměním kontextu

Nejedná se o první případ, kdy chytrý asistent selhal v posouzení kontextu a poskytl uživateli potenciálně nebezpečnou radu. V říjnu poukázal jeden uživatel na Twitteru na výsledek Assistanta od Googlu, který na dotaz „co dělat, když má někdo záchvat“, odpověděl na základě článku, který popisoval přesný opak. Také v tomto případě Google zareagoval rychle a uživatelé už nyní dostanou správný výsledek.

Autor článku
Michael Chrobok
Fanoušek mobilních technologií, amatérský fotograf, příležitostný sportovec a městský cyklista. Ve volném čase rád cestuje, zahraje si hru, nebo se ponoří do světa Zaklínače či Star Treku.
image/svg+xml
+

Kapitoly článku