Hlasoví asistenti jsou zejména v zámoří stále populárnější. Oblíbenou asistentku Alexu používají desítky milionů lidí po celém světě. Jen málokdo z nich asi při vyslovení dotazu směrem k chytrému reproduktoru Amazon Echo předpokládá, že jeho dotaz uslyší nějaký zaměstnanec.
Exkluzivní zpráva serveru Bloomberg však odhaluje, že právě to se děje. A vzhledem k tomu, že hlasový asistent z podstaty svého fungování nahrává zvuk neustále, zaměstnanci mnohdy slyší i něco úplně jiného, než dotaz mířený na Alexu.
Tisíce lidí, devítihodinová pracovní doba a slib mlčenlivosti
Podle Bloombergu Amazon zaměstnává celosvětově tisíce lidí, jejichž prací je analyzovat získané zvukové stopy, přiřazovat k nim jakési popisky, třídit je a tímto způsobem trénovat umělou inteligenci. Část těchto pracovníků funguje externě, část je zaměstnána přímo v Amazonu. Centra jsou údajně v Bostonu, Kostarice, Indii a Rumunsku. Pracovní doba činí devět hodin a zaměstnanec za ni údajně zpracuje až tisíc krátkých nahrávek.
Všichni zaměstnanci musejí podepsat dohodu o mlčenlivosti a nesmí tak o programu lidské analýzy záznamů hovořit. Bloombergu se však povedlo pod příslibem anonymity přesvědčit několik současných i bývalých zaměstnanců, aby o těchto praktikách promluvili.
Každého asi zajímá především to, nakolik jsou data anonymizovaná. Odpověď je, že tak napůl. Nahrávky neobsahují informace o celém jménu uživatele a nedá se z nich zjistit ani jeho adresa. Obsahují však prý křestní jméno majitele, číslo Amazon účtu a výrobní číslo přístroje, z nějž byla nahrávka pořízena. Běžný zaměstnance tak pravděpodobně neví, od koho nahrávka pochází, avšak Amazon to zřejmě může kdykoliv zjistit.
V podmínkách se konkrétně nic o analýze nahrávek zaměstnanci nedočtete. Z FAQ služby se však dozvíte, že nahrávky mohou být používány ke zlepšování rozpoznávacích schopností Alexy. Tomu by se teoreticky mělo dát zabránit tím, že v nastavení Alexy odeberete souhlas s využíváním vašich dat pro zlepšování a vyvíjení nových funkcí.
Pracovníci Amazonu slyší zpívání ve sprše i domácí násilí
Bloomberg píše, že většina pracovní náplně je dle očekávání nudná – zaměstnanci zkrátka poslouchají běžné dotazy na hlasového asistenta. Pracovníci se však svěřili s tím, že občas uslyší přeci jen něco poněkud nestandardního. Tyto záznamy mezi sebou pak navíc sdílí v interním chatu, ať už z důvodu žádosti o radu, nebo prostě k pobavení ostatních.
Jeden ze zaměstnanců například vzpomíná, jak jednou poslouchal nějakou ženu – pravděpodobně ve sprše – velmi falešně zpívat jakousi odrhovačku. Ne všechny nahrávky jsou však takto humorné. Zaměstnanci prý už také slyšeli například dítě křičící o pomoc, nebo šokující záznam, na němž bylo zřejmě zachyceno domácí násilí a znásilnění. Podle informací zaměstnanců však Amazon odmítá s těmito případy cokoliv dělat.
Dva zaměstnanci bukurešťské pobočky pro Bloomberg uvedli, že po vyslechnutí takto závažné nahrávky kontaktovali vedení a žádali o instrukce, jak v takových případech postupovat. Dostalo se jim však prý jen prohlášení, že není prací Amazonu v těchto případech jakkoliv zasahovat. Zaměstnancům tak nezbývá, než se s těmito zážitky vypořádat individuálně, případně s pomocí zmiňovaného interního chatu.
Ačkoliv informace zveřejněné v analýze Bloombergu působí poměrně šokujícím dojmem, nejde o nic výjimečného. Dřívější zprávy ukázaly, že obdobně postupuje i Apple u své Siri a z podstaty strojového učení je jasné, že podobný program musí mít každý provozovatel hlasových asistentů. Jen manuální přiřazování informací totiž zajistí, že bude umělá inteligence schopná stále přesněji a rychleji rozpoznávat nejrůznější dotazy bez přesného slovosledu.
Amazon ujišťuje, že nebere soukromí uživatelů na lehkou váhu a analýza zvukových nahrávek prý probíhá jen na „extrémně malém vzorku“. Přesto však možná stojí za zvážení, o čem všem se budete před neustále naslouchajícím „robotem“ bavit.
Prvním, avšak ne úplně ideálním řešením, je v době, kdy Alexu nechcete používat, vypnout mikrofon na kompatibilním reproduktoru (Sonos, Google Home…). Mnohem pohodlnější je ale možnost číslo 2.
Amazon totiž po zveřejnění této kauzy do mobilní aplikace Alexa přidal novou možnost, díky které lze zakázat analýzu vašeho hlasu. Stačí spustit aplikaci, kliknout na záložku More ve spodní liště a následně Settings – Alexa Privacy.
Otevře se vám nová stránka, kde vyberte Manage Your Alexa Data. Následně najděte položku Use of Voice Recordings a vypněte ji. Alexa vás upozorní, že některé funkce hlasového asistenta nemusejí správně fungovat, ale nemusíte se obávat, po 2 týdnech s vypnutím této funkce Alexa funguje úplně stejně.
Pokud byste chtěli odstranit všechny vaše uložené zvukové příkazy, které Alexa zaznamenala, vraťte se o krok nazpět a vyberte z nabídky položku Review Voice History. Položku Filter by date nastavte na All history, a následně máte možnost kliknutím na Delete all my recordings smazat všechny hlasové příkazy.
