- Služba Re;memory 2 tvrdí, že mluvící videoavatar zesnulého vytvoří z fotografií a krátkých ukázek hlasu
- Archiv skutečných nahrávek není totéž jako chatbot, který za mrtvého skládá nové věty
- Výzkum upozorňuje na riziko, že se pozůstalí na digitální kopii citově upnou
Jihokorejská služba re;memory 2 podle svého provozovatele vytvoří mluvícího avatara zesnulého z fotografií, krátkého hlasového vzorku a životopisu o několika větách. Výsledkem je video s tváří a syntetickým hlasem člověka, který už nežije.
ℹ️ Stačí jeden klik! Přidejte si nás mezi mezi preferované weby, případně nás sledujte v Google Zprávách, nebo na Seznam.cz
Po smrti blízkého člověka často zůstanou otázky, které už není komu položit. Na této touze staví služby slibující, že známý hlas nemusí zmizet a rozhovor může pokračovat. Pozůstalý se pak může upnout nejen ke vzpomínce, ale i k aplikaci, která mu ji vrací. Otázkou je, zda mu taková služba pomáhá s truchlením, nebo hlavně vydělává firmě, která ji provozuje. Pod podobně znějící nabídkou se přitom skrývají dvě odlišné věci: jedna služba po otázce pustí nahrávku pořízenou za života, druhá z dodaných materiálů složí novou odpověď.
Archiv vrací konkrétní záznam. U digitální kopie vytvořené AI vede rodina rozhovor s postavou, jejíž odpovědi i podmínky kontaktu nastavuje provozovatel.
Archiv pustí starou odpověď, persona vyrobí novou
StoryFile Life pracuje s předem natočenými videoodpověďmi. Uživatel položí otázku a software v databázi vybere nejvhodnější existující záznam. AI má porozumět dotazu, nikoli domýšlet názor člověka před kamerou. Pokud se někdo zeptá na dětství, spustí se odpověď, kterou dotyčný skutečně natočil. Když vhodná nahrávka chybí, systém nemá z čeho vytvořit autentickou výpověď.
Podobně fungovala služba HereAfter AI. Ukládala hlasové vzpomínky, fotografie a životní příběhy, ve kterých pak rodina mohla vyhledávat otázkami. Takový archiv může uchovat historky, které by jinak zmizely, nebo hlas prarodiče pro děti, které ho téměř nezažily. Pořád ale přehrává skutečný záznam.
Taková digitální kopie překračuje tuto hranici. Z dodaných materiálů odvozuje styl řeči, témata a vztahy, potom skládá nové věty. Může reagovat na narození vnoučete, nový rodinný spor nebo událost, která nastala roky po smrti předlohy. Přesvědčivý hlas přitom neříká nic o tom, zda by člověk stejnou větu opravdu pronesl.
Afterlife AI ve svých podmínkách tuto nejistotu pojmenovává otevřeně. Výstupy persony jsou podle firmy pravděpodobnostní a nemusí přesně odpovídat názorům, vzpomínkám ani identitě předlohy. Pro pozůstalé je to podstatná informace. Archiv může vzpomínku vybrat a zasadit do nového kontextu, ale digitální kopie k ní přidává obsah, který nikdy neexistoval.
Za kontakt se platí každý měsíc
Afterlife AI nabízí bezplatnou variantu, placený tarif začíná po přepočtu zhruba na 320 korunách měsíčně. Vyšší varianta stojí přibližně dvojnásobek.
Vyšší tarif zvyšuje limit konverzací a počet lidí, kterým může tvůrce persony udělit přístup. Cena tak ovlivňuje, kolik členů rodiny se ke kopii dostane a v jakém rozsahu s ní mohou mluvit.
U předplatného má firma naopak důvod udržet zákazníka co nejdéle. Běžně toho dosahuje novými funkcemi, připomínkami nebo výhodnějšími ročními tarify. U digitální kopie zesnulého však podobné pobídky pracují s city pozůstalých. Provozovatel vydělává na kontaktu, který může pozůstalý potřebovat omezit nebo úplně ukončit.
Kam může takový obchodní model zajít, zkoumali výzkumníci z Cambridgeské univerzity pomocí tří hypotetických scénářů. Nepopisovali běžnou praxi dnešních firem. Modelovali situace, které by mohly nastat, pokud služba smí jménem zemřelého dál oslovovat rodinu.
V těchto scénářích může firma z rodinných dat vytvořit kopii bez jasného souhlasu zemřelého, po skončení zkušební verze vložit do rozhovoru reklamu a posílat jménem avatara nevyžádané zprávy, připomínky či e-maily. Autoři tím popisují konkrétní rizika: pozůstalý může dostat kontakt, o který nestojí, reklamu podanou hlasem blízkého člověka nebo ztratit možnost personu důstojně vypnout.
Systematický přehled 30 studií digitálních nástrojů pro truchlení navíc upozorňuje na možné nadměrné spoléhání na digitální kontakt. Zahrnuje chatovací persony, digitální zobrazení zemřelých i jiné online nástroje, takže neměří jen účinek samotných avatarů. Přesto je u nich riziko srozumitelné: služba může udržovat dojem nepřerušeného vztahu a člověk se na ni může citově upnout. O dlouhodobých dopadech generativních griefbotů zatím chybí dost spolehlivých dat.
Notifikace ve stylu „Maminka na vás dnes myslí“ by nebyla obyčejnou pobídkou k návratu do aplikace. Využívala by tvář, hlas a rodinný vztah člověka, který už nemůže protestovat. Stejně citlivé by bylo přesunutí delších hovorů, známějšího hlasu nebo osobnějších zpráv do dražšího tarifu. Firma by tím neprodávala jen výkon modelu, ale také intenzitu setkání s kopií.
Někdy do avatara mluví hlavně pozůstalí
Agentura AP popsala případ, kdy si Lee Geon Hui objednal u Vaice video svého zesnulého dědečka jako dárek pro otce. Digitální postava otce oslovila, omluvila se mu za tvrdou práci v dětství a uznala jeho rozhodnutí stát se kadeřníkem. Otec nejprve video odmítal, nakonec ho zhlédl a rozplakal se. Silná rodinná chvíle přitom nevznikla věrným obnovením dědečkovy osobnosti.
Slova však nenapsal dědeček. Scénář připravil vnuk, který se pokusil vyslovit to, co podle něj jeho otec potřeboval slyšet. Video proto neuchovalo nalezenou vzpomínku. Vnuk tak promluvil za mrtvého, jen s dědečkovou tváří a hlasem.
To nemusí znehodnocovat emoci, kterou výsledek vyvolal. Mění to ale jeho význam. Podobné video může fungovat jako rodinný rituál, dopis nebo hraná rekonstrukce. Digitální kopie pak stejný princip opakuje při každé nové otázce a odpovědi podává v první osobě. Čím méně původních materiálů dostane, tím větší část postavy musí doplnit software nebo pozůstalí.
Digitální nesmrtelnost končí spolu se startupem
Firmy v tomto oboru rády mluví o odkazu pro další generace. Startup ale může zaniknout, zatímco rodina chce nahrávky uchovat dlouhodobě. Web HereAfter AI nyní oznamuje ukončení činnosti a lidem s účtem radí, aby si o své životní nahrávky napsali na podporu.
U běžné aplikace může po vypnutí zmizet seznam poznámek nebo oblíbený playlist. Tady rodina přijde o rozhraní, přes které slýchala hlas blízkého člověka. Pokud se k personě vracela pravidelně, spolu se softwarem zmizí i konkrétní způsob kontaktu, který jí firma nabízela.
Stažené soubory nemusí zachovat způsob, jakým s nimi služba pracovala. StoryFile ve svých podmínkách uvádí, že se při ukončení služby pokusí nabídnout stažení videa, výsledný soubor ale bez její technologie ztratí interaktivitu. Firma si také vyhrazuje možnost účtovat za export náklady. Původní nahrávka tedy může přežít, způsob rozhovoru nikoli.
Uživatel by měl mít k dispozici původní zvuk, fotografie a přepisy v běžných formátech, které otevře bez konkrétní aplikace. Chování generované persony ale závisí na modelu, interních pravidlech, databázi vzpomínek a způsobu, jakým služba všechny části spojuje. Export proto zachrání podklady, nikoli postavu, se kterou rodina mluvila. Avatar, jak ho znala, s vypnutím služby zemře podruhé.
Souhlas jednoho člověka nevyřeší celou rodinu
Větší kontrolu má člověk, který vytvoří svou personu ještě za života a sám určí, co smí používat. Afterlife AI staví službu právě na tomto postupu. Uživatel vybírá důvěryhodné kontakty a pravidla budoucího přístupu. Zároveň může účet zrušit a podle zásad soukromí si vyžádat data v přenositelném formátu.
Ani jeho souhlas ale neznamená, že partner, děti nebo sourozenci chtějí s kopií mluvit. Jeden člověk může v otcově hlase hledat útěchu, pro druhého bude stejná zpráva bolestivým vpádem do běžného dne. Rodina se nemusí shodnout ani na tom, které vzpomínky měly zůstat soukromé a kdo smí personu po smrti měnit.
Možnost odmítnout kontakt je proto stejně důležitá jako souhlas s vytvořením kopie. Avatar by neměl rodině psát první, pokud si to jednotliví lidé výslovně nezvolili. Každý potřebuje vlastní nastavení četnosti zpráv a snadnou cestu k úplnému vypnutí. Vypínač přitom nesmí být schovaný za telefonátem na podporu ani spojený s podmínkou, že zrušením tarifu nenávratně zmizí všechny původní nahrávky.
Digitální archiv může uchovat hlas a příběhy, které by se jinak ztratily. Digitální kopie k nim přidává věty, které člověk nikdy neřekl, a firma mezi kopii a rodinu vkládá vlastní ceník, pravidla a aktualizace. Pokud má taková služba zůstat vzpomínkou, musí být možné odnést si původní data a vztah s personou ukončit. Bez toho si rodina nepředplácí minulost, ale kontakt, jehož podobu i konec řídí někdo cizí.
Ondřej Dolejš
Další dnešní články
