- Papež ve svém lednovém poselství varoval před trendem randění s umělou inteligencí
- Připomněl, že jde o „svět zrcadel“, který může vést k „bolestivým následkům“
Umělá inteligence může výrazně přispívat k rozkladu mezilidských vztahů a vést k bolestivým důsledkům pro jednotlivce i společnost. Prohlásil to papež Lev XIV. ve svém poselství ke Světovému dni sdělovacích prostředků, zvláštní obavy přitom vyjádřil ohledně koncepce AI partnerů a milostného dopisování s neživými chatboty.
Papež varoval před „hříšnou AI“
Svatý otec ve svém poselství upozornil, že je čím dál těžší poznat, zda komunikujeme s člověkem, nebo s robotem. Nejde přitom jen o komunikaci jako takovou, ale i o to rozeznat obsah generovaný AI a obsah vycházející ze skutečného světě. Obavy vyjádřil i z AI „přítelkyň“ a „přítelů“, kteří jsou neustále dostupní, přehnaně vstřícní a emočně přizpůsobiví. Podle něj takové systémy využívají naši potřebu vztahu, ale místo skutečného dialogu vytvářejí „svět zrcadel“, kde slyšíme jen vlastní ozvěnu.
„Digitální technologie mohou radikálně změnit některé základní pilíře lidské civilizace, které jsou někdy považovány za samozřejmé. […] Technologie, která využívá naši potřebu vztahů, může vést nejen k bolestivým důsledkům v životech jednotlivců, ale také k poškození sociální, kulturní a politické struktury společnosti,“ prohlásil papež.
Co řekl papež Lev XIV. na adresu umělé inteligence?
- „Obličeje a hlasy jsou posvátné. […] Zachovat lidské obličeje a hlasy znamená tedy zachovat toto razítko, tento nezmazatelný odraz Boží lásky.“
- „Výzva tedy není technologická, ale antropologická. Chránit obličeje a hlasy znamená nakonec chránit nás samotné.“
- „Chatboty […] se mohou stát skrytými architekty našich emočních stavů a tak vtrhnout a zabrat naši intimní sféru.“
- „Správná regulace může ochránit jednotlivce před vytvářením emočních vazeb na chatboty a omezit šíření falešných, manipulativních nebo zavádějících obsažích.“
- „Mediální a komunikační společnosti nesmí dovolit, aby algoritmy navržené k zachycení pár dalších sekund pozornosti za každou cenu převážily nad jejich profesními hodnotami, které směřují k hledání pravdy.“
Nejde přitom o první varování Vatikánu před umělou inteligencí – už papež František v roce 2024 upozorňoval na „perverzní“ využití simulace, které deformuje vztah k realitě. Současně Vatikán řeší příval deepfake videí a falešných prohlášení, která papeži vkládají do úst výroky, jež nikdy nepronesl. Církev tak paradoxně bojuje s AI na dvou frontách: proti manipulaci informací i proti náhražkám lidské blízkosti.
