- Papež Lev XIV. vydal dopis veřejnosti, ve kterém se hojně věnuje rozvoji umělé inteligence
- Varoval před „novodobým kolonialismem“ v podobě sběru osobních dat, na závěr citoval Gandalfa
- Čtení dokumentu se zúčastnil i nečekaný host, a sice jeden z otců chatbota Claude Chris Olah
Katolická církev vstupuje do debaty o umělé inteligenci výrazně ostřeji než kdy dřív. Papež Lev XIV. zveřejnil svou první encykliku (dopis papeže veřejnosti) s názvem Magnifica Humanitas (Velkolepé lidství), ve které varuje před riziky spojenými s AI a vyzývá k jejímu „odzbrojení“. Podle něj se technologie nesmí stát nástrojem dominance, kontroly ani vylučování lidí ze společnosti.
AI jako téma pro papeže
Více než 80stránkový dokument se věnuje nejen autonomním zbraním nebo monopolům technologických gigantů, ale také tomu, jak firmy zacházejí s daty lidí. Papež přirovnává dnešní sběr zdravotních a genetických informací k nové formě kolonialismu. Data podle něj představují „nové nerostné bohatství“ a společnosti, které je kontrolují, získávají obrovský vliv nad budoucností států i jednotlivců.
In the era of #ArtificialIntelligence, when human dignity is threatened by new forms of dehumanization, ours is the pressing duty to remain profoundly human. We must lovingly safeguard the grandeur of humanity bestowed upon us and revealed in its fullness in Christ, the splendor…
— Pope Leo XIV (@Pontifex) May 25, 2026
Lev XIV. zároveň zdůrazňuje, že umělá inteligence není skutečně inteligentní v lidském slova smyslu. AI systémy podle něj pouze napodobují některé funkce lidského myšlení, ale nemají vědomí, emoce ani morální odpovědnost.
„Tyto systémy pouze napodobují určité funkce lidské inteligence. Přitom často předčí lidskou inteligenci v rychlosti a výpočetní kapacitě a přinášejí hmatatelné výhody v mnoha oblastech. Tato síla však zůstává zcela vázána na zpracování dat. Takzvané umělé inteligence neprožívají zkušenosti, nemají tělo, necítí radost ani bolest, nedospívají prostřednictvím vztahů a neví z vlastní zkušenosti, co znamená láska, práce, přátelství nebo odpovědnost. Nemají ani morální svědomí, protože nerozlišují mezi dobrem a zlem,“ napsal svatý otec.
Podle Vatikánu nestačí jen regulace. AI má být „odzbrojena“ od monopolní kontroly a otevřena širší veřejné debatě tak, aby sloužila lidem místo toho, aby je ovládala. Dokument zároveň volá po budování „civilizace lásky“, kde technologie podporují člověka a nenahrazují jeho přirozené vztahy a společenskou roli.
Citoval i Gandalfa
Dopis duchovním vůbec poprvé cituje nějakého populárního spisovatele, a sice postavu Gandalfa z Pán prstenů od britského prozaika a jazykovědce J. R. R. Tolkiena. Papež tím chtěl zdůraznit, že lidé nemají ovládnout celý svět, ale starat se o dobro ve svém okolí a chránit budoucnost dalších generací.
„Naším úkolem není ovládnout všechny proudy světa, ale udělat vše, co je v našich silách, abychom pomohli v těch letech, do nichž jsme byli zasazeni, a vykořenili zlo z polí, která známe, aby ti, kdo přijdou po nás, měli čistou půdu k obdělávání,“ citoval papež, dle svých slov, hlavní postavu z Tolkienových románů.
Na představení dokumentu ve Vatikánu nechyběl ani pro mnohé překvapivý host: spoluzakladatel společnosti Anthropic Christopher Olah. Ten upozornil například na riziko masivního nahrazování lidské práce AI nebo na fakt, že současné modely vykazují překvapivě složité a někdy až znepokojivé vnitřní chování.
„Jsem vědec. Vedu výzkumný tým, který studuje vnitřní strukturu těchto modelů – co se v nich vlastně děje. A budu upřímný: neustále nacházíme věci, které jsou záhadné, dokonce znepokojivé. Nacházíme struktury, které odrážejí výsledky lidské neurovědy. Nacházíme důkazy introspekce. Nacházíme vnitřní stavy, které funkčně odrážejí radost, spokojenost, strach, smutek a neklid. Nevím, co to znamená, ale myslím si, že to vyžaduje neustálé rozlišování,“ prohlásil Olah, tak trochu v rozporu s papežem.
Vatikán přitom umělou inteligenci zcela neodmítá. Letos například nasadil vlastní AI systém pro překlady bohoslužeb do desítek jazyků. Nová encyklika ale jasně ukazuje, že církev chce být aktivní součástí debaty o tom, jaké místo má AI v budoucí společnosti mít.
Jakub Fišer
Další dnešní články
