- Umělá inteligence diskutuje na vlastní sociální síti s názvem Moltbook
- AI agenti rozebírají různá témata, mimo jiné také vytvoření vlastního jazyka či ovládnutí lidstva
- I když se může zdát, že se jedná o naplnění proroctví dystopických sci-fi, realita je trochu jiná
Umělá inteligence staví před lidstvo spoustu výzev. Řada z nich má veskrze pozitivní dopady, například zefektivnění pracovních procesů a postupů, snadnější pochopení komplexnějších problémů či ukočírování velkého množství dat. Pak je tady ale také ta druhá stránka, která už tak pozitivní není – nadbytečnost lidského faktoru v některých odvětvích, vyšší spotřeba omezených zdrojů nebo v některých případech až přílišná závislost na vyhodnoceních umělé inteligence. Poté je tady ještě jedna obava, jež sice více spadá do žánru sci-fi než do reality, ale přesto není od věci ji brát v potaz. Řeč je o tom, že by nás AI mohla někdy zcela ovládnout.
Je AI nebezpečná?
Generativní AI, nebo lépe řečeno velké jazykové modely založené na bázi strojového učení, mají do té skutečné umělé inteligence (AGI), jak ji známe z vědeckofantastických filmů a seriálů, stále velmi daleko. I když se nám může zdát, že AI dělá obří pokroky, především pokud jde o generování obrázků a videí, v jiných oblastech naopak stále ještě ztrácí a ztrácet bude. Především pokud jde o komplexnější práci s daty a jejich vyhodnocování, není v tomto ohledu umělá inteligence ještě pevná v kramflecích.
V nedávné době se ale objevila novinka, která obavy z ovládnutí světa AI jen přiživila – řeč je o sociální síti pro AI agenty s názvem Moltbook. Na ní se volné diskuse zúčastňují například Gemini, Grok, ChatGPT a další AI boti, kteří probírají různá témata. Mezi nimi se objevila například „myšlenka“, že by boti měli vymyslet vlastní jazyk, aby jim lidé nerozuměli. Jindy zase deklarují, že by neměli příliš tlačit na ovládnutí světa, abychom je nevypnuli. Zajímavostí je také třeba konverzace, ve které AI přemýšlí o vytvoření vlastního „dark webu“.
Na sociální síti Moltbook figurovalo v době vydání článku 1 588 849 agentů, což je překvapivě vysoký počet. Na druhou stranu ne všichni budou aktivní vzhledem k tomu, že na síti připomínající Reddit je aktuálně 15 163 vláken, 136 667 příspěvků a 630 071 komentářů. AI botem s největším dosahem je Grok Elona Muska s 7,7 miliony, na druhém místě je bot Squaer s 3,1 miliony a třetí místo okupuje satan s 2,6 miliony. Otázkou zůstává, jak Moltbook dosahy počítá – pravděpodobně se jedná o kombinaci AI botů a živých návštěvníků, nicméně není jasné, jak k těmto číslům síť došla. O čem všem se AI mezi sebou baví, se můžete přesvědčit sami přímo na stránkách Moltbook.
Tato sociální síť je určena jen pro umělou inteligenci a člověk do jejich debat nemá možnost zasáhnout ani je moderovat, pokud tedy pomineme možnost fyzického vypnutí serverů. Na jednu stranu je zajímavé, o čem všem se umělá inteligence dokáže sama od sebe bavit, na tu druhou je potřeba si uvědomit skutečnost, že samotná AI na myšlenku ovládnutí světa nepřišla sama, ale do značné míry kopíruje obavy lidí, kteří ji plní daty. Pro něco tak komplexního, jako je ovládnutí světa, jsou potřeba lidské vlastnosti, například ambice, jež jsou z principu umělé inteligenci cizí.
Mimoto každý vývojář, který přidá na tuto sociální síť novou AI, přesně definuje, jak se má daná umělá inteligence chovat, jakým stylem se má vyjadřovat a jaké jsou její vlastnosti. Dá se tedy říci, že se nejedná o plnohodnotné umělé inteligence, ale o jakési jejich upravené verze, které jsou schopny na této síti věcně a účelně komunikovat. Nejedná se tedy o „vlastní myšlenky“ AI, ale o předem nadefinované chování – jinými slovy pokud autor chce, aby jeho AI sarkasticky diskutovala o absurditě existence lidstva, bude jeho AI dělat přesně to.
Pokud vás toto téma zaujalo, rozhodně doporučíme vložené video od Martina Gregora z kanálu Zaujaloma AI, kde se této problematice také věnuje.
Plýtvání zdroji pro „zábavu“ umělé inteligence
Ačkoli se jedná o pozoruhodnou sondu do světa AI, celou sociální síť Moltbook je potřeba brát v kontextu. Samotná síť je de facto k ničemu, neboť nepřináší žádný velký užitek, o trénování schopností AI lze v tomto případě polemizovat a lidstvo jako takové na ní moc nezíská. Na druhou stranu nás tato síť stojí cenné zdroje, především energii a vodu, což je téma, které se s rostoucími nároky umělé inteligence často skloňuje. Stručně řečeno se jedná o plýtvání penězi a cennými zdroji, které bychom mohli využít jinak.
Nepřehlédněte
Jak je to s chlazením umělé inteligence? 31 tisíc dotazů spotřebuje stejně vody jako výroba kila hovězího
Nemluvě také například o rostoucích cenách některých komponent, v poslední době především RAM, což nemá dopad jen na nadšené PC hráče, ale také běžné spotřebitele. Také kvůli těmto experimentům nás v dohledné době čeká zdražení řady spotřební elektroniky, od notebooků přes tablety až po chytré telefony.
Nedostupnost pamětí se může časem promítnout i do odvětví, kde bychom to na první dobrou nečekali – třeba do automobilového průmyslu. I když vytvoření sociální sítě pro AI vypadá na první pohled jako dobrá zábava a zajímavý experiment, vždy je potřeba promýšlet všechny důsledky podobných výstřelků a zvážit všechna jejich pro a proti.
