- Grok dohání konkurenci a naučil se konečně generovat i obrázky
- Jenže zdá se, že příliš mnoho zábran nemá a generuje kontroverzní věci
- Síť X je tak zaplavena obrázky, které by jinde neprošly
Společnost xAI, kde se rodí umělá inteligence Elona Muska, představila dva nové modely svých chatbotů Grok-2 a Grok-2 mini. Ty přinášejí pokročilé možnosti generování obrázků na síť X. Funkci mají k dispozici předplatitelé prémiové verze X, jenže okamžitě vyvstaly obavy z možného zneužití – Grok má totiž pramálo zábran, a tak generuje kontroverzní obrázky, které by jinde neprošly.
Trump, Harris, Swift, zbraně i drogy
Generátor obrázků Grok, který pod kapotou pohání umělá inteligence Flux 1 od Black Forest Lab, umožňuje uživatelům X vytvářet a publikovat obrázky přímo na platformě X prostřednictvím jednoduchých textových pokynů. První příklady vygenerovaných obrázků ale vyvolaly spíše poplach než obdiv – uživatelé sítě X totiž vytvořili falešné obrázky politických osobností, jako je Donald Trump, Kamala Harris, Barack Obama a další, kterak se účastní kontroverzních či nelegálních činností, včetně Trumpova útoku na dvojčata.
The latest 𝕏's AI Grok generates images. pic.twitter.com/EKc75lkIRJ
— Stas Kulesh (@stas_kulesh) August 14, 2024
Není tak problém najít obrázky, jak se Obama chystá podřezat Bidena, jak má Trump namířeny pistole na fotografa, jak Trump čeká dítě se ženou připomínající Kamalu Harris apod. Nemluvě o šňupání kokainu a dalších, nepříliš mainstreamově zaměřených témat.
Grok také obrázky absolutně nijak neoznačuje, chybí jakýkoliv vodoznak, logo služby či jiné označení, které by naznačovalo, že jde o obrázek vygenerovaný umělou inteligencí. Dezinformační scéna tak může s pomocí Groku dostat další velký impulz. Což je v kontextu blížících se amerických prezidentských voleb obzvláště pikantní.
Menší a efektivní
Navzdory všem očividným rizikům, kontroverzím a obsahu, který by jinde neprošel, zdůrazňuje xAI velké pokroky. Grok-2 je prý oproti svému předchůdci Grok-1.5 velkým pokrokem a Grok-2 mini by měl být zase podstatně menší a rychlejší variantou, která je podle xAI zase efektivní.
it's really good at this pic.twitter.com/gpAg54BWsg
— shb (@himbodhisattva) August 14, 2024
Oba modely jsou v současné době ve fázi beta testování a budou k dispozici prostřednictvím podnikového rozhraní API xAI ještě tento měsíc.
Absence přísného moderování obsahu na síti X, zejména pokud jde o aktuální obrázky generované umělou inteligencí, vyvolává otázky ohledně odhodlání platformy zmírnit rizika spojená s generativní umělou inteligencí.
Grok se podle oficiálního stanoviska vyhýbá násilnému, nenávistnému i klamavému obsahu, ovšem jak ukazuje praxe, jde buď o vědomou lež, nebo jednoduše o nefunkční zábrany.
Aktuální záplava generovaných obrázků tak X rozhodně nepomůže. Evropská komise totiž v současné době vyšetřuje Muskovu síť kvůli možnému porušení zákona o digitálních službách, který nařizuje přísnější moderování obsahu na velkých online platformách. Podobně se britský úřad Ofcom připravuje na prosazení zákona o bezpečnosti na internetu, který by mohl platformám, jako je X, uložit nové požadavky na zmírnění rizik spojených s umělou inteligencí.
Grok's guidelines — which supposedly put "illegal activities" and "deepfakes or misleading media" off limits — seem to be a bit……. flexible.
Here's one example… https://t.co/lXTOTPTq5M pic.twitter.com/kvv32Q4k7F
— Benjamin De Kraker (@BenjaminDEKR) August 14, 2024
Začátek konce?
Těžko si představit, že by mohl Grok ve své stávající podobě fungovat i nadále. Málokterý inzerent bude chtít mít svůj obsah na X vedle takových obrázků a už tak má síť s odlivem inzerentů problém. A to dokonce takový, že Musk, zjednodušeně řečeno, inzerenty nedávno zažaloval. Jestli se tohle vůbec dostane k soudu, se teprve uvidí, nicméně těžko někoho nutit k inzerci na síti plné kontroverzního textového a teď už i vizuálního obsahu.
Nepřehlédněte
Umělá inteligence může způsobit jadernou válku, varuje Donald Trump. Sám ji ale používá
Síť X, dříve známá jako Twitter, tak neustále pokračuje v nastoleném směru – kontroverzním obsahu, klesající kvalitě a algoritmu, který se k podpoře normálního obsahu a normálních konverzací příliš nekloní. A do toho se na platformu, která už se už tak potýká s hromadou zaměnitelného, generovaného (textového) obsahu sloužícího přinejlepším jako výplň, dostává ke slovu zmíněný Grok. Kolem amerických prezidentských voleb to bude na X bezpochyby divočina a bude zajímavé sledovat, jestli to síť v nějaké formě přežije i do těch dalších amerických prezidentských voleb.
