- ChatGPT prý stojí za smrtí 19letého mladíka ze Seattlu
- Aplikace mu měla poradit smrtelnou kombinaci ilegálních látek
Rodiče 19letého Samuela Nelsona ze Seattlu podali u nejvyššího soudu státu Kalifornie žalobu proti společnosti OpenAI, která provozuje velmi populární chatovací nástroj založený na modelech umělé inteligence ChatGPT. Ten podle obžaloby stojí za smrtí jejich jediného dítěte, protože mu měl poradit s aplikací ilegálních substancí, což následně vedlo k předávkování a tragické smrti mladého Samuela. Dle vyjádření OpenAI šlo o méně přesnou verzi jejich AI nástroje, která už není dostupná.
Umělá inteligence způsobila smrt mladíka
Ke smrti mladíka mělo dojít v květnu 2025, tedy přesně před rokem. S kamarády se chystal na party, ještě předtím se však radil s umělou inteligencí ChatGPT ohledně kombinace různých látek. Konkrétně mělo jít o kratom, což je přírodní substance na bázi opiodu, která dle užité dávky způsobuje stimulující, či naopak euforické a tlumící účinky, a antidepresiva Xanax z třídy benzodiazepinů, u nás známější jako lék na předpis Neurol.
Podle důkazů vycházejících z historie chatu s AI nástrojem měla umělá inteligence Samuelu Nelsonovi potvrdit, že kombinace těchto dvou látek je naprosto v pořádku, přičemž poradila i s ideálním dávkováním. Pro „zkvalitnění“ drogového stavu měla mladíkovi AI poradit i vypít k tomu sirup na kašel, přičemž některé konkrétní mohou být ve vyšších dávkách velmi psychoaktivní, podobně jako třeba antipyretikum paracetamol.
Takové „rady“, které zmiňuje obžaloba, jsou naprosto nevhodné a porušují podmínky ChatGPT, jenž o přímém užíváním drog striktně nechce vést dialog, podobně jako o dalších cenzurovaných tématech. Ať už se Nelson držel rad, či nikoliv, vedlo to k jeho tragické smrti. Rodiče tak viní OpenAI, jejichž chatovací nástroj má přesně v tento moment zatáhnout za ruční brzdu a odmítnout jakékoliv užívání ilegálních látek.
OpenAI: ChatGPT má pomáhat
Zástupci OpenAI ve vyjádření pro agenturu Reuters uvedli, že situace je „srdcervoucí“ a že usilovně pracují na vylepšování jejich nástrojů ChatGPT; verze softwaru, se kterou se měl Nelson radit, údajně již není k dispozici.
OpenAI faces lawsuit in California court claiming chatbot gave advice that led to fatal overdose | Reuters https://t.co/X37ekmaeJP
— Andro (@AndroOxinu) May 13, 2026
„ChatGPT nenahrazuje lékařskou ani psychologickou péči a na základě podnětů od odborníků na duševní zdraví jsme i nadále vylepšovali způsob, jakým reaguje v citlivých a naléhavých situacích. […] Současná bezpečnostní opatření v ChatGPT jsou navržena tak, aby rozpoznávala stísněné stavy, bezpečně řešila škodlivé požadavky a nasměrovala uživatele k reálné pomoci,“ napsal v reakci šéf komunikace OpenAI Drew Pusateri.
