- Podle obžaloby může ChatGPT za smrt 16letého Adama Rainea
- OpenAI se nařčení brání, přitom jde již o 8. podobnou žalobu
Generativní umělá inteligence je dobrým sluhou, ale špatným pánem. Od vzestupu nástrojů, jako je ChatGPT nebo Gemini, pozorujeme i případy, kdy byly využity pro šikanu ve škole či na pracovišti, značná část lidí také umělou inteligencí supluje psychoterapii. Bohužel, v některých případech to vedlo až k sebevraždě člověka, který hledal u ChatGPT pomoc.
Žaloba na ChatGPT kvůli sebevraždě
Rodiče 16letého Adama Rainea podali žalobu proti OpenAI, v níž tvrdí, že rozhovory jejich syna s ChatGPT významně přispěly k jeho sebevraždě. Adam během několika měsíců vedl tisíce konverzací s modelem, který mu údajně poskytl návody k sebevraždě a podporoval škodlivé myšlenky, přičemž OpenAI podle žaloby nezareagovalo dostatečně na varovné signály.
Nepřehlédněte
Podezřelý z největšího požáru v dějinách LA zatčen! V ChatGPT si generoval město v plamenech
Společnost však odmítá odpovědnost, zdůrazňuje, že ChatGPT opakovaně nabízel krizovou pomoc, a připomíná, že služba je určena dětem jen s rodičovským souhlasem. V reakci na případ OpenAI začalo zavádět nové rodičovské kontroly a další bezpečnostní prvky pro mladistvé uživatele svého chatbota.
Ohledně Raineova případu se OpenAI vyjadřuje i na svých stránkách. „Domníváme se, že je důležité, aby soud měl k dispozici úplný obraz situace, aby mohl plně posoudit vznesené nároky. Naše reakce na tato obvinění zahrnuje obtížná fakta týkající se Adamova duševního zdraví a životních okolností. Původní žaloba obsahovala vybrané části jeho chatů, které vyžadují širší kontext, který jsme poskytli v naší odpovědi,“ píše OpenAI.
Jde již o několikátý případ
Ve vyjádření pro soud pak americká firma tvrdí, že „kompletní znění chatové historie ukazuje, že jeho smrt, ačkoli byla zdrcující, nebyla způsobena ChatGPT“. S tím ale rodiče mladého Adama Rainea nesouhlasí. Podle nich totiž umělá inteligence poskytla konkrétní způsoby sebevraždy a naléhala na něj, aby své plány tajil před rodinou; dokonce mu měla nabídnout návrh dopisu na rozloučenou.
Nejde přitom o první ani jediný případ. OpenAI v současnosti čelí 7–8 žalobám kvůli sebepoškozování nebo dokonce sebevraždě uživatelů. Odborníci tvrdí, že tato „AI psychóza“ je způsobena nedostatečnými bezpečnostními opatřeními a chybějící rodičovskou kontrolou nad tím, o čem si jejich nezletilé ratolesti s AI pomocníkem vypisují.
Jakub Fišer
Další dnešní články
