- Podle obžaloby může ChatGPT za smrt 16letého Adama Rainea
- OpenAI se nařčení brání, přitom jde již o 8. podobnou žalobu
Generativní umělá inteligence je dobrým sluhou, ale špatným pánem. Od vzestupu nástrojů, jako je ChatGPT nebo Gemini, pozorujeme i případy, kdy byly využity pro šikanu ve škole či na pracovišti, značná část lidí také umělou inteligencí supluje psychoterapii. Bohužel, v některých případech to vedlo až k sebevraždě člověka, který hledal u ChatGPT pomoc.
Žaloba na ChatGPT kvůli sebevraždě
Rodiče 16letého Adama Rainea podali žalobu na společnost OpenAI, v níž tvrdí, že rozhovory jejich syna s ChatGPT významně přispěly k jeho sebevraždě. Adam během několika měsíců vedl tisíce konverzací s modelem, který mu údajně poskytl návody k sebevraždě a podporoval škodlivé myšlenky, přičemž firma podle žaloby nezareagovala dostatečně na varovné signály.
Nepřehlédněte
Podezřelý z největšího požáru v dějinách LA zatčen! V ChatGPT si generoval město v plamenech
Společnost však odpovědnost odmítá a zdůrazňuje, že ChatGPT opakovaně nabízel krizovou pomoc, a připomíná, že služba je určena dětem jen s rodičovským souhlasem. V reakci na případ začala zavádět nové rodičovské kontroly a další bezpečnostní prvky pro mladistvé uživatele svého chatbota.
Ohledně Raineova případu se OpenAI vyjadřuje i na svých stránkách. „Domníváme se, že je důležité, aby soud měl k dispozici úplný obraz situace, aby mohl plně posoudit vznesené nároky. Naše reakce na tato obvinění zahrnuje obtížná fakta týkající se Adamova duševního zdraví a životních okolností. Původní žaloba obsahovala vybrané části jeho chatů, které vyžadují širší kontext, který jsme poskytli v naší odpovědi,“ píše OpenAI.
Jde již o několikátý případ
Ve vyjádření pro soud pak společnost tvrdí, že „kompletní znění chatové historie ukazuje, že jeho smrt, ačkoli byla zdrcující, nebyla způsobena ChatGPT“. S tím ale rodiče mladého Adama Rainea nesouhlasí. Podle nich mu totiž umělá inteligence poskytla konkrétní způsoby sebevraždy a naléhala na něj, aby své plány tajil před rodinou; dokonce mu měla nabídnout návrh dopisu na rozloučenou.
Nejde přitom o první ani jediný případ. OpenAI v současnosti čelí 7–8 žalobám kvůli sebepoškozování, nebo dokonce sebevraždě uživatelů. Odborníci tvrdí, že tato „AI psychóza“ je způsobena nedostatečnými bezpečnostními opatřeními a chybějící rodičovskou kontrolou nad tím, o čem si jejich nezletilé ratolesti s AI pomocníkem píší.
