- OpenAI zavede u ChatGPT lepší detekci duševních potíží a nabídne odkazy na odbornou pomoc
- Nové funkce zahrnují také upozornění vybízející uživatele k přestávce během delší komunikace
- ChatGPT bude méně kategorický v citlivých tématech, jako jsou například osobní vztahy
OpenAI představila nové bezpečnostní prvky pro ChatGPT, které mají zvýšit ochranu duševního zdraví uživatelů. Opatření přicházejí v reakci na zprávy o případech, kdy interakce s chatbotem zesilovaly psychické problémy uživatelů nebo přispívaly k jejich duševním krizím.
Lepší terapeut
OpenAI oznámili, že ChatGPT nyní dokáže lépe rozpoznat příznaky duševních potíží, například emocionální nestability nebo bludných představ. V případě, že ChatGPT zaznamená známky mentálního či emočního stresu, automaticky uživatelům nově nabídne odkazy na ověřené odborné zdroje a podporu. OpenAI na vývoji nových opatření spolupracovala s experty na duševní zdraví a se specializovanými poradními skupinami.
„Uvědomujeme si, že AI může působit osobněji a citlivěji než předchozí technologie, zvláště u lidí, kteří procházejí obtížným obdobím,“ uvedla firma v oficiálním prohlášení. ChatGPT, který aktuálně využívá skoro 700 milionů lidí týdně, by díky těmto změnám měl přispět k bezpečnějšímu používání, zvláště u citlivých či zranitelných uživatelů.
Připomínka reálného světa
Dalším novým prvkem je chystané upozornění vybízející uživatele, aby si během delších konverzací dali přestávku. ChatGPT při příliš dlouhé (přesný časový limit ale neznáme) komunikaci zobrazí uživatelům výzvu typu: „Chatujete již delší dobu – není vhodný čas na pauzu?“
Následně si uživatel může vybrat, zda chce v konverzaci pokračovat, nebo ji raději ukončit. Podobná opatření již zavedly jiné online platformy jako YouTube, Instagram, TikTok nebo Xbox, aby snížily riziko nadměrného užívání. Většina běžných uživatelů na podobné limity nejspíš nikdy nenarazí, nicméně pak existuje jistá skupina těch nejnáročnějších uživatelů, pro které může jít o dobrou připomínku toho, že vedle právě používané aplikace je k dispozici i „reálný“ svět.
Menší radikalizace
V rámci série aktualizací se mění také styl odpovědí ChatGPT v citlivých tématech. Chatbot by měl být nově podstatně méně kategorický či radikální a místo přímých rad, například v otázkách partnerských vztahů, uživatelům raději nabídne přehled možností a pomůže jim zvážit jejich důsledky.
ChatGPT se tak podstatně zlepšuje krátce před spuštěním očekávaného modelu GPT-5, který by se mohl dostat do rukou široké veřejnosti možná už tento týden. OpenAI zároveň připustila, že GPT-4o nebylo vždy schopné adekvátně reagovat na emoční potíže uživatelů. Se zlepšováním funkcí a samozřejmě i reakcí chatbota v kontextu tématu duševního zdraví nekončí a dají se tak očekávat další úpravy, ladění a vylepšení.
Adam Homola
Další dnešní články
