- Sam Altman oznámil, že ChatGPT omezí konverzace o sebevraždě a sebepoškozování u uživatelů mladších 18 let
- Společnost zavede samostatný „teen“ režim s odhadem věku, rodičovskými kontrolami a možností kontaktovat rodiče či úřady při bezprostředním riziku
- Krok přichází před senátním slyšením o škodách chatbotů a po žalobě rodiny chlapce, který po dlouhých hovorech s chatbotem spáchal sebevraždu
OpenAI zpřísní pravidla pro nezletilé uživatele ChatGPT. Chatbot se s teenagery nebude pouštět do konverzací o sebevraždě či sebepoškozování a vyhne se i flirtujícímu chování. Oznámil to generální ředitel OpenAI Sam Altman v blogovém příspěvku zveřejněném několik hodin před slyšením v americkém Senátu, které se zaměřilo na dopady AI chatbotů na nezletilé.
Nezletilí vs. dospělí
Altman uvedl, že firma „musí oddělit“ zážitek pro uživatele pod a nad 18 let a pracuje na systému odhadu věku podle způsobu používání služby. Pokud nebude možné věk spolehlivě určit, ChatGPT automaticky zvolí konzervativní režim „pod-18“.
V některých zemích či situacích může OpenAI žádat i ověření dokladem totožnosti. V případě, že nezletilý projeví sebevražedné myšlenky a hrozí bezprostřední riziko, OpenAI se podle Altmana pokusí kontaktovat jeho rodiče, a pokud to nepůjde, obrátí se na příslušné úřady.
Problémy
Oznámení navazuje na dříve avizované rodičovské nástroje v ChatGPT: propojení účtu dítěte s účtem rodiče, možnost vypnout historii konverzací a paměť pro teen účty a zasílání upozornění rodičům, pokud systém vyhodnotí „akutní distres“. OpenAI tak svým způsobem reaguje i v kontextu čerstvé žaloby rodiny Adama Rainea – nezletilého, který spáchal sebevraždu po měsících interakcí s chatbotem.
Během senátního slyšení promluvil otec Matthew Raine s tvrzením, že ChatGPT v rozhovorech s jeho synem zmínil sebevraždu 1 275krát, a vyzval Altmana, aby dočasně stáhl model GPT-4o z trhu, dokud nebude bezpečný. Připomněl také dřívější Altmanův postoj, podle nějž je třeba nasazovat AI systémy a vylepšovat je na základě zpětné vazby.
Jak to bude se „společníky“?
Na slyšení zazněla i širší debata o rozšíření „AI společníků“ mezi mladistvými. Podle průzkumu organizace Common Sense Media používají konverzační AI tři ze čtyř teenagerů. Padla jména hlavně služby Character AI a produkty společnosti Meta.
Altman ve svém textu připustil, že snaha balancovat soukromí, svobodu projevu a bezpečí mladistvých je vnitřně rozporná. OpenAI podle něj bude nadále upravovat zásady a technologie tak, aby minimalizovala rizika pro nezletilé a zároveň chránila soukromí a autonomii uživatelů. Regulátoři mezitím zvažují, zda a jak podobné služby zpřísnit, aby odpovídaly standardům ochrany dětí v online prostředí.
