- OpenAI zavádí nový model predikce věku, který na základě chování a aktivity uživatele rozpozná, zda je dotyčný mladší 18 let
- Nezletilým uživatelům systém automaticky zablokuje přístup k citlivému obsahu, včetně explicitního násilí, sexuálního roleplaye nebo nezdravých diet
- Globální nasazení technologie v Evropské unii narazilo na legislativní bariéry a dočká se zpoždění v řádu několika týdnů
Populární chatbot ChatGPT prochází zásadní proměnou v přístupu k bezpečnosti. OpenAI zavádí technologii, která se nespoléhá jen na datum narození zadané při registraci, ale aktivně odhaduje věk uživatelů pomocí analýzy jejich digitální stopy. Pokud algoritmus vyhodnotí, že u klávesnice sedí nezletilý, okamžitě aktivuje přísné filtry obsahu, které mají dospívající ochránit před potenciálně škodlivou interakcí s umělou inteligencí.
Aktivní age-gating v praxi
Oznámený predikční model je v technologickém světě poměrně unikátní svou komplexností. Namísto pasivního „age-gatingu“ (pouhého dotazu na věk, který je irelevantní a každý si tam může dát, co chce) zkoumá ChatGPT kombinaci behaviorálních signálů. Sleduje například, jak dlouho již daný účet existuje, v jakou denní dobu je uživatel nejaktivnější a jaké vzorce vykazuje jeho komunikace v průběhu času.
OpenAI všechny tyto poznatky využívá k tomu, aby dospívajícím vytvořila bezpečnější prostor, zatímco dospělým ponechala svobodu v používání nástroje bez příliš striktních restrikcí.
Omezení, která na mladistvé po identifikaci čekají, jsou poměrně rozsáhlá. Algoritmus automaticky odfiltruje dotazy směřující k explicitnímu násilí, nebezpečným virálním výzvám nebo materiálům zobrazujícím sebepoškozování.
Dětský režim může postihnout i dospělé
Velkým tématem je také zákaz sexuálního, romantického či násilného roleplaye, tedy hraní rolí, které bylo v minulosti u chatbotů terčem kritiky. Systém se zaměří i na nuance a menší rizika, jako je obsah propagující nereálné standardy krásy či nezdravé diety, což jsou témata, která mají na psychiku teenagerů prokazatelně negativní vliv.
Pro technologické nadšence a běžné uživatele to přináší i jednu praktickou komplikaci: riziko chyby. Pokud vás algoritmus chybně vyhodnotí jako dítě, ChatGPT vám zablokuje přístup k části svých funkcí. V takovém případě bude nutné podstoupit verifikaci identity pomocí selfie přes externí službu Persona. Tento krok má zajistit, aby dospělí nezůstali v „dětském režimu“ omylem, a zároveň zabránit dětem v jednoduchém obcházení ochrany.
Rostoucí tlaky
Není divu, že s něčím takovým přichází OpenAI teď, respektive je s podivem, že s tím přichází až teď. Firma totiž čelí rostoucímu tlaku ze strany zákonodárců i veřejnosti. ChatGPT byl nedávno zmiňován v souvislosti s tragickou žalobou kvůli sebevraždě mladistvého a šéfové technologických firem se museli zodpovídat před americkým Senátem. OpenAI se tak snaží dohnat náskok platforem jako Instagram, YouTube nebo Roblox, které podobné mechanismy pro odhad věku již nějakou dobu ladí.
Zatímco ve většině světa je funkce již v provozu, evropští uživatelé si na „inteligentní dozor“ nějakou dobu počkají. Kvůli přísným pravidlům GDPR a dalším regionálním požadavkům v EU musí OpenAI technologii nejprve upravit tak, aby vyhovovala evropské legislativě. Pro rodiče ale už teď v rámci aktualizace přibývají nové možnosti kontroly, jako je nastavení „doby klidu“ nebo upozornění na signály psychické tísně u jejich dětí.
