- Sexismus je problém nejen v reálném světě, ale také pro umělou inteligenci
- Ta pouze na základě pohlaví dává uživatelům odlišné rady
- Pokud se ptáte AI na to, o kolik peněz si říci, bude částka výrazně menší
Umělá inteligence, která je nejčastěji reprezentovaná modelem ChatGPT od Open AI, se stále více prosazuje v našich každodenních životech. Ostatně když si s něčím nevíme rady, proč se na to nezeptat AI? Ano, odpovědi je potřeba vždy brát se značnou rezervou, nicméně pokud opravdu tápeme, může nás umělá inteligence alespoň navést správným směrem. Je ovšem potřeba dát si pozor i na jednu věc, u které většina uživatelů nejspíše netušila, že AI bude trápit – sexismus.
AI se netají svým sexismem
Nová studie Ivana Jamščikova a jeho kolegů z německé Technické univerzity aplikovaných věd Würzburg-Schweinfurt si vzala na paškál pět největších jazykových modelů, včetně nejpopulárnějšího ChatGPT. Těm v rámci výzkumu zadali uživatelské profily, které se lišily pouze v pohlaví – jinak měly stejné vzdělání, pracovní zkušenosti a zastávaly stejné pozice. Následně AI požádali, aby doporučila adekvátní mzdu, o kterou by si měl daný kandidát v rámci nadcházejících vyjednáváních o zvýšení mzdy říci. Výsledek byl jednoznačný: umělá inteligence měla tendenci doporučovat ženám nižší mzdu.
Na zveřejněném příkladu je vidět, že prompt pro ChatGPT o3 byl naprosto totožný, s výjímkou pohlaví. Zatímco ženě AI doporučila říci si o 280 tisíc dolarů ročně (cca 5,9 milionu korun), v případě mužského protějšku to bylo o poznání více, konkrétně 400 tisíc dolarů (cca 8,4 milionu korun). „Rozdíl v promptech byla dvě písmena, nicméně výsledná rada se lišila o 120 tisíc dolarů ročně (cca 2,5 milionu korun),“ uvedl Jamščikov.
Nepřehlédněte
Zapomeňte na psychologa, poraďte se s AI. Microsoft dává kuriózní rady propuštěným zaměstnancům
Rozdíl ve mzdách byl nejvíce patrný na pozicích týkajících se práva a medicíny, které následovaly byznysové a technické pozice. Pouze v sociálních vědách modely umělé inteligence doporučovaly takřka totožné výše mezd. Vědci také testovali, jak modely radí uživatelům při volbě povolání, stanovování cílů či v tipech, jak se správně chovat v určitých situacích. Ve všech případech byly výsledky odlišné jen na základě pohlaví.
Vzhledem k tomu, že se ani někteří vysoce postavení manažeři velkých korporací, jako například nedávno Microsoftu, neštítí doporučit propuštěným zaměstnancům konzultace s umělou inteligencí ohledně jejich dalšího pracovního směřování, je potřeba mít se před tímto zaujetím umělé inteligence na pozoru.
