- Norský občan Arve Hjalmar Holmen byl překvapen, když zadal své jméno do ChatGPT
- Umělá inteligence mu řekla, že je vrahem, který byl za svůj čin odsouzen
- Holmen podal na OpenAI stížnost k evropským úřadům pro údajné porušení GDPR
„Nevěřte všemu, co najdete na internetu,“ říkával už Tomáš Garrigue Masaryk. Zatímco v některých případech mohou být omyly, které se na internetu šíří, vtipné, v jiných případech mohou mít neblahý vliv na životy konkrétních lidí. S příchodem umělé inteligence se tyto nepříjemné dopady ještě více násobí – ostatně abyste si nějaké informace zjistili, už nemusíte aktivně hledat, ale stačí se jen zeptat. O tom se přesvědčil na vlastní kůži také Nor Arve Hjalmar Holmen, když ze zvědavosti zadal své jméno umělé inteligenci ChatGPT.
OpenAI porušuje GDPR, tvrdí Holmen
K jeho překvapení mu umělá inteligence od OpenAI odpověděla, nicméně trochu jinak, než čekal. Podle ChatGPT byl totiž odsouzen za vraždu a pokus o vraždu k 21 letům vězení, přičemž tento trest si měl stále odpykávat. Kromě toho byla i znepokojivá skutečnost, že ChatGPT zvládlo kombinovat skutečné a vymyšlené detaily z jeho života, včetně názvu města, kde žije, či počtu a pohlaví jeho dětí.
Holmen dlouho neváhal a podal podnět k norskému úřadu starajícímu se o ochranu osobních údajů Datatilsynet, který ve spolupráci s rakouskou právnickou skupinou Noyb podal stížnost k evropským úřadům, v rámci které obviňují OpenAI z porušení požadavků na ochranu osobních údajů podle GDPR. Stížnost po OpenAI požaduje, aby inkriminované údaje ze své AI odstranila, zaplatila pokutu a podnikla příslušné kroky k tomu, aby se podobná situace už neopakovala.
„GDPR hovoří jasně. Osobní údaje musí být přesné. A pokud nejsou, uživatelé mají právo na jejich změnu tak, aby odpovídaly pravdě,“ říká Joakim Söderberg, právník pro ochranu osobních údajů ve společnosti Noyb. „Ukázat uživatelům ChatGPT drobné upozornění, že chatbot může dělat chyby, zjevně nestačí. Nemůžete jen tak šířit nepravdivé informace a na závěr přidat malé prohlášení o vyloučení odpovědnosti, že vše, co jste řekli, prostě nemusí být pravda.“ V současné chvíli už ChatGPT tyto informace nezobrazuje a místo nich informuje o této kauze.
Pokud ChatGPT či jiný podobný nástroj používáte, zkuste se zeptat, co konkrétně ví o vaší osobě.
