- Návrh zákona počítá s odpovědností tvůrců AI systémů za jejich uživatele
- To by mohlo potenciálně vytvořit víc problémů, než by vyřešilo
- Kalifornský guvernér může návrh zákona ale ještě vetovat
Kalifornské státní shromáždění schválilo diskutabilní návrh zákona SB 1047, jehož cílem je zavést odpovědnost vývojářů umělé inteligence (AI) za zneužití jejich technologie. Návrh zákona se nyní přesouvá na stůl guvernéra Gavina Newsoma, který ho buď podepíše a bude z něj regulérní zákon, nebo ho vetuje. Pak by se návrh zákona vrátil zpátky k případnému přepracování.
Diskutabilní odpovědnost
Cílem zákona s označením SB 1047 je zavést nové předpisy, které budou od společností zabývajících se umělou inteligencí vyžadovat zavedení důkladných bezpečnostních opatření a možnosti vzdáleného vypnutí, aby bylo možné okamžitě řešit problémy. Zatímco některá bezpečnostní opatření jsou v návrhu zákona legitimní, jiné jeho části vzbuzují poměrně solidní otázky. Konkrétně je nejpalčivější problém právě v širších důsledcích návrhu zákona, hlavně pokud jde o odpovědnost firem.
Aby byli tvůrci AI systémů odpovědní za jednání konkrétních uživatelů, je přinejlepším naivní a v praxi prakticky nepoužitelné. Takhle to nefunguje prakticky nikde. Takové zákony by mohly nejen potlačit inovace, obzvláště pokud se budeme bavit o umělé inteligenci, která je open source a pochází tak třeba od menších subjektů. Problém může nastat ale i u velkých AI hráčů, jakými jsou OpenAI, Anthropic, Meta nebo samozřejmě Google. Ti pochopitelně mají podstatně hlubší kapsy, ale pokud by museli najednou řešit právní spory za „všechny“ své uživatele, nejspíš by se už tak na provoz drahá AI prodražila ještě víc. A čistě teoreticky by se tak mohl brzdit potenciální pokrok v důležitých oblastech, jako je třeba zdravotnictví.
Stížnosti od AI firem
Kritici navíc varují, že návrh zákona by mohl vytvořit precedens, kdy by technologické společnosti byly hnány k odpovědnosti za trestné činy spáchané jednotlivci, kteří používají jejich produkty. Kritici také poukazují na paralely s jinými průmyslovými odvětvími a tvrdí, že stejně jako výrobci zbraní nejsou odpovědní za nezákonné používání střelných zbraní, neměli by být vývojáři umělé inteligence trestáni za trestné činy jiných osob.
Koalice technologických společností, včetně velkých hráčů, jako je Google a Meta, a neziskových organizací, jako je Mozilla, vyzvala guvernéra Newsoma, aby návrh zákona v jeho současné podobě vetoval. Firmy argumentují tím, že regulace umělé inteligence je sice nezbytná, ale měla by být vytvořena za přispění odborníků, kteří této technologii rozumí, a ne prostřednictvím specifické státní legislativy, která může bránit inovacím.
Poletí zákon ze stolu?
Osud zákona SB 1047 tak nyní závisí na guvernérovi Newsomovi. Na druhou stranu, i pokud by zákon prošel, týkal by se především Kalifornie, nikoliv Evropy nebo celého světa. Jedno je ale jisté – o různých formách regulace nástrojů umělé inteligence budeme v následujících měsících a letech slýchat nejspíš stále častěji. Pořád jde o relativně novou technologii (v kontextu aktuálního boomu posledních dvou let), která ale může pomáhat či škodit ve velice pestré škále odvětví.
