- Členské země EU se musejí připravit na zavedení aktu o umělé inteligenci
- Ucelená regulace nástrojů AI má dle ministra Bartoše začít platit ještě letos
Česká republika coby předsednická země v Radě Evropské unie výrazně posunula vyjednávání ohledně směrnice či aktu o umělé inteligenci. Toto nařízení má stanovovat striktní pravidla pro AI nástroje používané v členských zemích EU. Pokud se neobjeví zádrhel, vstoupí v platnost už koncem tohoto roku.
Akt o umělé inteligenci
Koncepce eurounijní regulace umělé a generativní inteligence se začala na půdě Unie řešit už v průběhu loňského roku. Cíl je celkem jednoduchý – ochránit občany před riziky, které přicházejí s masivním rozšiřováním AI.
Provozovatelé nástrojů umělé inteligence se budou muset řídit novými pravidly, které vycházejí z toho, jaké potenciální riziko jejich nástroj představuje. EU již vyčlenila jednotlivé rizikové skupiny a AI systémy do nich postupně rozdělí. Zástupci EU zároveň vědí, že většina AI nástrojů nepředstavuje téměř žádné riziko, přesto však je třeba je prověřit.
Z jednotlivých rizikových skupin vycházejí tyto případné regulace:
- zákaz klasifikace lidí (tzv. skórování) na základě chování, socioekonomického statusu nebo osobních charakteristik (pohlaví, náboženství atd)
- zákaz systémů biometrické identifikace v reálném čase (rozpoznávání obličeje apod.) – výjimku představuje stíhání závažných trestných činů
- povinnost uvést, že obsah byl vygenerován umělou inteligencí
- omezit AI nástroje tak, aby se zabránilo generování ilegálního obsahu
- povinnost zveřejnit kompletní soupis dat a zdrojů, na kterých byl jazykový model trénován.
Po měsících vyjednávání dnes odpoledne došlo ke klíčovému posunu ve vyjednávání Aktu o umělé inteligenci. ČR spolu s dalšími členskými státy EU podpořila finální znění prvních evropských pravidel pro AI. Dohodu musí ještě finálně schválit Evropský parlament.
A o co vlastně v… pic.twitter.com/pKXQl9IBIR
— Ivan Bartoš (@PiratIvanBartos) February 2, 2024
Vývoj aktu o umělé inteligenci okomentoval na síti X také ministr pro místní rozvoj Ivan Bartoš: „AI dnes dokáže být tak přesvědčivá, že běžný uživatel internetu ani nepozná, že nehovoří s člověkem. Jde ale o nástroje, které mohou zásadně ovlivnit naše životy, a proto by měly být jejich možnosti, ale i omezení jasné pro všechny.“
Ještě v únoru bude o finálním znění směrnice hlasovat Evropský parlament, paralelně s tím však budou vznikat jazykové úpravy pro jednotlivé členské země. Ty nejdůležitější prvky zákona by mohly začít platit už koncem roku 2024.
