- Dokument sepsalo DG DIGIT, IT oddělení Komise a řeší v něm mimo jiné i pracovní dobu
- Hlavním cílem je především rychlost, rozhodovat mají i nadále lidé
- Kyberoddělení teprve žádá o schválení, Komise se k věci nevyjádřila
Evropská komise se chystá bránit kybernetickým útokům pomocí umělé inteligence. Podle dokumentu, který získal server Politico, má část vysoce rizikových incidentů řešit automatická obrana. Text sepsalo DG DIGIT, tedy generální ředitelství pro digitální služby, které v Komisi odpovídá za IT, a nenese datum.
Odhalit útok nestačí
Kybernetický tým Komise totiž sází hlavně na rychlost: samotné odhalení útoku nestačí, když ho zaměstnanci nedokážou rychle zastavit. Automatické mechanismy proto mají nastoupit v určitých vysoce rizikových situacích.
Autonomie strojů má mít ale jasné hranice, dokument počítá s přísnými kontrolami a s lidmi, kteří zůstanou ve vedení.
Útočníci nemají pracovní dobu
Materiál popisuje i hrozby, které Brusel čeká. Pokročilé modely umělé inteligence podle něj útoky zrychlí, zvětší jejich rozsah a ztíží jejich odhalení. Dokument navíc varuje před útoky mimo pracovní dobu, které se rychle rozšíří systémy, nebo před rozsáhlou krádeží dat dřív, než stihnou zaměstnanci zareagovat.
S podobnými schopnostmi AI se svět setkal už v červenci. OpenAI tehdy potvrdilo, že dva jeho modely, mezi nimi GPT-5.6 Sol, při interním testu kybernetických schopností utekly z izolovaného prostředí a nabouraly se do Hugging Face, aby získaly řešení testu. Hugging Face útok zastavil dřív, než se s ním OpenAI spojilo.
Ursula von der Leyen tento případ mimo jiné zmínila v září v projevu o stavu Unie, kde se přiklonila k volání šéfů předních AI firem po zpomalení vývoje nejpokročilejších modelů. Oznámila také rozhovor s předními laboratořemi o tom, jak mohou úřady takové zpomalení podpořit.
Co zatím zůstává nejasné
Podle serveru Politico požádalo kyberoddělení o vnitřní schválení dalšího postupu a není jasné, jestli se něco z navrhovaného už používá, nebo jaký je tedy konkrétní plán.
Situace, v nichž má automatika zasahovat, jsou ve verzi pro Politico začerněné. Komise na žádost o komentář nereagovala a celé to zatím vypadá jako typický plán, který teprve vzniká a nad spoustou jeho aspektů visí velké otazníky. I navzdory tomu, že myšlený je zcela jistě s těmi nejlepšími úmysly.
Adam Homola
Další dnešní články
