- Kódování s pomocí umělé inteligence získává v poslední době na oblibě
- Každý kód by ale měl vždy zkontrolovat člověk, jinak může být zaděláno na problém
- O tom se přesvědčil i jeden uživatel, kterého nezkontrolovaná chyba AI připravila o všechna data
Hranice a možnosti umělé inteligence jsou stále ještě poměrně neprobádané, přičemž někteří uživatelé neváhají mnohdy i výrazně riskovat, aby si ušetřili práci. Zatímco v některých případech se risk vyplatí, jindy nezbydou danému nešťastníkovi nic než oči pro pláč. Nesprávné lomítko způsobilo, že skript PowerShell spuštěný na GPT zcela vymazal obsah pevného disku jednoho uživatele na Redditu. Jednoduchý „překlep“, který by se mohl stát komukoli z nás ukazuje, že nejen vibecoding (psaní kódu za pomocí umělé inteligence) je náchylný k chybám.
Místo ušetřené práce smazaný harddisk
Vibecoding si získává mezi vývojáři stále větší oblibu, ale pokud je generovaný kód nasazený do praxe bez kontroly, představuje značné riziko. Nedávný případ ukazuje, jak může malá syntaktická chyba mít fatální následky. Programovací asistent AI měl pomocí skriptu vyčistit dočasné složky Pythonu s názvem „pycache“. Místo toho však chybný kód tiše vymazal celý pevný disk. Příčinou této ztráty dat je nešťastná kombinace chybného skriptu, nízké tolerance Windows PowerShell k chybám a klasický příkazový řádek.
Skript provedl zastaralý příkaz „rmdir“ prostřednictvím příkazového řádku a pokusil se maskovat uvozovky zpětným lomítkem. V PowerShellu by však k tomu bylo zapotřebí zpětné lomítko. Příkazový řádek pak nesprávně zadané zpětné lomítko interpretoval jako absolutní cestu k kořenovému adresáři aktuálního disku. Ve spojení s parametry pro smazání bez potvrzovacího dotazu to vedlo k vymazání disku.
Nepřehlédněte
Bude z ChatGPT druhý Facebook? Elitní pracovnice varuje před katastrofou a opouští OpenAI
Tato událost nejen poukazuje na nebezpečí slepé důvěry v kód generovaný umělou inteligencí, ale také vrhá stín na nedostatky příkazového řádku ve Windows. Skutečnost, že jednoduchá chyba může být bez jakýchkoli dalších bezpečnostních opatření přeložena do katastrofického příkazu k odstranění celého adresáře, je alarmující. Mnohem bezpečnějším přístupem je používat pouze nativní příkazy PowerShellu, které zpracovávají cesty mnohem robustněji a zabraňují tak drastickým překladovým chybám mezi různými úrovněmi interpretů. I zde však existují jednoduché příkazy, které mohou vymazat celé pevné disky.
Dominik Vlasák
Další dnešní články
