- Microsoft a OpenAI varují před hackery využívajícími umělou inteligenci
- Podle jejich zprávy používají AI různé zločinné skupiny, včetně těch řízených státy
- Naštěstí mají obě firmy v rukávu řešení
Společnosti Microsoft a OpenAI zveřejnily informaci, že hackeři již využívají rozsáhlé jazykové modely, jako je ChatGPT, ke zdokonalování a vylepšování svých stávajících kybernetických útoků. V nově zveřejněném výzkumu firmy odhalily pokusy skupin podporovaných Ruskem, Severní Koreou, Íránem a Čínou, které používají nástroje jako ChatGPT ke zkoumání cílů, ke zdokonalování skriptů a k vytváření technik sociálního inženýrství.
Už i hackeři využívají umělou inteligenci ke svým útokům
„Skupiny kyberzločinců, aktéři na úrovni států a další hackeři zkoumají a testují různé technologie umělé inteligence,“ uvádí Microsoft v dnešním příspěvku na blogu. Bylo zjištěno, že skupina Strontium, napojená na ruskou vojenskou rozvědku, používá LLM k pochopení protokolů satelitní komunikace, technologií radarového snímání a specifických technických parametrů. Hackerská skupina, známá také jako APT28 nebo Fancy Bear, byla aktivní během rusko-ukrajinské války a v minulosti se podílela na útocích na prezidentskou kampaň Hillary Clintonové v roce 2016.
Podle Microsoftu skupina také používá jazykové modely, aby jí pomohly se „základními skriptovacími úlohami, včetně manipulace se soubory, výběru dat, regulárních výrazů a víceprocesorového zpracování, s cílem potenciálně automatizovat nebo optimalizovat technické operace“. Také severokorejská hackerská skupina známá pod názvem Thallium používá LLM ke zkoumání veřejně nahlášených zranitelností a cílových organizací, k pomoci se základními skriptovacími úkoly a k přípravě obsahu phishingových kampaní.
Společnosti Microsoft a OpenAI zatím nezjistily žádné významné útoky s využitím umělé inteligence, avšak ruší všechny účty spojené nejen s těmito hackerskými skupinami. „Zároveň se domníváme, že je důležité tento výzkum zveřejnit, abychom odhalili počáteční, postupné kroky, které pozorujeme u známých aktérů hrozeb, a sdílet s komunitou obránců informace o tom, jak je blokujeme a jak jim čelíme,“ říká Microsoft. Řešením je podle giganta z Redmondu samozřejmě využití umělé inteligence. „AI může útočníkům pomoci vnést do jejich útoků větší sofistikovanost,“ uvedl Homa Hayatyfar, hlavní manažer pro analýzu detekce v Microsoftu. „Viděli jsme to u více než 300 aktérů hrozeb, které společnost Microsoft sleduje, a využíváme AI k ochraně, detekci a reakci,“ dodal.
Microsoft momentálně pracuje na řešení jménem Security Copilot, které je určeno profesionálům v oblasti kybernetické bezpečnosti, aby mohli identifikovat narušení a lépe porozumět obrovskému množství signálů a dat, které denně generují nástroje kybernetické bezpečnosti.
