- Virtuální svět umí být pořádně nebezpečné a zrádné místo
- Terčem hackerských útoků se stávají jak jedinci, tak firmy
- Nyní se pod palbou ocitl Google, respektive jeho AI platforma Gemini
Hackerské útoky jsou čím dál frekventovanější a s nějakým pokusem například o zcizení hesla k účtu se pravděpodobně již setkala většina z nás. Stačí chvilka nepozornosti, odpověď na zdánlivě neškodný mail nebo zprávu a naráz váš Facebook ovládá někdo úplně cizí. Napadení kyberzločinci se nevyhýbají ani velkým firmám a nyní jednomu čelil Google.
Hackeři se snažili „ukrást“ Gemini
Gemini je AI platforma od Googlu, která patří mezi přední modely v branži a jedná se o velmi užitečného, víceúčelového pomocníka. Vyhledávací gigant odhalil, že se hackeři nedávno pokusili Gemini ukrást, respektive naklonovat. Využili k tomu nesmírně jednoduchý postup v podobě jeho zahlcení prompty.
Útočníci měli zadat Gemini více než 100 000 promptů, tedy textových vstupů a výsledkem tohoto zahlcení měla být snaha o naklonování a extrakci argumentačních parametrů AI chatbota. Google ale tuto nekalou činnost včas zaznamenal a odstavil účty, ze kterých byla provozována. V návaznosti na to zároveň také posílil bezpečnostní prvky.
Útoky na AI platformy rostou
Google zmiňuje, že v poslední době počet těchto takzvaných destilačních útoků výrazně roste. Jedná se o cílené operace, při kterých se útočníci neustále dokola dotazují AI chatbota na určité věci a poté analyzují odpovědi, aby mohli trénovat svůj vlastní model. Není to tedy přímý hackerský útok a útočníci se spoléhají spíše na přístup k API a velký objem dat.
V tomto konkrétním případě se útočníci snažili upravovat typy otázek a měnili i jazyky, aby našli vzorce, které by jim pomohly naklonovat základní funkce. Takové chování ale samozřejmě porušuje podmínky používání a vlastně se jedná o krádež duševního vlastnictví. Tyto pokusy ale byly odhaleny v reálném čase, tedy v okamžiku, kdy probíhaly a okamžitě zablokovány.
Nepřehlédněte
Gemini jako váš komplexní asistent? Nově AI propojíte s Gmailem, fotkami a dalšími službami Googlu
Vítr vane ze soukromého sektoru
Google odmítl útočníky identifikovat, ale uvedl, že mnoho pokusů tohoto typu vede do soukromého sektoru a k nezávislým výzkumníkům. Ti takovými pokusy hledají konkurenční výhodu, kterou by mohli u svého produktu použít. Vyhledávací gigant dále upozornil na to, že útočníci se již pokoušeli také experimentovat s phishingovými kampaněmi za využití umělé inteligence.
Tomáš Zenkl
Další dnešní články
