- Nový web předvádí, jak detailní informace dokáže AI extrahovat z obyčejných fotografií
- Zakladatel Vishnu Mohandas varuje před riziky zneužití dat tradičními cloudovými službami
- AI technologie tak mohou interpretovat, využívat a potenciálně zneužívat naše digitální vzpomínky
Webová stránka TheySeeYourPhotos.com ukazuje, jak snadno mohou modely umělé inteligence extrahovat informace z vašich fotografií, a upozorňuje tak na s tím související palčivé otázky soukromí. Autorem projektu je Vishnu Mohandas, bývalý softwarový inženýr Googlu, který využívá technologie Google Cloud pro vizuální analýzu a předvádí, jak detailní informace dokáže AI získat z běžných snímků.
Týká se to nejspíš i vás
Mohandas, který opustil Google kvůli etickým výhradám, především kvůli účasti firmy na vojenských projektech, přestal používat Fotky Google ze strachu před zneužitím osobního obsahu pro trénink AI modelů Googlu. Následně vytvořil Ente, šifrovanou a otevřenou platformu pro ukládání fotografií, která si klade za cíl ochranu soukromí.
Přestože Ente už má přes 100 000 uživatelů, Mohandas cítil potřebu vytvořit nástroj, který by lépe osvětlil potenciální rizika spojená s tradičními cloudovými úložišti – a právě proto vznikl web TheySeeYourPhotos.com.
Co kdo vidí?
Když uživatel nahraje fotografii na Theyseeyourphotos, AI ji analyzuje do neuvěřitelných detailů – od oblečení přes výrazy tváře až po specifické objekty v obraze. Například u rodinného selfie identifikovala AI dokonce značku hodinek. Ostatně zkusit si to můžete sami a uvidíte, co všechno Google vidí. Službu Fotky Google nejspíš používá nemalé procento z vás, a tak se to může týkat obrovského množství uživatelů.
Google tvrdí, že data z Google Photos jsou využívána pouze pro vlastní AI nástroje. Nikoliv pro reklamu nebo sdílení třetím stranám, ale absence šifrování zanechává data částečně přístupná. Mohandas doufá, že jeho projekt povede uživatele k zamyšlení nad tím, jakou část svého digitálního života svěřují AI systémům, jak reportuje Ars Technica.
Je přechod vůbec možný?
Přechod na alternativy jako Ente může být komplikovaný – podle Mohandase Google přenos dat záměrně ztěžuje komprimací a dělením souborů. Navíc prý Ente čelí „neoprávněným“ označením své aplikace v Google Play Store.
Především je tu pak ale problém uživatelské přívětivosti, propagace a vůbec faktu, že Fotky Google jsou leckdy na Androidu předinstalované. A jsou natolik kvalitní a používané, že drtivá většina běžných uživatelů nejspíš jakoukoliv alternativu jen tak vyhledávat nebude.
Přes všechny výzvy však Mohandas tvrdí, že riziko zneužití dat je větší než případné nepohodlí při přechodu na bezpečnější službu.
