Tahle košile vás má skrýt před umělou inteligencí. Její výrazný vzor není jen na ozdobu
Na první pohled připomíná výraznou košili, která by se neztratila v letovisku ani na hudebním festivalu. Růžové, zelené a oranžové skvrny ale nevznikly jen proto, aby přitahovaly pozornost kolemjdoucích. Jejich úkolem je zmást systémy umělé inteligence a zabránit jim, aby člověka před kamerou rozpoznaly jako osobu. Projekt berlínského umělce Simona Weckerta ukazuje, že móda může být nejen prostředkem sebevyjádření, ale také nečekanou odpovědí na stále větší množství chytrých kamer ve veřejném prostoru.
Oblečení nazvané Digital Camouflage tak otevírá otázku, zda se v budoucnu budeme oblékat i podle toho, kdo nebo co se na nás dívá.
Člověk, kterého kamera nevidí
Při běžné ukázce systému počítačového vidění se kolem postavy před kamerou objeví zelený rámeček a označení „person“. Jakmile si však člověk před tělo přiloží Weckertovu pestrobarevnou košili, rámeček zmizí. Program v tu chvíli přestane předmět před kamerou vyhodnocovat jako lidskou postavu.
Nejde přitom o žádné elektronické zařízení všité do látky. Za efektem stojí samotný potisk. Vzor byl vyvinut tak, aby narušil vizuální znaky, podle kterých algoritmus člověka rozpoznává. Zatímco lidské oko stále bez problémů vidí postavu v barevné košili, program dostává směs informací, kterou nedokáže správně zařadit.
Simon Weckert při vývoji testoval různé barvy, tvary, jejich rozmístění i natočení. Jednotlivé verze vzoru opakovaně prověřoval před kamerou a sledoval, s jakou jistotou systém označuje objekt jako člověka. Úpravy pokračovaly, dokud se tato pravděpodobnost výrazně nesnížila nebo označení postavy úplně nezmizelo.
Potisk vychází z principu takzvaného adversariálního útoku. Ten využívá skutečnosti, že umělá inteligence nevnímá svět stejně jako člověk. Nechápe, co je košile, paže nebo tělo. Pracuje se souborem tvarů, hran, barev a dalších znaků, které se během trénování naučila spojovat s určitou věcí. Když je vhodně navržený vzor naruší, může se program splést.
Nejde o zaručenou neviditelnost
Weckert technologii testoval pomocí systému YOLO, který dokáže v reálném čase rozpoznávat lidi a různé předměty zachycené kamerou. To ovšem neznamená, že košile stejně spolehlivě oklame každou bezpečnostní kameru nebo technologie používané policií.
Výsledek může ovlivnit konkrétní verze programu, vzdálenost od kamery, úhel pohledu i světelné podmínky. Oblečení navíc člověka fyzicky nezneviditelní a nezabrání tomu, aby ho kamera natočila. Pokouší se pouze zmást program, který záznam automaticky vyhodnocuje.
Nepřesné je také tvrzení, že jde o oblečení proti rozpoznávání obličeje. V tomto případě se technologie snaží zasáhnout ještě dříve. Jejím cílem je přesvědčit algoritmus, že se před kamerou vůbec nenachází člověk. Samotný Weckert proto Digital Camouflage nepředstavuje jako zaručenou ochranu anonymity nebo prostředek k obcházení policie. Vnímá ji především jako umělecké dílo a veřejné gesto namířené proti automatizovanému sledování.
Impulsem pro projekt se stalo zavádění kamer s umělou inteligencí v Berlíně. U dopravního uzlu Kottbusser Tor začala policie zkoušet systém, který nemá identifikovat konkrétní tváře, ale analyzovat pohyb a chování lidí. Program má například upozornit na fyzický konflikt, člověka ležícího na zemi nebo jinou neobvyklou situaci.
Právě zde podle Weckerta vzniká citlivá otázka. Aby algoritmus poznal ránu nebo pád, musí průběžně vyhodnocovat i všechny ostatní pohyby. Sleduje tedy také objímání, tanec, čekání na místě nebo obyčejnou chůzi a rozhoduje, co považuje za normální a co už za podezřelé.
Když se z módy stává ochrana soukromí
Digital Camouflage není pouze jedinou košilí vytvořenou pro výstavní účely. Projekt pokračuje jako menší kolekce, ve které se objevují volné košile, tričkové šaty i pracovní kabáty. Některé kusy je možné skutečně koupit prostřednictvím internetového obchodu autora.
Vzor přitom nemusí zůstat stejný. Jakmile vznikne nová verze systému, může být potřeba vytvořit také novou podobu kamufláže. Weckert tento vývoj s nadsázkou přirovnává k módním sezonám. Místo kolekcí pro jaro a podzim by však přicházely nové vzory podle toho, jak se mění algoritmy.
Není to poprvé, co berlínský umělec upozornil na slabé místo technologie, které lidé běžně důvěřují. V roce 2020 naložil 99 chytrých telefonů do malého vozíku a pomalu je táhl prázdnými ulicemi Berlína. Google Maps velké množství pomalu se pohybujících zařízení vyhodnotily jako dopravní zácpu a začaly řidičům doporučovat jiné trasy. Zácpa existovala pouze na digitální mapě, přesto mohla ovlivnit pohyb aut ve skutečném městě.
Barevná košile pracuje s podobnou myšlenkou. Technologie, která působí objektivně a téměř neomylně, ve skutečnosti vidí jen takovou verzi světa, jakou se naučila rozpoznávat. Někdy přitom stačí několik telefonů nebo správně navržený kus látky, aby se její jistota začala rozpadat.
Oblečení určené proti počítačovému vidění zatím pravděpodobně nenahradí běžné košile v našich skříních. Ukazuje však nový směr, kterým by se móda mohla vydat. Ochrana před chladem, sluncem a pohledy ostatních možná jednou nebude stačit. V době chytrých kamer budeme přemýšlet také nad tím, jak náš oděv vidí stroje.
