V roce 2019, během svých studií na Hku University of the Arts v Utrechtu, navrhl nizozemský designer Jip van Leeuwenstein průhlednou masku, která zkresluje rysy obličeje. Tato maska, nazývaná surveillance exclusion, místo aby zakrývala obličej jako kukla, jej přetváří a zároveň zůstává viditelným. V podstatě se jedná o zakřivenou obrazovku tvarovanou různými čočkami, které ohýbají světlo. Pro člověka zůstává maskovaná osoba rozpoznatelná, a její mimika je čitelná, ačkoliv maska působí poněkud zvláštně. Umělá inteligence pro rozpoznávání obličeje však může být oklamána.
Software pro rozpoznávání obličeje nevidí svět stejně jako lidé, i když simuluje způsob, jakým se průměrně rozpoznává jiné jedince. To je průměrné, protože nefunguje pro všechny stejně, a navíc existují lidé trpící různými stupni prosopagnózie, což je neschopnost rozpoznat obličeje.
Pro stroje to probíhá takto: identifikují a měří klíčové body obličeje, jako je vzdálenost mezi očima, šířka nosu, a tvar brady; tyto informace pak srovnávají s obličeji uloženými v jejich databázích. Pokud jsou však tyto geometrické poměry narušeny, stroj nedokáže nalézt shody. Van Leeuwensteinova maska přesně toto provádí: znemožňuje strojům nalézt odpovídající znaky. Nicméně, maska není na prodej; jedná se o prototyp a projekt určený k kritice automatizovaných dozorových systémů a také jako pokus o hacknutí systému.
Hybridní výzkumníci a inovativní technologie
Existuje skupina hybridních výzkumníků, kteří pracují na pomezí mezi uměním, designem, módou a politickým aktivismem, a kteří se zaměřují na technologie rozpoznávání obličeje. Někteří vynalezli nositelné projektory ve formě pokrývek hlavy, které promítají různé tváře na obličeje lidí.
Existuje mnoho dalších projektů, jako HyperFace (speculativní design) nebo Capable (komerční a nabízející velmi drahé produkty), které navrhují dekorativní vzory na textiliích, mikinách, svetrech, tričkách, kalhotách a dalších oděvech či doplňcích, určených k oklamání rozpoznávacích algoritmů. V některých případech byly vyrobeny šály s mnoha hyper-realistickými tvářemi potisknutými pro zmatek kamer a zabránění tomu, aby pochopily, kde se ve skutečnosti nachází obličej, který mají rozpoznat; v jiných případech byly navrženy kalhoty se skvrnitými vzory, které algoritmům vyživují dojem, že před nimi je pes nebo jiná zvířata. Tyto se nazývají antagonistic decorations.
Nezůstává ale jen u toho: polská návrhářka Ewa Nowak vytvořila tvářový šperk z mosazi – jakýsi dekorativní obvod, který se nosí na čele a tvářích – a který zmýlí kamery. Londýnský kolektiv Dazzle Club naopak organizoval veřejné procházky s obličeji nalíčenými právě pro narušení rozpoznávání obličeje.
Koncept cv dazzle
Myšlenka použití make-upu nebo účesů – asymetrických make-upů, živých barev aplikovaných pouze na polovinu obličeje, skrytých očí a podobně – se nazývá cv dazzle, přičemž cv znamená computer vision (tj. počítačové vidění) a dazzle je název typu optické mimetizace používané během první světové války k oklamání pozorovatelů. Lodě byly natírány geometrickými tvary a barvami, což ztěžovalo odhadovat vzdálenost, rychlost a velikost lodě po jejím spatření. Tato myšlenka je podobná aspektu masky van Leeuwensteina: narušení symetrií obličeje pomocí barev, odrazů a geometrie a rozbití schématu, které algoritmus – lidský nebo strojový – očekává.
Některé z těchto metod jsou umělecké, jiné experimentální a některé jsou již na trhu, ačkoliv často za nepřístupné ceny. Oblečení s antagonistic decorations je například již možné zakoupit, stejně jako brýle vyrobené z materiálů, které odrážejí jak viditelné, tak infračervené světlo, to je světlo, které používají kamery pro rozpoznávání obličeje v noci. Vzhledem k odrazu se senzor kamery přetíží (tento jev se v angličtině nazývá clipping). Tím pádem, kde by měl být obličej člověka, algoritmy shledávají málo detailů a nízký kontrast, nemohou měřit vzdálenost mezi očima nebo tvar nosu a biometrické rozpoznávání selhává.
Je však třeba být opatrný. Výrobci brýlí a oblečení, které jsou v prodeji, tvrdí, že je úspěšně testovali i proti již fungujícím dozorovým systémům. Výsledek se ale liší na základě verze algoritmu, okolního osvětlení a vzdálenosti kamery. Kromě toho mají navržené tkaniny dva problémy: v mnoha případech příliš přitahují pozornost a pak, když se pohybujete, je i pro stroj docela zřejmé, že se jedná o tkaniny.
Skrytá identita a politické důvody
Podle některých studií zůstává pravděpodobnost, že budete identifikováni v antagonistic decorations, kolem 50 procent. Novější software dokáže rozpoznat osoby i když nosí chirurgickou masku. A lze si představit, že výrobci software se pokusí zlepšit své systémy učením se z technik těch, kteří se je snaží obelstít.
Tyto metody tedy riskují, že se stanou více prohlášením záměru pro ty, kdo mají velké ekonomické možnosti, než skutečnými nástroji pro ochranu soukromí. Nejen to; již existují software pro rozpoznávání jiných biometrických signálů, jako je chůze. Mimikrovat se vždy považovalo za politický akt, nejen vyhrazené pro hříšné chvíle nebo pro podvodníky. A dnes, kdy žádané moratorium na technologie rozpoznávání obličeje existuje na mnoha místech, může být tato praxe umocněna dokonce i na základě ročních studií, jakými se zabýval výzkumník a novinář Fabio Chiusi.
Kromě jejich teoretického použití k pronásledování zločinců, software pro rozpoznávání obličeje představují invazivní technologie. Jejich použití je výslovně zakázáno AI Act, s výjimkami v několika velmi specifických případech. V Itálii je teoreticky zakázáno instalovat tyto technologie, alespoň do konce roku 2025. Navíc tyto systémy nejsou neomylné, a být strojově omylem zaměněn za osobu, která se dopustila trestného činu, by se mohlo stát obrovským problémem.
Důvody pro anonymitu
Existuje mnoho důvodů, proč by někdo, i když nemá zlý úmysl, mohl chtít uniknout těmto systémům. Některé jsou očividné: chránit se před státní nebo soukromou dohledem; účastnit se demonstrací nebo akcí, nebo navštěvovat veřejné prostory bez zanechání biometrických stop; nechtít být sledován nebo evidován obecně (i kdyby to bylo jen pro reklamní účely).
Prozatím, většině světa není zakázáno kreativně se líčit, nosit široké klobouky nebo reflektující brýle, zakrývat si část obličeje nebo odklánět jeho obraz pomocí zkreslující čočky. Avšak není zajištěno, že to tak bude i nadále.
V mnoha zemích je odnětí nebo poškození registrační značky na autě trestný čin, protože brání identifikaci vozidla: mohl by se stát i podobný případ u obličejů? Mohlo by být zakázáno používat masky, make-upy nebo doplňky, které narušují software pro rozpoznávání? To je možnost, která není příliš daleko od reality. Například v Číně od roku 2019 je třeba k aktivaci SIM karty absolvovat proces rozpoznávání. Nicméně nedávno čínské úřady řekly, že je třeba nabídnout alternativy těm, kteří se nechtějí nechat rozpoznat.
Faktem je, že rozpoznávání obličeje přesahuje pouhou technologii: představuje formu vlády a kontroly našich těl, která může nadměrně prohloubit nerovnosti. Kdo je viditelný a pro koho? Na koho se pravidla vztahují? Kdo se může pohybovat, aniž by byl sledován? A co se stane, když se rozhodneme ukrýt před pohledem strojů?
Je pravda, že vzdát se rozpoznatelnosti může vypadat zvláštně nebo podezřele. Ale možná bychom měli začít vyžadovat naše právo být anonymní a existovat mimo pohledy.
Tento článek byl převzat z newsletteru Artificiale.
