Bude v českých městech (nejprve v Praze) umožněno automatické rozpoznávání obličejů pomocí kamer zapnutých ve dne v noci? Jakýsi stálý dohled nad občany, kteří jsou v drtivé většině bezúhonní, nepodezřelí a nehledaní? A pokud se to zavede, staneme se automaticky podezřelými a "úhonnými"?
Nedělejme si iluze, systém "každý je podezřelý, každý může podvádět, stát nikomu nevěří" se dá zavést, jen to hvízdne. Příklad? EET, elektronická evidence tržeb. Ta přece vychází z představy, že "všeci kradnú", nikdo daně poctivě neplatí.
Pražská policie žádá magistrát, aby na šesti místech v hlavním městě aktivoval automatické rozpoznávání obličejů. Mohla by automatizovaně sledovat a zaznamenávat pohyb osob, které kamery zachytí. Reakce primátora Hřiba: "Kamerový systém se softwarem na rozpoznávání obličejů v ulicích Prahy? Já osobně jsem proti použití této technologie v rámci městského kamerového systému. Nechci podporovat Velkého bratra v čínském stylu." Zdeněk Hřib očekává zneužívání stejně automaticky, jako policie předpokládá, že každý z nás je lump. Ministr vnitra Jan Hamáček (ČSSD) ovšem řekl, že policie jen nadnesla, "zda by nebylo vhodné otevřít diskusi o případném uplatnění systému face recognition na místech, kde je vyšší koncentrace osob".
Primátor Hřib (piráti) dodal, že "Praha požádá o stanovisko Úřad pro ochranu osobních údajů". Věc tedy není legislativně jasná. Pokud by byla, policie by, jako třeba Metropolitní policie v Londýně, odkázala na normy, které jí (pokusný provoz Live Facial Recognition, rozpoznávání tváří) umožňují.
Tváře rozpoznávací systém už běží na Letišti Václava Havla, umístili tam 145 citlivých kamer, které okamžitě porovnají obličej s databází hledaných osob. V tomto prostoru to žádné zásadní kontroverze nevyvolalo, každý se bojí, že s ním vybuchne letadlo, většina stojí o maximální ochranu.
Spory se vedou o úspěšnost takového systému, jestli jsou to dvě procenta, 20 procent, 99. Londýnská policie tvrdí, že se technologie splete jednou v tisíci případech, nezávislá studie však tvrdí, že se systém mýlil v 81 procentech případů. Nehraje to zas tak velkou roli, umělá inteligence se rozvíjí divoce, experti čekají, že se během jednotek let schopnosti systémů prudce zlepší. Ne pouze v rozpoznávání, ale i v umění porovnávat nejen malé, nýbrž i gigantické databáze.
Obava z kamer zní poněkud komicky, když dnes skoro každý nese v kapse mobil, podle kterého je vystopovatelný a sledovatelný nejen v místě, kam míří kamera, ale stále, má-li tu věcičku zapnutou. K tomu přidejme Instagram, Facebook a další sítě, kam lidé bez váhání sypou fotky svoje, svých dětí, dalších lidí, fotky svých bytů, dovolených, kvanta videí. Jediný rozdíl: do sítí to cpeme sami.
Pozor na deep fake
Má se tedy povolit pokusné testování rozpoznávacích systémů? A za jakých podmínek? Mimochodem Úřad pro ochranu osobních údajů odmítl, aby se tato technologie používala k identifikaci fotbalových chuligánů na stadionech, neboť "nelze najít dostatečný právní důvod ke zpracování biometrických osobních údajů návštěvníků fotbalového utkání". Hleďme! Dobře oni.
Představte si ale, že se vám ztratí dítě, zoufale ho hledáte. Pak by se rozpoznávací systém hodil. Nebo se objeví masový vrah, ve městě zavládne strach, "Zapojte to!" budou žádat obyvatelé. Dá se pochopit, že systém testují v Londýně, Británie se brání terorismu.
Věcně vypadá situace následovně: lidé kývnou na zásah do soukromí, pokud mají pocit, že je to nutné, nebo pokud je někdo (u nás to dělají často politici) dostatečně vystraší. A technologie brzy umožní sledování ve vysoké kvalitě a účinnosti.
Erupce technologií se však stává i pádným argumentem proti povolení rozpoznávacího systému. Stále víc se mluví o tom, že nás čekají dokonalé deep fake news, uměle upravená videa, která změní podobu člověka, zasadí vás do situací, v nichž jste se nikdy neocitli. Proč nehacknout kamery a nevložit tam nějakou takovou lež, fake, že?
Jiná obava, žijeme v rozzmítané společnosti, množí se masové demonstrace, rozpoznávání obličejů lze teoreticky zneužít proti protestujícím. Britské listy popisují případ, kdy Ed Bridges z Cardiff University odstartoval soudní spor s policií v Jižním Walesu, jež během vánočních nákupů používala kamery pro rozpoznávání obličejů. Použila je i při pokojné demonstraci proti obchodu se zbraněmi v Cardiffu. Bridges mínil, že jde o porušení práva na soukromí a že má lidi odradit od protestů. Velšská policie rozpoznávání používá už dva roky na velkých sportovních a hudebních akcích.
Britský soud však rozhodl, že je používání technologie zákonné. Policajti ve Walesu proto budou mít v mobilech aplikaci, která dokáže "potvrdit totožnost podezřelé osoby téměř okamžitě". Tak vypadá britská realita, s tím rozdílem, že pokud jde o zákony, mají tam jasno.
On-line rozpoznávání tváří lidi znepokojuje, ale při malérech by ho přivítali. Česko patří mezi nejbezpečnější země světa, proto se zavádění takových technologií nezdá akutní. Ale policie (a jistě i tajné služby) bude o pomocníky z oblasti umělé inteligence čím dál víc stát.
Nesmírně důležité jsou tři věci: jasné zákony, které užívání takových technologií (povolovací systém) upraví. Garance toho, že nebudou zneužity (je vůbec možná?) a že budou nasazovány jen v případech vážného obecného zájmu. A za třetí: bude zavedena důvěryhodná občanská kontrola jejich užití. Bez toho je právní stát nemůže používat. K tomu poznámka: vláda slibovala nový, občanský typ kontroly tajných služeb. Dosud ho ovšem nezavedla.
