Obec Utrecht se snaží zodpovědně využívat algoritmy, avšak zaměstnanci dosud nedodržují existující směrnice v dostatečné míře. Uvádí to Účetní komora Utrecht. „Není tak vždy jasné, zda jsou přijímána efektivní opatření ke snížení rizik spojených s používáním algoritmů,“ shrnuje účetní komora na základě výzkumu zaměřeného na využívání algoritmů v obci.
Algoritmus představuje sérii automatických kroků, které počítač následuje, aby vyřešil problém nebo odpověděl na otázku. Stejně jako jiné samosprávy využívá Utrecht množství algoritmů, například k určení, zda má obyvatel nárok na parkovací povolení.
Rizika spojená s používáním algoritmů
Využívání algoritmů s sebou nese určité rizika. Bez adekvátní kontroly mohou vést k diskriminaci nebo porušení soukromí. Z tohoto důvodu Účetní komora Utrecht zkoumala, jak obec zodpovědně zachází s algoritmy. Pět algoritmů, které obec používá, bylo podrobně zkoumáno.
Nedostatky v registru algoritmů
Podle Účetní komory Utrecht obec ještě není dostatečně transparentní v registru algoritmů. Některé algoritmy mohou mít zásadní dopad na obyvatele. Všechny významné algoritmy jsou zaznamenány ve veřejném registru. „Je to pokrokový krok, neboť ne všechny obce v Nizozemsku mají takový registr,“ dodává účetní komora.
Nicméně kvalita informací v registru zaostává. Není jasné, jaká rizika jednotlivé algoritmy představují. „A obec neuvádí transparentně, na základě jakých úvah je algoritmus považován za významný.“ Účetní komora proto doporučuje objasnit, jaká kritéria se používají, a zlepšit informace v registru.
Nedostatečné uplatňování interních směrnic
Také interní směrnice pro používání algoritmů nejsou podle účetní komory dostatečně konzistentně aplikovány. Tyto směrnice by měly být použity různými odděleními při používání algoritmů. „Účetní komora pozoruje, že oddělení směrnice nepoužívají důsledně.“
Navíc chce obec, aby každý algoritmus byl posouzen z hlediska etických hodnot před jeho zavedením, ale obec příliš nekontroluje, zda jsou skutečně realizovány zlepšení, která vyplývají z takového posouzení.
Nedostatečné sledování a řízení rizik
Aby bylo možné spravovat rizika algoritmů, je třeba přijímat opatření a monitorovat je. Podle účetní komory se to neděje důsledně, neboť oddělením je dána velká svoboda v jejich přístupu.
Kromě toho se oddělení v přístupu k řízení rizik velmi liší a zaměstnanci dostávají nedostatečné školení. „Nedostatek soudržnosti, kontroly a jednotnosti v přístupu jednotlivých oddělení činí řízení rizik algoritmů zranitelným,“ dodává účetní komora.
Chybějící cíle a nedostatečné informace pro obecní radu
Obec Utrecht si nevypracovala konkrétní cíle pro využití algoritmů. Tím pádem chybí také ukazatele pro měření, zda jsou tyto cíle dosaženy. To vede k omezené odpovědnosti v rámci organizace.
Také obecní rada dostává pouze základní informace. „Členové rady mají potřebu obdržet aktuálnější a konkrétnější informace o algoritmech.“
Doporučení Účetní komory
Účetní komora dává několik doporučení. Informace v registru algoritmů by měly být aktuálnější a konkrétnější. Také je třeba lépe sledovat, zda jsou skutečně realizována zlepšení vyplývající z etických posouzení.
Další doporučení zahrnuje posílení řízení rizik a interní a externí odpovědnosti prostřednictvím stanovení jasných ukazatelů a uzavřením dohod s obecní radou o poskytování informací.
