Starosta Middlesbroughu je žádán, aby schválil politiku umělé inteligence (AI), která má platnost do roku 2028. Schválení od Chrise Cooke umožní vedoucímu ICT a digitálních služeb v radě provádět změny v politice po vhodné konzultaci, aby se zajistilo, že politika bude v souladu s legislativou, pokyny a vyvíjejícími se technologiemi umělé inteligence.
Tato politika je zavedena k zajištění „legálního, etického a odpovědného“ používání technologií AI napříč organizací. Je uznáváno, že použití AI při podpoře poskytování veřejných služeb narůstá, a dokumenty rady uvádějí, že politika „vytváří jasný rámec pro její použití způsobem, který zvyšuje produktivitu při ochraně dat, zajištění transparentnosti a zachování lidské odpovědnosti“.
Nová politika, která má být schválena starostou Labour Party Cooke dne 18. prosince, zdůrazňuje, že za všechna rozhodnutí zůstává odpovědnost úředníků rady nebo zastupitelů, přičemž AI smí působit pouze v podpůrné roli, nikoliv nahradit lidské rozhodovací procesy.
Pro všechny zaměstnance, kteří používají nástroje AI, bude povinné školení, přičemž AI bude využívána k podpoře strategických priorit rady. Klíčové principy zahrnují zabezpečený přístup a „jasné hranice“ pro použití, které je povoleno nebo zakázáno. Další detaily hovoří o důležitosti zachování veřejné důvěry v použití AI.
Kromě zdůraznění přínosů doporučení vysvětluje, že absence vhodného řízení AI zavádí rizika spojená s ochranou dat, etikou a odpovědností. Dále je objasněno, že „vyvíjející se technologie“ budou přijímány „bezpečným“ způsobem.
Pokud jde o možnost neexistence politiky AI, dokumenty dodávají: „Absence jasné politiky by představovala významná rizika. Ta zahrnují nekonzistentní používání nástrojů AI, potenciální nesoulad s ochranou dat a etickými standardy a nedostatek transparentnosti nebo odpovědnosti v rozhodovacích procesech.“
Dodavatelé softwaru budou muset dodržovat novou politiku. Tato politika se bude vztahovat nejen na zaměstnance a zastupitele, ale také na pracovníky agentur a dokonce dobrovolníky. Dodavatelé třetích stran budou muset zveřejnit, jak fungují jejich AI systémy, včetně zajištění ochrany proti zkreslení a omezení přesnosti.
Některé povolené použití AI v radě zahrnují: „Shrnutí informací, generování návrhů zpráv nebo textu a asistence při komunikaci“, stejně jako „analýzu nebo zpracování datových sad, dokumentů nebo veřejně dostupných informací k vytváření shrnutí, poznatků nebo porovnání“, avšak to musí být v souladu s legislativou a politikami rady.
Na druhé straně jsou zakázané použití: „Zpracování nebo sdílení osobních, důvěrných nebo citlivých dat v jakémkoliv veřejném nebo neschváleném AI nástroji“ a „považování výstupů AI za autoritativní nebo faktické bez ověření vyškoleným úředníkem“.
Dokumenty vysvětlují, že politika bude přezkoumávána alespoň jednou ročně, aby odrážela nové technologie, rizika a osvědčené postupy, přičemž majoritní změny budou odkazovány na schválení volenými zástupci.
