AI starosta už není sci-fi: Obce ale musí řešit bezpečnost, odpovědnost i ochranu dat

 

Ještě před několika lety působila představa „AI starosty“ spíše jako technologická zajímavost. Dnes se ale podobné projekty začínají objevovat i v českých obcích a ukazují, že umělá inteligence může postupně změnit způsob komunikace veřejné správy s občany. Digitální asistenti založení na AI dnes dokážou odpovídat na běžné dotazy, poskytovat informace o fungování úřadu nebo pomáhat občanům s orientací v jednotlivých agendách. Právě v tom vidí odborníci největší přínos. Podle NÚKIB může AI obcím pomoci zejména při poskytování základních informací, zlepšení dostupnosti služeb a snížení administrativní zátěže. Výhodou je také možnost komunikace mimo běžnou pracovní dobu úřadu, což občané stále více očekávají. Současně ale platí, že veřejná správa pracuje s citlivými daty a odpovídá za správnost poskytovaných informací. Zavádění AI proto nelze vnímat jen jako technologickou novinku, ale také jako otázku bezpečnosti, důvěry a odpovědnosti.

 

Podle NÚKIB patří mezi hlavní kybernetická rizika možnost šíření nepravdivých nebo zavádějících informací, neoprávněný přístup k systémům obce a únik dat, se kterými AI pracuje. Rizikem může být také manipulace výstupů prostřednictvím cílených dotazů nebo přílišná závislost na externím dodavateli technologie.

Důležité je podle odborníků myslet i na to, že většina současných AI služeb funguje v cloudovém prostředí. Data tak často nejsou zpracovávána přímo na infrastruktuře obce, ale na serverech poskytovatele služby. „Obec proto musí mít přehled o tom, jaká data systém využívá, kde jsou uložena a kdo k nim má přístup. Základním bezpečnostním minimem je správné řízení přístupových práv, pravidelné aktualizace systémů a zabezpečení komunikačních rozhraní,“ uvádí Jakub Neščivera, tiskový mluvčí NÚKIB. Zásadní dle jeho slov je také kvalitní smluvní ošetření vztahu s dodavatelem, zejména pokud jde o ochranu dat a odpovědnost za bezpečnost.

 

Přestože AI může působit samostatně, odpovědnost za její výstupy nese vždy obec jako provozovatel služby. Pokud systém poskytne nesprávnou informaci nebo neoprávněně pracuje s osobními údaji, odpovědnost nelze přenést na samotnou technologii. NÚKIB proto upozorňuje, že AI by neměla nahrazovat rozhodování o právech a povinnostech občanů bez dostatečné lidské kontroly. Umělá inteligence má být především podpůrným nástrojem, nikoli náhradou odpovědnosti veřejné správy. Stejně důležitá je transparentnost. Občan musí být vždy jasně informován, že komunikuje s automatizovaným systémem. Transparentnost je nejen otázkou důvěry, ale také požadavkem evropské regulace umělé inteligence.

 

Velkou oblastí rizik je ochrana osobních údajů. Obce by měly zabránit tomu, aby AI generovala odpovědi obsahující citlivá nebo nadbytečná data konkrétních osob. Doporučuje se využívat anonymizovaná nebo agregovaná data a důsledně oddělovat testovací a produkční prostředí. Vedle GDPR musí samosprávy sledovat také evropské nařízení o umělé inteligenci, známé jako AI Act, které klade důraz na transparentnost, řízení rizik a odpovědnost při využívání AI ve veřejném sektoru. V některých případech se může uplatnit také zákon o kybernetické bezpečnosti.

 

 

NÚKIB doporučuje, aby obce před spuštěním podobných služeb nejprve provedly základní analýzu rizik, jasně si definovaly účel projektu a smluvně upravily vztah s dodavatelem. Vhodným krokem je také pilotní provoz, který umožní bezpečně ověřit funkčnost systému a odhalit případné problémy ještě před plným nasazením. Zkušenosti z prvních projektů ukazují, že umělá inteligence může být pro samosprávy užitečným pomocníkem při komunikaci s občany a poskytování rutinních informací. Současně ale platí, že ani nejmodernější digitální asistent nemůže nahradit odpovědnost veřejné správy nebo lidské rozhodování. Budoucnost AI v obcích tak bude záviset především na tom, zda samosprávy dokážou spojit inovace s bezpečností a důvěrou občanů. 

 

Zavedení AI starosty je podle dodavatele poměrně rychlé. Samotná instalace systému a nasazení modulu zabere zhruba dva týdny. Digitalizace starosty nebo úředníka pak může proběhnout během jediného dne. Při návštěvě natáčecího studia se pořídí obraz i několik hodin hlasových nahrávek, z nichž se vytvoří digitální podoba a hlas AI asistenta.

Služba může fungovat přímo na úřadě nebo v informačním centru, doplněná také telefonní linkou dostupnou 24 hodin denně, kde občan komunikuje s AI starostou hlasově. Podle dodavatele po medializaci projektu zájem obcí roste, zejména u větších měst. Náklady jsou zatím vyšší než u běžných chatbotů, proto systém aktuálně míří hlavně na města nad 10 tisíc obyvatel nebo kraje. ■