Jaroslav Lískovec: Nejsme tak daleko, aby AI začala rozhodovat bez nás

Vyšlo v čísle 6/2024

„V Evropském centru pro digitální inovace (EDIH CTU) pomáháme malým a středním podnikům, a také veřejné správě, vytvářet koncepty a pilotní řešení s využitím strojového učení a umělé inteligence, s pomocí našich týmů, které na ČVUT máme. Disponujeme silným „HUBem“ na využití umělé inteligence,“ říká mi při setkání v prosklené místnosti Českého institutu informatiky, robotiky a kybernetiky ČVUT v Praze ředitel HUBu Jaroslav Lískovec. Společně jsme probrali výhody AI, vyzkoušené projekty ve veřejné správě i oblasti, ve kterých ji lze nasadit. A nejenže jsem měla možnost podívat se do míst, kde testují roboty, ale také jsem zeptala na to, co zajímá nejednoho úředníka. Nahradí úředníka virtuální asistent?

Jak je to s financováním projektů a co je podle vás nyní zajímavé na virtuální inteligenci?

Nyní jsme z EDIH CTU schopni zaplatit až 100 procent práce našich lidí v projektech. Projekty jsou v ceně až do výše až 3 miliony a trvají průměrně půl roku. To, co je u umělé inteligence zajímavé, je ohromný zájem, který se zvedl díky velkým jazykovým modelům a na nich postavených nástrojů typu chatGPT. Zrovna jste na půdě Českého institutu informatiky, robotiky a kybernetiky, který se nespecializuje na výuku, ale zejména na spolupráci s průmyslem. Řešíme spoustu projektů, kde umělá inteligence a její prvky hrají prim. AI funguje víc než 15 let v průmyslu jako běžná záležitost při práci s velkými daty, optimalizaci výrobních procesů a dalších řešení. My se v tom pohybujeme dlouho, ale díky novým hardwarovým možnostem a obrovským investicím při učení jazykových modelů můžeme veřejnosti pomoci pochopit, že umělá inteligence může pomáhat, a nám dostupné nástroje, jako je chatGPT, o tom pak pomáhají rozšířit povědomí.

Oblast veřejné správy jste k malým a středním podnikům přidali?

Ano, využili jsme možnosti, protože vím, jak veřejná správa funguje, a vidím, jak by mohla pomoci. Stala se pro nás prioritou.

Máte v institutu řešení, které je sice průmyslovějšího charakteru, ale přesto státní správě a samosprávě může pomoci?

Mám to rozdělené na takové dvě sady řešení. Jedna je ta, kterou si teď všichni co dokážou s jazykovými nástroji pracovat umí představit. Umí číst například obsahy zákonů, dotačních programů, nařízení a hledat v nich kontext a dávat doporučení nebo generovat automaticky například návrhy rozhodnutí. Ale je dobré si uvědomovat i druhou část, která je spojena s řešeními v průmyslu, kupříkladu při správě majetku. Máme uzavřenou smlouvu na projekt s Policejním prezidiem, který je zaměřen na optimalizaci využití energií při provozu budov kde naším cílem jsou energetické úspory a predikce spotřeby. Policie do svých budov nakupuje čidla a my jim dodáváme naučené algoritmy, které jsou schopny spouštět automatizovaná hlášení, například když někde odtéká voda, a další upozornění, která se týkají spotřeby. Zároveň pro ně umíme predikovat, co je budovy budou stát při zdražení, a mohou lépe plánovat. To je klasický koncept průmyslovějšího charakteru. Další chytré řešení máme například ve svozu odpadu s Prahou. Kontejnery mají čidla a z nich se dá vyčíst spousta informací. Díky algoritmu jsme schopni magistrátu dodávat online reálné informace, co se kde děje.

Poskytujete balíček přímo na míru pro zadavatele?

Máme mnoho týmů po celém ČVUT, které řeší různé formy a typy strojového učení, případně umělé inteligence. Realizovaná nebo vyzkoumaná řešení jsme schopni nabídnout našim klientům. Je to jak AI v rozpoznávání obrazů, optimalizační algoritmy, které pomáhají při zmiňovaném svozu odpadů, predikce a jsou to další záležitosti spojené s výhledem a plánováním ve veřejné správě.

Některé úřady ve veřejné správě začaly s automatizací vybraných rutinních činností. A ne všude to jde tak rychle. Měl byste recept, jak by mohla být umělá inteligence užitečná v úřadech?

Je to velmi specifické, záleží na agendě. Projekty ve veřejné správě, které běží, jsou od správy majetku až třeba po spolupráci s auditním orgánem Ministerstva financí. Resort chce pro své auditory připravit nástroj, který jim vyčte dotační programové materiály a zároveň zákony. Auditor, který by šel na kontrolu, nemusí všechno hledat manuálně, ale virtuální asistent Voicebot mu může dávat kontext. AI je potřeba vnímat jako nástroj pro lidi, který by jim měl pomoci zefektivnit práci. Nedoporučujeme veřejné správě i kvůli výši grantu jít do velkých projektů hned na začátku, ale spíš se vydat cestou menších aktivit, díky kterým ověří, že projekt se zapojením AI dává smysl. Teprve až po tomto ověření je vhodné jít do větších zadání. Samozřejmě nevýhoda veřejné správy je s s veřejnými zakázkami a nutnými procesy. Platí zde tedy dvojnásob, že je lepší udělat něco menšího, vyzkoušet si to a až pak jít do výběrového řízení s jasnou vizí, jak to má vypadat.

Do kterých oblastí ve veřejné správě je vhodné zavádět umělou inteligenci?

V tuto chvíli je AI vhodná na zpracování dokumentů, hledání kontextů a jako pomoc pro generování nových dokumentů. Že umíme číst text i obrázek a získávat z toho informaci pro klienta, je i díky tomu, jak rychle se vyvíjí komerční řešení, poměrně už jednoduchá věc, kde začít a naučit se s AI pracovat. Veřejná správa je plná dokumentů, a tak nasazení AI jí dává velký smysl. Důležité je si uvědomit, že jde vždy o velký souboj s tím, kde data jsou a zda jsou otevřená, nebo interní. Dlouhé diskuse jsme vedli k tomu, abychom s odborníky na bezpečnost ve veřejné správě našli společnou řeč v tom, že je nejprve třeba vyzkoušet si schopnosti AI na open datech, která jsou veřejná. Není třeba jít do dokumentů, které jsou vyloženě interní nebo v režimu utajované. Ale můžete na pilotu na veřejných datech vyzkoušet funkčnost a pak jít do většího výběrového řízení, kde člověk může řešit další věci, jako je bezpečnost.

Královéhradeckému kraji se vyplatilo pořádání hackathonů, kde jim studenti z místní univerzity aplikací s AI vylepšili vyhledávání u open dat. Jak se díváte na propojení úřadů s vysokými školami?

Jde o skvělou cestu, kterou i my často využíváme. Klient ale musí vědět, co chce. Když se projekt dobře zadá, pak je ideální na to uspořádat hackathon. Na ČVUT pořádáme pravidelně letní školu Design sprint pro studenty středních škol, každý semestr jeden hackathon herní – GameJam a kromě toho hackathony na požádání. Osvědčuje se nám dlouhodobá spolupráce s Operátorem ICT a CAMPem. Velmi aktivní je Smíchovská střední průmyslová škola, kde vytvořili Czech IT Academy. Studenti všeobecně mají blízko k technologiím a jsou kreativnější než standardní komerční firmy. Je to jedna z cest, kterou se veřejná správa může vydat. Na hackathonu vznikne spousta nápadů a vy si jen vyberete a nestojí to tolik ho zorganizovat.

Jaké jsou další reálné podpůrné cesty, jak pokročit se zaváděním umělé inteligence do úřadů?

Je to zejména o kreativních lidech, kteří jsou schopni protlačit myšlenky ve zkostnatělém světě veřejné správy, kde se změny často špatně prosazují. Myslím si, že není reláné tohle dělat centrálně. Je těžké najít ve veřejné správě někoho, kdo by si AI mohl vzít jako téma a plošně implementovat. V tom šanci nevidím, ale je užitečné úspěšné projekty představovat a tím inspirovat další. Spousta řešení se dá totiž škálovat a použít pro další činnosti a organizace. Mohl by třeba vzniknout start-up, který by se zaváděním umělé inteligence zabýval, kde budou studenti a další odborníci. V něm by měly možnost vznikat produkty, jež by se mohly zavádět do dalších úřadů.

Firmy, studenti a další využívají dostupné nástroje ChatGPT nebo Gemini. Vyplatilo by se školení veřejné správy o využívání nástrojů?

Rozhodně. Měli jsme už jedno školení právě s DIA v loňském roce, kde jsme prezentovali úspěšné projekty. Máme z toho spoustu pozitivních informací. Vzdělávání doporučuji, je to otvírání hlav, kterým si lidé musí projít, aby si uvědomili, jak jim AI ulehčí práci a posune i je. Získají tím mnohem větší prostor na strategičtější věci. Jedna věc je využívat standardních dostupných nástrojů, druhá pak, když odborníci na AI jsou schopni pracovat s nástroji a vytvoří individuální řešení pro daný úřad, klienta. Kdy virtuální asistent, například voicebot, pracuje na omezeném množství dat, která dokáže využívat mnohem efektivněji. Jde o situaci, kdy odborníci implementují nástroj přímo na míru zákazníkovi a ten předává skvělé informace. Například nasazení voicebotu ve zdravotnictví pro získávání dat o člověku. Stačí, když se pacient baví s voicebotem, který se ho ptá na základní informace, třeba jakou má rodinnou anamnézu a další záležitosti. Data jsou zapsaná v tabulce, v ordinaci už je vše připravené a odpadá čas na sbírání informací. Podobně si to dokážu představit i v roli úřadu a zákazníka. Nápadů na řešení máme velké množství.

Mezi deset největších hrozeb patří umělá inteligence. Co je při používání AI potřeba zabezpečit?

Nemyslím si, že umělá inteligence je hrozbou, ta hrozba je stále menší než například jízda automobileme. Ale jako jízda automobilem má svá pravidla, tak pro umělou inteligenci musí platit také nějaká, aby škod bylo co nejméně. A taky nejsme tak daleko, že by AI začala rozhodovat bez nás, a to i odborníci, kteří jsou kolem nás, říkají, že strašit tím je velmi brzy. Důležité je zaměřit se na bezpečnost dat. AI neřeší bezpečnost, tu musíme zajistit my. Když už necháme pracovat AI na datech, která nechceme, aby se sdílela, tak musíme zabezpečit, aby zůstala interním nástrojem. Mám pro to hezké přirovnání. My se bojíme, že odtečou data o nás, ale když se podíváte na facebook a další sociální sítě, tak je necháváme utíkat dobrovolně a nemáme z tohoto pocit hrozby. AI nevynese víc, než jí sami dovolíme.

K zabezpečení dat máte na mysli určité cloudy?

Právě cloudová řešení, která jsou důvěryhodná, fungují. Na druhou stranu máme datová centra veřejné správy nebo vhodná řešení vlastní infrastrukturou, na která lze AI nástroje přizpůsobit. Možností ošetření bezpečnosti se nabízí velké množství, ale je potřeba si vybírat vhodné partnery a vnímat, že bezpečnost dat mám jako prioritu.

Nedá mi to se nezeptat. Přijde doba, kdy úředníky nahradí virtuální asistent?

Doufám, že pro spoustu občanů takový voicebot bude existovat, ale neberu to tak, že zaměstnanci přijdou o práci. Když to přirovnám k průmyslové revoluci, kdy lidé rozbíjeli stroje a měli strach, že jim to vezme práci, tak samozřejmě je v tom přerod, kdy to bolí. Ale ve finále to přineslo produktivitu, lidi začali mít víc času, nemuseli díky nasazením robotů trávit tolik času v práci. Byl čas se více věnovat výzkumu a dalším záležitostem. Vidím, že efekt může být velmi obdobný. AI může nahradit spoustu rutinních činností. Možná nahradí i lidi (u rutinních prací které stejně lidi nebaví), ale vždycky půjde jen o nástroj, u kterého lidi budou potřeba. Na druhou stranu se zvýší produktivita a třeba lidé se nebudou muset zdržovat tolik dnů v práci za stejné peníze, protože produktivita poroste. Budou se moci věnovat dalším věcem, které posunou společnost mnohem dál, třeba k strategickým a odborným oblastem. Vidím v tom pozitivum a myslím si, že naopak kdyby nepřicházely nové technologie, jako je AI, tak to může být problém pro lidstvo. My jsme svým způsobem neefektivní a špatně funkční, což odnáší jak naše životní prostředí, tak i společnost. AI technologie nám pomůžou naše fungování zefektivnit v pozitivním slova smyslu.

Může vás státní správa i samospráva požádat o podporu na realizaci automatizace služeb?

Samozřejmě, celá veřejná správa je naším možným klientem. Zájemci najdou kontakty na webových stránkách edihctu.eu a můžou nás oslovit i prostřednictvím LinkedIn. ■