U javnoj ustanovi AI automatizacija ne počinje pitanjem „koji alat“, već pitanjem „koji proces sme da se automatizuje, a da niko ne ostane bez prava i da neko i dalje odgovara“. Ustanove imaju ono što AI voli, veliki obim ponavljajućih zahteva, i ono čega se AI mora čuvati, odluke o pravima građana i lične podatke. Ovaj tekst daje redosled koji radi: izbor procesa po dva kriterijuma (veliki obim i nizak rizik) i dva uslova (jasna pravila i merljiv ishod), upravljanje rizikom (podaci, pristupi, ljudska odluka, dobavljači, evidencija) i pilot i širenje sa malim skupom korisnika, brojkama i kriterijumima za nastavak; sve tako da se uklapa u propise o zaštiti podataka, informacionoj bezbednosti i upravnom postupku koje tumači pravna služba, ne dobavljač.
Ukratko
- Kandidat je proces sa velikim obimom i niskim rizikom: razvrstavanje prijava, odgovori na ponavljajuća pitanja, prepis i sažimanje, provera potpunosti zahteva; ne odluke o pravima.
- Čovek odlučuje, AI predlaže: ljudska odluka je obavezan korak tamo gde ishod utiče na građanina; evidencija ko je šta potvrdio.
- Podaci i dobavljači pre alata: koji podaci ulaze, gde se obrađuju, ugovor o obradi, lokacija, zabrana obuke na vašim podacima.
- Pilot sa brojkama: jedan proces, mali skup ljudi, 6–12 nedelja, tačnost i ušteda mereni prema polaznim brojkama, odluka po pragu.
Napomena: tekst opisuje organizacioni i tehnički metod; da li je konkretna obrada dopuštena i pod kojim uslovima (zaštita podataka, upravni postupak, informaciona bezbednost, javne nabavke) utvrđuju pravna služba i lice za zaštitu podataka. Za jedan konkretan slučaj, AI asistent na sajtu, detaljna pravila su u tekstu AI četbot na sajtu javne ustanove; za male firme bez propisa javnog sektora, primeri procesa u tekstu AI automatizacija za male firme.
Izbor procesa
Većina neuspelih AI projekata u ustanovama počinje od alata koji je neko video, pa se traži proces za njega. Obrnuto radi: popis procesa, ocena po obimu i riziku, provera dva uslova, i tek onda razgovor o rešenju.
Veliki obim i nizak rizik
Popis procesa pravi se sa službama, ne sa IT-jem: šta se ponavlja svakodnevno, koliko puta mesečno, koliko traje, ko radi, gde nastaje greška ili čekanje. Tipično se pojavljuju: prijem i razvrstavanje prijava i zahteva građana (e-pošta, forme, pisarnica), odgovori na ponavljajuća pitanja (radno vreme, obrasci, postupci, statusi), provera potpunosti zahteva pre obrade (da li su svi prilozi tu), prepis i sažimanje dokumenata (zapisnici, dopisi, izveštaji), unos podataka iz jednog sistema u drugi, pretraga po internim propisima i presedanima, priprema nacrta standardnih dopisa, prevod i prilagođavanje pisma, obrada zahteva za pristup informacijama (pronalaženje dokumenata), planiranje termina i podsetnici. Obim se meri brojevima (koliko mesečno, koliko sati ukupno); proces koji se dešava dvadeset puta mesečno nije vredan automatizacije ma koliko bio dosadan. Rizik se ocenjuje po posledici greške: nizak (greška se lako uoči i ispravi, ne utiče na prava: pogrešno razvrstana prijava koju službenik preusmeri), srednji (greška košta vreme ili poverenje: pogrešan odgovor o radnom vremenu), visok (greška utiče na prava, novac, zdravlje, bezbednost, ili se ne uočava: odluka o zahtevu, procena ispunjenosti uslova, tumačenje propisa za konkretan slučaj, obrada posebnih kategorija podataka). Pravilo: kandidat za pilot je proces sa velikim obimom i niskim rizikom; srednji rizik ide tek posle prvog uspešnog pilota i sa dodatnim kontrolama; visok rizik se ne automatizuje odlukom, već najviše pripremom (AI pripremi materijal, čovek odlučuje), i to uz pravnu proveru. Propisi o upravnom postupku i zaštiti podataka ograničavaju automatizovano odlučivanje koje proizvodi pravne posledice po lice, što je dodatni razlog da granica bude jasna.
Jasna pravila i merljiv ishod
Dva uslova koja proces mora da ispuni i posle ocene obima i rizika. Jasna pravila: proces se može opisati tako da dvoje službenika istu prijavu razvrstaju isto; postoji dokumentovan postupak, kategorije, obrasci, lista pitanja i odgovora, ili bar dovoljno prošlih primera sa poznatim ishodom da se pravilo izvede; ako službenici sami ne mogu da se dogovore šta je tačno, AI će samo brže proizvoditi nedoslednost; to je i test zrelosti procesa: pre AI-ja često treba urediti proces, što je samo po sebi ušteda. Merljiv ishod: unapred se zna šta znači uspeh, u brojkama: tačnost razvrstavanja u odnosu na službenika (npr. 95 %), vreme od prijema do odgovora, broj sati službenika mesečno, broj vraćenih nepotpunih zahteva, zadovoljstvo građana; i polazne brojke pre pilota, bez kojih se poboljšanje ne može dokazati. Skup podataka za test: najmanje nekoliko stotina stvarnih primera iz prošlosti (anonimizovanih gde treba) sa poznatim tačnim ishodom, na kojima se rešenje testira pre nego što dodirne stvarne građane. Vlasnik procesa: rukovodilac službe koji potpisuje pravila, prima izveštaje i odlučuje o nastavku; ne IT, ne dobavljač. Izlaz iz ove faze je dokument na dve strane: proces, obim, rizik i obrazloženje, pravila, metrike i polazne brojke, vlasnik, šta AI radi (predlaže, razvrstava, priprema) i šta ne radi (ne odlučuje, ne komunicira odluku); taj dokument ide pravnoj službi i licu za zaštitu podataka pre bilo kakvog razgovora sa dobavljačima.
| Proces | Obim | Rizik | Šta AI radi | Šta ostaje čoveku | Status |
|---|---|---|---|---|---|
| Razvrstavanje prijava i zahteva (e-pošta, forme) | Veliki | Nizak | Predlaže kategoriju, službu, prioritet; izdvaja podatke | Potvrđuje ili menja; obrađuje | Kandidat za prvi pilot |
| Odgovori na ponavljajuća informativna pitanja | Veliki | Nizak–srednji | Nacrt odgovora iz odobrenih izvora sa navođenjem | Odobrava pre slanja (ili bot na sajtu u ograničenom obimu) | Kandidat, uz pravila o izvorima |
| Provera potpunosti zahteva | Veliki | Nizak | Poredi priloge sa listom, označava šta fali | Šalje poziv za dopunu; odlučuje o roku | Kandidat |
| Prepis, sažimanje, nacrti standardnih dopisa | Srednji–veliki | Nizak | Prepis snimka, sažetak, nacrt po šablonu | Pregleda, potpisuje | Kandidat; interno, bez ličnih podataka u spoljnim alatima |
| Pretraga internih propisa i presedana | Srednji | Nizak | Nalazi i navodi relevantne dokumente | Tumači i primenjuje | Kandidat, zatvoreni izvori |
| Unos iz sistema u sistem | Veliki | Nizak–srednji | Klasična automatizacija (integracija), ne nužno AI | Kontrola uzorka | Prvo integracija, AI samo za nestrukturisano |
| Procena ispunjenosti uslova, odluka o zahtevu | Bilo koji | Visok | Najviše priprema materijala | Odlučuje, obrazlaže, potpisuje | Ne automatizovati odluku; pravna provera |
| Obrada posebnih kategorija podataka (zdravlje, socijala) | Bilo koji | Visok | Samo u infrastrukturi ustanove, uz procenu uticaja | Sve odluke | Tek posle pravne provere i procene uticaja |
Upravljanje rizikom
Kad je proces izabran, rizik se ne uklanja, već se kontroliše na četiri mesta: koji podaci ulaze i izlaze, ko ima pristup, gde je čovek u lancu, i ko je dobavljač. Svako od njih ima dokument i dokaz.
Podaci, pristupi i ljudska odluka
Podaci: za izabrani proces se popisuje šta ulazi u AI (tekst prijave, prilozi, podaci o podnosiocu), šta izlazi (kategorija, nacrt, oznaka) i gde se sve to obrađuje i čuva; pravilo najmanjeg obima: AI dobija samo ono što mu treba za zadatak (za razvrstavanje ne treba JMBG ni adresa), lični podaci se uklanjaju ili maskiraju pre slanja spoljnom alatu gde god je moguće, posebne kategorije (zdravlje, socijalni status, prekršaji) ne idu u spoljne alate uopšte; obrada ulazi u mapu podataka i evidenciju, lice za zaštitu podataka procenjuje da li je potrebna procena uticaja (kod većeg obima ili osetljivih podataka obično jeste), a politika privatnosti i obaveštenja građanima se dopunjuju. Pristupi: ko sme da koristi alat (imenovani službenici, po ulozi), ko podešava pravila i izvore, ko vidi logove; nalozi po imenu, dvofaktorska zaštita, ukidanje pri odlasku; alat nema pristup sistemima koje mu proces ne traži (nema „pristup svemu radi jednostavnosti“). Ljudska odluka kao obavezan korak: tamo gde ishod utiče na građanina, AI daje predlog sa obrazloženjem i izvorom, a službenik potvrđuje, menja ili odbija, i to se beleži (ko, kad, da li je promenio predlog); mera automatizacije se povećava tek kad tačnost na uzorku to opravda, i nikad do potpunog isključivanja čoveka kod odluka; službenik mora da može da radi i bez alata (alat je pomoć, ne uslov), a građanin ima pravo da traži ljudsko postupanje i da zna kad je AI učestvovao. Evidencija: svaki predlog, potvrda i ispravka beleže se sa datumom i osobom; iz evidencije se računa tačnost, otkrivaju sistemske greške i odgovara na pritužbe; rok čuvanja po pravilima ustanove. Ove tačke su iste one koje važe za forme i alate na sajtu ustanove; kako se pravi mapa podataka i šta ide u politiku, u tekstu zaštita podataka i kolačići na sajtu ustanove.
Dobavljači i evidencija
Gde se model izvršava je prvo pitanje za dobavljača: u infrastrukturi ustanove ili državnoj infrastrukturi (najveća kontrola, veći trošak i zahtevi za IT), kod domaćeg ili evropskog pružaoca sa ugovorom, ili kod globalnog pružaoca preko API-ja (najlakše, ali prenos van zemlje i najviše pitanja); za informativne procese bez ličnih podataka opcije su šire, za sve sa podacima građana odlučuju pravna služba i LZP. Ugovor sa dobavljačem sadrži ono što i svaki ugovor o obradi (predmet, uputstva, poverljivost, mere, podobrađivači, incident, brisanje, prenos van zemlje, kontrola) plus AI-specifično: zabrana korišćenja vaših podataka i razgovora za obuku modela, rok čuvanja upita i odgovora (po mogućstvu bez čuvanja), lokacija obrade, verzija modela i obaveštenje o promeni (nova verzija može da promeni ponašanje, pa traži ponovni test), dostupnost i odziv, izlazna strategija (izvoz pravila, izvora, evidencije; nezavisnost od jednog pružaoca), cena po obimu bez iznenađenja. Šta tražiti od bilo kog dobavljača koji obrađuje podatke, u tekstu ugovor o obradi podataka sa veb-agencijom. Nabavka: specifikacija sa procesom, pravilima, metrikama i uslovima za podatke, ne „AI rešenje“; dokazi (ugovor o obradi, lokacija, test na vašem skupu primera pre odluke), reference ustanova; postupak vodi služba za nabavke. Bezbednost: AI alat je IKT komponenta: ulazi u akt o bezbednosti gde je propisano, u evidenciju pristupa, u plan za incident (šta ako alat da pogrešne odgovore masovno, ako procuri upit sa podacima, ako pružalac padne), i ima „isključi“ dugme koje vraća proces na ručni rad za sat vremena. Transparentnost: interni akt koji opisuje gde se AI koristi, za šta, ko odgovara, kako se građanin obaveštava i kako traži ljudsko postupanje; deo je dosijea sajta i sistema koji ustanova pokazuje nadzoru.
Pilot i širenje
Pilot je jedini način da se sazna da li AI u vašem procesu radi: sa vašim podacima, vašim ljudima i vašim greškama. Uspeh pilota nije „radi“, već brojke koje prelaze prag dogovoren pre početka.
Mali skup korisnika
Obim pilota: jedan proces, jedna služba, 3–8 službenika koji su hteli da učestvuju (ne oni koji su određeni), jedan kanal (npr. prijave sa sajta, ne i pisarnica), 6–12 nedelja; građani u pilotu ne primećuju razliku osim, gde je propisano, obaveštenja da AI učestvuje u pripremi. Pre početka: test na istorijskim primerima prošao prag (npr. tačnost razvrstavanja ≥ 90 % na 300 primera), pravila i izvori odobreni, pristupi podešeni, evidencija radi, polazne brojke zapisane (vreme po prijavi, broj sati, vreme do odgovora, broj vraćenih zahteva), obuka učesnika (sat-dva), „isključi“ postupak dogovoren, pravna služba i LZP potpisali, vlasnik procesa imenovan. Tokom pilota: službenik radi kao i pre, ali sa predlogom AI-ja koji potvrđuje ili menja; nedeljni sastanak od pola sata (šta greši, koji primeri, šta menjati u pravilima i izvorima); dobavljač ispravlja pravila i izvore, ne službenik; sve promene beleže se sa datumom. Šta se ne radi u pilotu: ne širi se na nove procese „usput“, ne uklanja se ljudska potvrda, ne menja se model bez ponovnog testa, ne obećava se javno. Uloge: vlasnik procesa (odlučuje), koordinator pilota (vodi nedeljne sastanke i tabelu), LZP (nadzire obradu), IT (pristupi, bezbednost, integracija), dobavljač (podešava, izveštava), učesnici (rade i ocenjuju).
Kriterijumi za nastavak
Metrike koje se prate nedeljno i sabiraju na kraju: tačnost predloga (udeo koje je službenik prihvatio bez izmene; udeo ozbiljnih grešaka: pogrešna služba, izostavljen prilog, pogrešan podatak), vreme po predmetu i ukupni sati u odnosu na polazne brojke (pošteno, uključujući vreme za pregled predloga i nedeljne sastanke), vreme do odgovora građaninu, broj vraćenih ili pogrešno usmerenih predmeta, ocena učesnika (da li im pomaže, da li bi nastavili), incidenti i pritužbe. Pragovi dogovoreni pre pilota, npr.: tačnost ≥ 90 % i nula ozbiljnih grešaka koje su prošle bez ispravke; ušteda ≥ 20 % vremena po predmetu; ocena učesnika pozitivna; nula incidenata sa podacima. Tri ishoda, sva tri legitimna: nastavak i širenje (na drugu službu ili kanal, po jedan korak, sa istim merenjem), popravka (pravila, izvori, obim; pa ponovni pilot), gašenje (proces nije zreo, obim nije dovoljan, rizik veći nego što se mislilo; izveštaj sa brojkama i naukom za sledeći pokušaj). Širenje po koracima: nova služba ili kanal = novi mini-pilot od 4 nedelje sa istim metrikama; stepen automatizacije (npr. automatsko razvrstavanje bez potvrde za kategorije sa tačnošću preko 98 % i niskom posledicom) raste samo na osnovu evidencije i uz zadržanu mogućnost ručnog rada; procesi srednjeg rizika tek posle dva uspešna pilota niskog rizika. Redovan rad posle pilota: mesečni izveštaj vlasniku (tačnost, ušteda, greške, promene modela), kvartalni pregled uzorka predloga, godišnja revizija pravila, izvora, ugovora i procene uticaja, i ponovni test pri svakoj promeni modela. Izveštaj rukovodstvu na jednoj strani, sa brojkama, ne utiscima; to je i osnova za odluku o sledećem procesu. Ovako vodimo AI projekte, sa izborom procesa, pravilima, pilotom i merenjem pre bilo kakvog obećanja; opis na stranici AI automatizacija.
Najčešća pitanja o AI automatizaciji u javnim ustanovama
Koji proces je najbolji za prvi AI pilot u ustanovi?
Onaj sa velikim obimom i niskim rizikom, jasnim pravilima i merljivim ishodom: najčešće razvrstavanje prijava i zahteva građana po službi i prioritetu, provera potpunosti zahteva ili nacrti odgovora na ponavljajuća informativna pitanja iz odobrenih izvora. Odluke o pravima građana nisu kandidat.
Sme li AI da donosi odluke u upravnom postupku?
Odluke koje proizvode pravne posledice po građanina ostaju kod službenika; propisi o upravnom postupku i zaštiti podataka ograničavaju automatizovano odlučivanje, a građanin ima pravo na ljudsko postupanje. AI najviše priprema materijal i predlaže, uz obavezno beleženje ko je potvrdio; obim dopuštenog utvrđuje pravna služba.
Smemo li da koristimo globalne AI servise sa podacima građana?
To je pitanje za pravnu službu i lice za zaštitu podataka, jer podrazumeva prenos van zemlje i obradu kod trećeg lica. Praksa: lični podaci se uklanjaju ili maskiraju pre slanja, posebne kategorije ne idu u spoljne alate, ugovor zabranjuje obuku na vašim podacima i određuje lokaciju i rok čuvanja; za osetljive procese model radi u infrastrukturi ustanove ili državnoj infrastrukturi.
Koliko traje pilot i šta se meri?
Jedan proces, 3–8 službenika, jedan kanal, 6–12 nedelja. Meri se tačnost predloga (prihvaćeni bez izmene, ozbiljne greške), vreme po predmetu i ukupni sati u odnosu na polazne brojke, vreme do odgovora, vraćeni predmeti, ocena učesnika i incidenti; pragovi se dogovaraju pre početka, a ishod je nastavak, popravka ili gašenje.
Da li AI automatizacija ulazi u javnu nabavku?
Da, po pravilima koje vodi služba za nabavke; specifikacija opisuje proces, pravila, metrike i uslove za podatke, a ne „AI rešenje“, i traži dokaze: ugovor o obradi sa lokacijom i zabranom obuke, test na vašem skupu primera pre odluke, izlaznu strategiju i reference ustanova.
Razmišljate o AI automatizaciji u ustanovi?
Počinjemo popisom procesa i ocenom obima i rizika, pripremamo pravila, metrike i uslove za podatke sa vašom pravnom službom, i vodimo kontrolisan pilot sa brojkama; širimo tek kad brojke to opravdaju.
