Register rabe UI
Zbiramo podatke o uporabi umetnointeligenčnih sistemov v slovenskem javnem sektorju ter na njihovi podlagi ustvarjamo celovit in vsem dostopen register. Zahtevamo popolno odgovornost in transparentnost pri uporabi UI v javnem sektorju.
Edina pot do vzpostavljanja javnega zaupanja v poštenost, zanesljivost in zakonitost avtomatiziranih sistemov, ki so v uporabi v javnem sektorju, je njihova popolna transparentnost.
Javnost ima pravico do razumljivih in celovitih informacij o delovanju teh sistemov ter o načinih, kako organi sprejemajo odločitve, ki vplivajo na življenja posameznikov.
Slovenska javnost doslej ni imela dostopa do sistematično zbranih informacij o načinih in razlogih za uporabo umetnointeligenčnih sistemov v javnem sektorju ter o njihovem vplivu na družbo in posameznike. Register rabe UI premošča to vrzel.
Face Traceprepoznava obrazov
Institucija: | Policija |
Področja: | Preprečevanje, odkrivanje in preiskovanje kaznivih dejanj |
Oznake: | Biometrična identifikacija Prepoznava obrazov |
Razvijalci: |
CENT SI d.o.o.
|
Cena: |
39.650,00 EUR z DDV
|
Trajanje licence: |
Ni časovno omejena
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Ne
|
Sistem uporablja algoritme za izdelavo in iskanje biometričnih razpoznavnih znakov podjetja Neurotechnology (tehnologija VeriLook). Vsebuje dva spletna servisa, ki sta integrirana v obstoječo Evidenco fotografiranih oseb policije: prvi je namenjen označevanju osebnih razpoznavnih znakov, drugi primerjanju fotografij obraza neznane (iskane) osebe z množico znanih oseb v Evidenci fotografiranih oseb policije. Aplikacija pripravi rangiran seznam oseb po podobnostih obraza. V foto album za prepoznavo oseb lahko uporabnik izbere samo tiste fotografije, ki v podobnosti dosežejo dovolj visok prag ujemanja. Končno identifikacijo osebe mora strokovnjak za primerjavo obraznih značilnosti opraviti ročno.
Sistem uporablja sledeče podatke: Evidenca fotografiranih oseb policije (del informacijsko telekomunikacijskega sistema policije (ITSP)), neznano slikovno gradivo za primerjavo.
- Brošura 60 let informacijsko telekomunikacijskega sistema policije
- Spletno mesto podjetja Neurotechnology, podstran VeriLook
- Poročilo Automating Society report 2020 za Slovenijo
- Odgovor na zahtevo za dostop do informacij javnega značaja
- Dokument Povabilo k oddaji ponudbe
- Dokument Obvestilo o oddaji naročila
PNR/APIstrojna presoja varnostnih tveganj letalskih potnikov in usmerjanje mejne kontrole
Institucija: | Policija |
Področja: | Mejni nadzor Preprečevanje, odkrivanje in preiskovanje kaznivih dejanj |
Oznake: | Ocena tveganja |
Razvijalci: |
Policija
|
Cena: |
Neznana
?
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Da
?
|
Sistem avtomatizirano zbira, obdeluje, presoja varnostna tveganja ter posreduje podatke iz evidence potnikov, prijavljenih na let, in iz evidence potnikov iz sistema rezervacij letalskih vozovnic. Po avtomatiziranem preverjanju podatkov PNR (Passenger Name Record) in API (Advanced Passenger Information) v primeru ujemanja v evidencah policije, SIS in Interpola poda rezultat v obliki "zadetek oz. ni zadetka" z navedbo sklopa evidenc, v katerih je prišlo do ujemanja, ter navedbo, ali se ujemanje nanaša na podatke o osebi ali na podatke o potovalnem dokumentu. V primeru ujemanja poda tudi podatke, na podlagi katerih je prišlo do ujemanja med preverjenimi podatki in ocenjevalnimi merili.
Ocenjevalna merila so oblikovana z analitično obdelavo podatkov, pri čemer se oblikujejo indikatorji tveganja, ki predstavljajo posamezne podatke, za katere je bilo pri analitični obdelavi ugotovljeno, da predstavljajo specifične potovalne vzorce storilcev terorističnih in drugih hudih kaznivih dejanj oziroma njihovih žrtev ter zato omogočajo usmerjeno delo policije in drugih pristojnih organov na takšne osebe. Nacionalna enota za informacije o potnikih lahko glede na utemeljene razloge v posamičnem primeru posreduje podatke potnikov, prijavljenih na let, oziroma podatke potnikov iz sistema rezervacij letalskih vozovnic oziroma rezultate njihove obdelave drugim enotam policije.
Uslužbenci nacionalne enote za informacije o potnikih vsa ujemanja pri avtomatizirani obdelavi podatkov ter varnostna tveganja posamično pregledajo še z neavtomatiziranimi sredstvi.
Sistem uporablja sledeče vire podatkov: Evidenca potnikov, prijavljenih na let, Evidenca potnikov iz sistema rezervacij letalskih vozovnic, Evidence policije, Schengenskega informacijskega sistema, Interpola.
Razpoznalnik govoraavtomatizirana prepoznava govora in pretvorba v besedilo
Institucija: | Državni zbor |
Področja: | Splošne storitve |
Oznake: | Prepoznava govora |
Razvijalci: |
Vitasis, informacijske tehnologije, d.o.o.
|
Cena: |
286.748,80 EUR z DDV
|
Trajanje licence: |
Do 31. 10. 2025
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Ne
|
Razpoznavalnik govorjene slovenske besede, ki ga Državni zbor uporablja za samodejno prepisovanje sej Državnega zbora in delovnih teles Državnega zbora ter prepise drugih zvočnih posnetkov iz zvočnih virov v živo in iz predhodnih posnetkov, uporablja tehnologije, ki omogočajo pretvorbo govora v besedilo. Iz govora razpoznajo izgovorjene besede, avtomatizirano postavljajo ločila in analizirajo besedilo za pravilen izpis razpoznanega besedila. Za gradnjo modelov razpoznave govora, ki se uporabljajo v Državnem zboru, se uporabljajo tehnike strojnega učenja (globoke nevronske mreže).
E-vinjetaavtomatizirano preverjanje e-vinjete
Institucija: | DARS |
Področja: | Cestninski nadzor |
Oznake: | Prepoznava objektov Prepoznava registrskih tablic |
Razvijalci: |
Skytoll, a.s.
|
Cena: |
21.925.810,56 EUR z DDV
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Da
?
|
E-vinjeta je sistem plačevanja cestnine za vožnjo po slovenskih avtocestah z uporabo e-naslova in registrske številke vozila in nadzora. Za izvajanje cestninskega nadzora upravljavec cest preko kamer na avtocestnem omrežju, na kontrolnih točkah in z vozili cestninskega nadzora preverja, ali so potniki kupili e-vinjeto. Sistem samodejno v realnem času prepoznava registrske tablice, države registracije vozila, barve, znamke, modele in modelna leta, cestninski razred in vrste vozil. Prepoznava poteka s pomočjo umetnointeligenčnih sistemov optične prepoznave na podlagi nevronskih mrež.
Tipkoavtomatizirana prepoznava govora in pretvorba v besedilo
Institucija: | Vrhovno sodišče RS |
Področja: | Splošne storitve |
Oznake: | Prepoznava govora |
Razvijalci: |
iLOL informacijske tehnologije d.o.o.
|
Cena: |
169.580,00 EUR z DDV
|
Trajanje licence: |
Ni časovno omejena
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Ne
|
Orodje uporablja metode strojnega učenja, predvsem nevronske mreže, z namenom učinkovite in zanesljive prepoznave govora. Orodje prepozna različne vrste avdio datotek, izvede prepoznavanje govora, vključno z ločitvijo na govorce, po najboljših močeh popravi besedišče in prepis opremi z ločili.
Skrinjaobdelava in povezovanje baz podatkov
Institucija: | Ministrstvo za javno upravo Upravne enote |
Področja: | Splošne storitve |
Oznake: | Napovedna analitika Poslovna inteligenca |
Razvijalci: |
Result d.o.o., Gora d.o.o., B2 BI d.o.o.
|
Cena: |
1.989.275,04 EUR z DDV
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Da
?
|
Sistem omogoča obdelavo in vizualizacijo podatkov, povezovanje baz podatkov, pripravo poročil, dinamično raziskovanje podatkov, uporabo napovedne analitike, opazovanje gibanja podatkov v različnih vizualizacijah in odkrivanje vzorcev, oblikovanje različnih scenarijev (če – potem), simulacije kompleksnejših problemov in scenarijev, načrtovanje aktivnosti in porabe virov.
- Dosje javnega naročila
- Podrobnosti izdelka na portalu NIO
- Predstavitev projekta na gov.si
- Predstavitev projekta na portalu OECD OPSI
- Odgovor na zahtevo za dostop do informacij javnega značaja
- Tehnične specifikacije iz razpisne dokumentacije
- Promocijska zloženka Skrinja 2.0
- Ocena učinka na osebne podatke
eMigrant (del TravelDocMigrant)ugotavljanje identitete tujcev in izvajanje postopkov zavrnitve
Institucija: | Policija |
Področja: | Mejni nadzor Preprečevanje, odkrivanje in preiskovanje kaznivih dejanj |
Oznake: | Biometrična identifikacija |
Razvijalci: |
CENT SI d.o.o.
|
Cena: |
136.701,00 € z DDV
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Ne
|
S pomočjo sistema policija ugotavlja identiteto in registrira ilegalne migrante, preverja potnike na mejnih prehodih in izvaja postopke zavrnitve vstopa. S sistemom zajemajo izjave tujcev, njihove listine, obrazne fotografije v času postopka ter prstne odtise. Sistem podatke preverja v bazah podatkov policije (evidence prekrškov in evidence dogodkov), evidenci iskanih oseb, Schengenskem informacijskem sistemu, Vizumskem informacijskem sistemu in bazah Interpola.
S sistemom AFIS (Automated Fingerprint Identification System / Sistem za avtomatizirano identifikacijo prstnih odtisov), ki temelji na uporabi algoritmov za izdelavo in iskanje biometričnih razpoznavnih znakov, je omogočena primerjava in iskanje prstnih odtisov.
Kontroliranje obračunov DDV (sistem eDIS)odkrivanje davčnih utaj in goljufij ter iskanje napak v obračunih DDV
Institucija: | Generalni finančni urad |
Področja: | Davki |
Oznake: | Napovedna analitika Ocena tveganja |
Razvijalci: |
SAP GmbH (implementator Sapphir d.o.o.)
|
Cena: |
16.188.185,88 EUR z DDV
?
|
Trajanje licence: |
Ni časovno omejena
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Ne
?
|
V okviru sistema eDIS finančna uprava uporablja umetnointeligenčne sisteme za odkrivanje shem davčnih utaj in davčnih goljufij ter iskanje napak v obračunih DDV.
Davčni zavezanci oddajajo DDV obračune prek sistema eDavki v elektronski obliki, vsak oddan obračun DDV se prenese v zaledni sistem, ob tem pa se sprožijo različne kontrole. V primeru, da kontrole zaznajo izbrano nepravilnost ali odstopanje, se obračun DDV dodeli uslužbencu v vsebinsko kontrolo. Umetnointeligenčni sistem deluje kot dodatna kontrola. Za vsak DDV-O se izračuna ocena tveganja v razmerju med 0 in 1. Bližje 1 je ocena, večjo tveganost je obračunu določil sistem. Določeni obračuni DDV, pri katerih se preostale kontrole ne sprožijo, so lahko zaradi višine tveganosti, ki jo dodeli umetnointeligenčni sistem, prav tako dodeljeni uslužbencem v pregled.
Izdelava modelov poteka z orodjem SAP Data Intelligence. To orodje v fazi izdelave ustvari veliko število modelov (več kot 1000), nato se v več fazah izloča manj ustrezne modele in na koncu izbere enega, ki se ga potem uporabi v produkciji.
VAT-R (sistem eDIS)odkrivanje nepravilnosti ali odstopanj v VAT-R zahtevkih
Institucija: | Generalni finančni urad |
Področja: | Davki |
Oznake: | Napovedna analitika Ocena tveganja |
Razvijalci: |
SAP GmbH (implementator Sapphir d.o.o.)
|
Cena: |
16.188.185,88 EUR z DDV
?
|
Trajanje licence: |
Ni časovno omejena
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Ne
?
|
V okviru sistema eDIS finančna uprava uporablja umetnointeligenčne sisteme za odkrivanje nepravilnosti ali odstopanj v VAT-R zahtevkih tujih davčnih zavezancev s sedežem v drugih državah članicah EU za vračilo DDV plačanega v Sloveniji. Sistem uporablja prediktivno analitiko, ki z metodami strojnega učenja na podatkih iz zahtevkov in drugih podatkov, do katerih dostopa FURS, ustvarja modele, ki računajo tveganost.
Za vsak prejet zahtevek se v zalednem sistemu prožijo kontrole (poslovna pravila, določena na podlagi izkušenj poslovnih uporabnikov, ki določajo uvrščanje zahtevkov v proces kontrole). V primeru, da kontrole zaznajo izbrano nepravilnost ali odstopanje, se zahtevek dodeli uslužbencu v vsebinsko kontrolo. Umetnointeligenčni sistem deluje kot dodatna kontrola in temelji na prediktivnem modelu. Vsak VAT-R zahtevek vsebuje enega ali več računov. Za vsak račun se izračuna ocena tveganja, ki je 0 ali 1. Če je 1, ga sistem določi kot tveganega, če je 0, ga sistem zazna kot netveganega. Na tej podlagi se šteje, da je tvegan VAT-R zahtevek, ki vsebuje vsaj en tvegan račun. O zahtevkih VAT-R, ki so ocenjeni kot tvegani ali na katerih se prožijo druga poslovna pravila, vedno vsebinsko odločajo uslužbenci FURS.
V okviru razvoja je bila izvedena analiza in izbor modelov za področje VAT-R z orodjem SAP Data Intelligence. Narejena je bila analiza podatkov, izbrani so bili relevantni atributi za modeliranje, pripravljena je bila učna in testna množica podatkov ter validacijska množica. Z uporabo funkcionalnosti AutoML je bilo kreiranih cca. 1000 modelov. V nadaljevanju se v več fazah izloča manj ustrezne modele in na koncu izbere enega, ki se ga potem uporabi v produkciji.
Edina pot do vzpostavljanja javnega zaupanja v poštenost, zanesljivost in zakonitost avtomatiziranih sistemov, ki so v uporabi v javnem sektorju, je njihova popolna transparentnost.
Javnost ima pravico do razumljivih in celovitih informacij o delovanju teh sistemov ter o načinih, kako organi sprejemajo odločitve, ki vplivajo na življenja posameznikov.
Slovenska javnost doslej ni imela dostopa do sistematično zbranih informacij o načinih in razlogih za uporabo umetnointeligenčnih sistemov v javnem sektorju ter o njihovem vplivu na družbo in posameznike. Register rabe UI premošča to vrzel.