Register rabe UI
Zbiramo podatke o uporabi umetnointeligenčnih sistemov v slovenskem javnem sektorju ter na njihovi podlagi ustvarjamo celovit in vsem dostopen register. Zahtevamo popolno odgovornost in transparentnost pri uporabi UI v javnem sektorju.
Edina pot do vzpostavljanja javnega zaupanja v poštenost, zanesljivost in zakonitost avtomatiziranih sistemov, ki so v uporabi v javnem sektorju, je njihova popolna transparentnost.
Javnost ima pravico do razumljivih in celovitih informacij o delovanju teh sistemov ter o načinih, kako organi sprejemajo odločitve, ki vplivajo na življenja posameznikov.
Slovenska javnost doslej ni imela dostopa do sistematično zbranih informacij o načinih in razlogih za uporabo umetnointeligenčnih sistemov v javnem sektorju ter o njihovem vplivu na družbo in posameznike. Register rabe UI premošča to vrzel.
PNR/APIstrojna presoja varnostnih tveganj letalskih potnikov in usmerjanje mejne kontrole
Institucija: | Policija |
Področja: | Mejni nadzor Preprečevanje, odkrivanje in preiskovanje kaznivih dejanj |
Oznake: | Ocena tveganja |
Razvijalci: |
Policija
|
Cena: |
Neznana
?
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Da
?
|
Sistem avtomatizirano zbira, obdeluje, presoja varnostna tveganja ter posreduje podatke iz evidence potnikov, prijavljenih na let, in iz evidence potnikov iz sistema rezervacij letalskih vozovnic. Po avtomatiziranem preverjanju podatkov PNR (Passenger Name Record) in API (Advanced Passenger Information) v primeru ujemanja v evidencah policije, SIS in Interpola poda rezultat v obliki "zadetek oz. ni zadetka" z navedbo sklopa evidenc, v katerih je prišlo do ujemanja, ter navedbo, ali se ujemanje nanaša na podatke o osebi ali na podatke o potovalnem dokumentu. V primeru ujemanja poda tudi podatke, na podlagi katerih je prišlo do ujemanja med preverjenimi podatki in ocenjevalnimi merili.
Ocenjevalna merila so oblikovana z analitično obdelavo podatkov, pri čemer se oblikujejo indikatorji tveganja, ki predstavljajo posamezne podatke, za katere je bilo pri analitični obdelavi ugotovljeno, da predstavljajo specifične potovalne vzorce storilcev terorističnih in drugih hudih kaznivih dejanj oziroma njihovih žrtev ter zato omogočajo usmerjeno delo policije in drugih pristojnih organov na takšne osebe. Nacionalna enota za informacije o potnikih lahko glede na utemeljene razloge v posamičnem primeru posreduje podatke potnikov, prijavljenih na let, oziroma podatke potnikov iz sistema rezervacij letalskih vozovnic oziroma rezultate njihove obdelave drugim enotam policije.
Uslužbenci nacionalne enote za informacije o potnikih vsa ujemanja pri avtomatizirani obdelavi podatkov ter varnostna tveganja posamično pregledajo še z neavtomatiziranimi sredstvi.
Sistem uporablja sledeče vire podatkov: Evidenca potnikov, prijavljenih na let, Evidenca potnikov iz sistema rezervacij letalskih vozovnic, Evidence policije, Schengenskega informacijskega sistema, Interpola.
Kontroliranje obračunov DDV (sistem eDIS)odkrivanje davčnih utaj in goljufij ter iskanje napak v obračunih DDV
Institucija: | Generalni finančni urad |
Področja: | Davki |
Oznake: | Napovedna analitika Ocena tveganja |
Razvijalci: |
SAP GmbH (implementator Sapphir d.o.o.)
|
Cena: |
16.188.185,88 EUR z DDV
?
|
Trajanje licence: |
Ni časovno omejena
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Ne
?
|
V okviru sistema eDIS finančna uprava uporablja umetnointeligenčne sisteme za odkrivanje shem davčnih utaj in davčnih goljufij ter iskanje napak v obračunih DDV.
Davčni zavezanci oddajajo DDV obračune prek sistema eDavki v elektronski obliki, vsak oddan obračun DDV se prenese v zaledni sistem, ob tem pa se sprožijo različne kontrole. V primeru, da kontrole zaznajo izbrano nepravilnost ali odstopanje, se obračun DDV dodeli uslužbencu v vsebinsko kontrolo. Umetnointeligenčni sistem deluje kot dodatna kontrola. Za vsak DDV-O se izračuna ocena tveganja v razmerju med 0 in 1. Bližje 1 je ocena, večjo tveganost je obračunu določil sistem. Določeni obračuni DDV, pri katerih se preostale kontrole ne sprožijo, so lahko zaradi višine tveganosti, ki jo dodeli umetnointeligenčni sistem, prav tako dodeljeni uslužbencem v pregled.
Izdelava modelov poteka z orodjem SAP Data Intelligence. To orodje v fazi izdelave ustvari veliko število modelov (več kot 1000), nato se v več fazah izloča manj ustrezne modele in na koncu izbere enega, ki se ga potem uporabi v produkciji.
VAT-R (sistem eDIS)odkrivanje nepravilnosti ali odstopanj v VAT-R zahtevkih
Institucija: | Generalni finančni urad |
Področja: | Davki |
Oznake: | Napovedna analitika Ocena tveganja |
Razvijalci: |
SAP GmbH (implementator Sapphir d.o.o.)
|
Cena: |
16.188.185,88 EUR z DDV
?
|
Trajanje licence: |
Ni časovno omejena
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Ne
?
|
V okviru sistema eDIS finančna uprava uporablja umetnointeligenčne sisteme za odkrivanje nepravilnosti ali odstopanj v VAT-R zahtevkih tujih davčnih zavezancev s sedežem v drugih državah članicah EU za vračilo DDV plačanega v Sloveniji. Sistem uporablja prediktivno analitiko, ki z metodami strojnega učenja na podatkih iz zahtevkov in drugih podatkov, do katerih dostopa FURS, ustvarja modele, ki računajo tveganost.
Za vsak prejet zahtevek se v zalednem sistemu prožijo kontrole (poslovna pravila, določena na podlagi izkušenj poslovnih uporabnikov, ki določajo uvrščanje zahtevkov v proces kontrole). V primeru, da kontrole zaznajo izbrano nepravilnost ali odstopanje, se zahtevek dodeli uslužbencu v vsebinsko kontrolo. Umetnointeligenčni sistem deluje kot dodatna kontrola in temelji na prediktivnem modelu. Vsak VAT-R zahtevek vsebuje enega ali več računov. Za vsak račun se izračuna ocena tveganja, ki je 0 ali 1. Če je 1, ga sistem določi kot tveganega, če je 0, ga sistem zazna kot netveganega. Na tej podlagi se šteje, da je tvegan VAT-R zahtevek, ki vsebuje vsaj en tvegan račun. O zahtevkih VAT-R, ki so ocenjeni kot tvegani ali na katerih se prožijo druga poslovna pravila, vedno vsebinsko odločajo uslužbenci FURS.
V okviru razvoja je bila izvedena analiza in izbor modelov za področje VAT-R z orodjem SAP Data Intelligence. Narejena je bila analiza podatkov, izbrani so bili relevantni atributi za modeliranje, pripravljena je bila učna in testna množica podatkov ter validacijska množica. Z uporabo funkcionalnosti AutoML je bilo kreiranih cca. 1000 modelov. V nadaljevanju se v več fazah izloča manj ustrezne modele in na koncu izbere enega, ki se ga potem uporabi v produkciji.
Edina pot do vzpostavljanja javnega zaupanja v poštenost, zanesljivost in zakonitost avtomatiziranih sistemov, ki so v uporabi v javnem sektorju, je njihova popolna transparentnost.
Javnost ima pravico do razumljivih in celovitih informacij o delovanju teh sistemov ter o načinih, kako organi sprejemajo odločitve, ki vplivajo na življenja posameznikov.
Slovenska javnost doslej ni imela dostopa do sistematično zbranih informacij o načinih in razlogih za uporabo umetnointeligenčnih sistemov v javnem sektorju ter o njihovem vplivu na družbo in posameznike. Register rabe UI premošča to vrzel.