CRP V2-24065

NOSI-AI

Nacionalni okvir za standardizacijo in implementacijo UI

Standardizacija, skladnost in uvajanje umetne inteligence v slovenskem prostoru

Projekt NOSI-AI razvija strokovne podlage za standardizacijo in implementacijo umetne inteligence v Sloveniji ter podpira vzpostavljanje pogojev za njeno varno, zaupanja vredno in operativno uporabo. V ospredju so evropski regulativni okvir, standardi za preverjanje skladnosti, dobre prakse uvajanja sistemov UI, razvoj Observatorija standardov UI ter sistematičen prenos znanja med raziskovalnimi organizacijami, javnim sektorjem, regulatorji, standardizacijskimi telesi, podjetji in drugimi deležniki.

Poglej rezultate O Observatoriju

Standardi in skladnost

Pregled evropskih, mednarodnih in nacionalnih standardov ter zahtev, pomembnih za preverjanje skladnosti sistemov umetne inteligence.

Observatorij standardov UI

Osrednje informacijsko okolje za spremljanje standardov, povezanih dokumentov, sprememb in drugih razvojnih novosti na področju umetne inteligence.

Dobre prakse

Analiza primerov uvajanja sistemov umetne inteligence v javnih, reguliranih in drugih zahtevnejših okoljih ter priprava prenosljivih strokovnih usmeritev.

Sodelovanje in krepitev kompetenc

Delavnice, posveti in strokovni dialog povezujejo tehnični, pravni, regulativni in uporabniški pogled ter prispevajo h krepitvi kompetenc za uporabo standardov in zahtev UI v praksi.

O projektu

Projektni okvir

NOSI-AI je ciljni raziskovalni projekt Instituta »Jožef Stefan«, usmerjen v pripravo strokovnih in tehničnih podlag za standardizacijo ter implementacijo umetne inteligence v Sloveniji. Projekt izhaja iz potrebe po bolj preglednem, razumljivem in operativno uporabnem okolju za uvajanje sistemov UI, zlasti tam, kjer so zahteve glede skladnosti, zanesljivosti, varnosti in odgovornosti posebej izrazite.

V vsebinskem središču projekta so analiza evropskega regulativnega okvira, pregled relevantnih standardov, priprava tehničnih predlogov za nadaljnje nacionalno standardizacijsko delo, razvoj zbirke dobrih praks ter vzpostavitev Observatorija standardov UI kot osrednje informacijske podpore projektu. Pomemben del projekta je tudi povezovanje različnih strokovnih skupin in krepitev kompetenc deležnikov za uporabo standardov, smernic in drugih podpornih gradiv v praksi.

Spletna stran je namenjena javni predstavitvi projektnega okvira, rezultatov, dokumentov in aktivnosti. Postopno bo služila tudi kot enotna vstopna točka za dostop do ključnih projektnih vsebin, vključno s poročili, Observatorijem standardov UI in drugimi javno dostopnimi gradivi.

Rezultati in deliverabli

Ključni projektni dokumenti

Rezultat 1.1

30. 3. 2025

Pregled in ocena regulativnega okvira za UI z visoko stopnjo tveganja

Poročilo celovito obravnava regulativne zahteve za visokotvegane sisteme umetne inteligence ter jih prevaja v operativne zahteve glede dokumentiranja, upravljanja tveganj, človeškega nadzora in preverjanja skladnosti.

Daljši povzetek

Dokument predstavlja temeljno pravno-operativno izhodišče projekta NOSI-AI za razumevanje sistemov umetne inteligence z visoko stopnjo tveganja po Aktu o UI. Zasnovan je kot strokovni delovni okvir za ponudnike, uvajalce, proizvajalce, pooblaščene zastopnike, uvoznike, distributerje in regulatorne deležnike.

Dokument podrobno obravnava področje uporabe in izključitve, terminologijo, klasifikacijo visokotveganih sistemov, zahteve iz členov 8–15, obveznosti akterjev v dobavni verigi, presojo skladnosti, registracijo, CE-označevanje, nadzor trga in časovnico uporabe uredbe. Posebna dodana vrednost poročila je, da zahteve povezuje s konkretnimi organizacijskimi procesi, kot so upravljanje tveganj, kakovost podatkov, tehnična dokumentacija, evidence, človeški nadzor ter točnost, robustnost in kibernetska varnost.

Poročilo vključuje tudi priporočila za implementacijo v Sloveniji, predloge kontrolnih seznamov ter povezavo z drugimi pomembnimi okviri, zlasti z GDPR, NIS2 in standardi, ki pravne zahteve prevajajo v preverljive tehnične in organizacijske ukrepe.

PDF / dokument

Rezultat 1.3

30. 6. 2025

Seznam standardov za preverjanje skladnosti rešitev UI

Dokument sistematično združuje ključne mednarodne, evropske in nacionalne standarde, relevantne za preverjanje skladnosti rešitev umetne inteligence, ter jih umešča v njihov praktični in regulativni kontekst.

Daljši povzetek

Dokument predstavlja strukturiran pregled standardizacijskega okolja, pomembnega za skladno, varno in odgovorno uvajanje umetne inteligence. Njegov namen ni le našteti standarde, temveč pojasniti, kako posamezni standardi prispevajo k preverjanju skladnosti, upravljanju tveganj, kakovosti podatkov, terminologiji, arhitekturi sistemov, človeškemu nadzoru, transparentnosti, etiki in kibernetski varnosti.

Poročilo obravnava standarde in dokumente organizacij ISO/IEC, CEN/CENELEC, ETSI, IEEE SA in ITU-T ter dodatne evropske referenčne dokumente, povezane s podatki in podatkovno infrastrukturo. Pri vsakem dokumentu je pojasnjeno, komu je namenjen, kaj rešuje, kako se povezuje z Aktom o UI in kakšna je njegova praktična uporabnost, še posebej pri sistemih z višjo stopnjo tveganja.

Za slovenski prostor je dokument pomemben kot strokovna podlaga za bolj enotno sklicevanje na standarde v razpisih, tehnični dokumentaciji, notranjih pravilnikih, presojah skladnosti in dialogu z nadzornimi organi. Hkrati predstavlja eno ključnih vsebinskih podlag za nadaljnji razvoj Observatorija standardov UI.

PDF / dokument

Rezultat 2.2

27. 2. 2026

Seznam relevantnih EU in mednarodnih standardov in predlog za pripravo nacionalnih standardov

Dokument sistematično razvršča relevantne evropske in mednarodne standarde za umetno inteligenco ter presoja, kateri standardni sklopi so za slovenski prostor nosilni in kje je smiselna nadaljnja nacionalna tehnična konkretizacija.

Daljši povzetek

Poročilo obravnava standarde in druge referenčne dokumente po ključnih vsebinskih sklopih, kot so sistemi vodenja, upravljanje tveganj, terminologija in arhitektura, kakovost podatkov, človeški nadzor, robustnost in kibernetska varnost, transparentnost, zasebnost, pristranskost ter interoperabilnost. Poseben poudarek je na njihovi praktični uporabnosti za slovenski prostor.

Na tej podlagi dokument opredeli nosilne standardne sklope, podporne in razvojno pomembne reference ter prednostna področja, kjer se kaže potreba po nadaljnji nacionalni tehnični konkretizaciji. Kot najbolj smiselni nadaljnji izhodi so izpostavljeni profili, tehnične smernice, kontrolni seznami, obrazci, minimalni artefaktni paketi in drugi podporno-dokumentacijski instrumenti.

PDF / dokument

Rezultat 2.3

30. 12. 2025

Dobre prakse uvajanja UI sistemov

Analiza izbranih evropskih primerov prikazuje, kako se v praksi urejajo vprašanja podatkov, odgovornosti, človeškega nadzora, varnosti, dobavne verige in operativnega upravljanja sistemov umetne inteligence v zahtevnejših organizacijskih okoljih.

Daljši povzetek

Poročilo prinaša poglobljeno analizo štirih izbranih primerov iz evropskega javnega sektorja in iz regulativnih oziroma upravljavskih okolij. Izbrani primeri so bili obravnavani zato, ker so dovolj verodostojni, tehnično opisani in operativno uporabni, da iz njih lahko izpeljemo prenosljive dobre prakse za uvajanje umetne inteligence v javnem in reguliranem okolju.

Dokument zajema različne tipe rešitev: priporočilni sistem LLM + RAG v javni službi zaposlovanja, federativno učenje v AML okolju, državno platformo za generativno UI v javnem sektorju ter javni register AI sistemov na ravni mesta. Na tej podlagi izlušči skupne vzorce dobrih praks, kot so jasno razlikovanje med vsebino interakcij in operativnimi evidencami, dejansko zasnovan človeški nadzor, upravljanje vhodov kot samostojno področje kontrole, pregledna dobavna veriga ter ločena obravnava modelne varnosti.

Pomembna vrednost dokumenta je, da ugotovitev ne pušča na ravni opisa, temveč jih prevaja v priporočila in izhodišča za operativne kontrolne sezname, ki jih je mogoče uporabiti v nadaljnjih fazah projekta in pri pripravi praktičnih usmeritev za slovenski prostor.

PDF / dokument

Informacijska podpora projekta

Observatorij standardov UI

Observatorij standardov UI je osrednje podporno informacijsko okolje projekta. Namenjen je spremljanju, razvrščanju in predstavitvi nacionalnih, evropskih in mednarodnih standardov ter drugih povezanih dokumentov, pomembnih za področje umetne inteligence. Uporabnikom omogoča bolj pregleden dostop do ažurnih informacij o standardizacijskem okolju in s tem podpira razumevanje zahtev, povezovanje virov ter pripravo nadaljnjih strokovnih podlag.

Povezava na Observatorij

Aktivnosti

Sodelovanje, strokovni dialog in usposabljanja

Posveti s ključnimi deležniki

Projekt vključuje strukturiran dialog z deležniki o standardizaciji, regulativi, preverjanju skladnosti in operativnih izzivih uvajanja umetne inteligence v praksi. Namen teh aktivnosti je usklajevanje razumevanja pojmov, identifikacija odprtih vprašanj ter povezovanje tehničnega, pravnega, regulatornega in uporabniškega pogleda.

Strokovne delavnice

Delavnice so namenjene razlagi ključnih konceptov, predstavitvi standardov, razumevanju evropskega regulativnega okvira ter obravnavi primerov iz prakse. Poseben poudarek je na tem, kako abstraktne zahteve prevesti v uporabne organizacijske in tehnične korake.

Usposabljanja in diseminacija

Projektni rezultati se širijo tudi prek predavanj, usposabljanj, strokovnih predstavitev in drugih oblik diseminacije. Namen teh aktivnosti je krepitev kompetenc različnih deležnikov ter spodbujanje bolj enotnega in informiranega pristopa k uporabi umetne inteligence v praksi.