Nakon što je 29. juna odobrena i od Saveta, konačno je usvojena Uredba kojom se menjaju Uredbe (EU) 2024/1689, (EU) 2018/1139 i (EU) 2023/1230 u pogledu pojednostavljenja primene harmonizovanih pravila o veštačkoj inteligenciji (Digital omnibus o AI). Uredba će uskoro biti objavljena u Službenom glasilu EU, a stupiće na snagu trećeg dana nakon objavljivanja.

Odložena primena pravila o AI sistemima visokog rizika

Kako je najavljeno, nova uredba je odložila primenu određenih odredbi AI Akta, kojim je kao opšti datum primene bio određen 2. avgust 2026. godine. Ovo se uglavnom odnosi na obaveze vezane za AI sisteme visokog rizika, a iz razloga što su odložena dostupnost standarda, zajedničkih specifikacija i alternativnih smernica, kao i odloženo uspostavljanje nadležnih nacionalnih organa doveli do izazova koji ugrožavaju efikasan početak primene tih obaveza i do rizika značajnog povećanja troškova implementacije. Nakon stupanja na snagu nove Uredbe, relevantna je sledeća agenda pocetka primene odredbi AI Akta.

• Poglavlja I i II AI Akta se primenjuju od 2. februara 2025. godine, sa izuzetkom člana 5(1), prvog podstava, jer se dodate odredbe kojima se uvode nove zabranjene AI prakse primenjuju od 2. decembra 2026. godine.
• Primena pravila o AI sistemima visokog rizika, koja je trebalo da otpočne 2. avgusta 2026. godine, je odložena, tako da se Poglavlje III, odeljci 1, 2 i 3 AI Akta, sa izuzetkom člana 6(5), primenjuju od 
  • 2. decembra 2027. godine u pogledu AI sistema koji su klasifikovani kao visokorizični u skladu sa članom 6(2) i Aneksom III; i
  • 2. avgusta 2028. godine u pogledu AI sistema koji su klasifikovani kao visokorizični u skladu sa članom 6(1) i Aneksom I.

Istovremeno, to znači da se obaveze propisane AI Aktom neće primenjivati na operatere AI sistema visokog rizika koji su plasirani na tržište ili pušteni u upotrebu pre ovih novih datuma primene Poglavlja III, osim u slučaju da nakon ovih datuma dizajn tih sistema bude  značajno promenjen (novi član 111 AI akta).

• Sve ostale odredbe AI Akta će se primenjivati od 2. avgusta 2026. godine.
• Pri tome, sledeće odredbe AI Akta su već počele da se primenjuju 2. avgusta 2025. godine: Poglavlje III Odeljak 4, Poglavlje V, Poglavlje VII i Poglavlje XII i član 78 primenjuju se od 2. avgusta 2025. godine, sa izuzetkom člana 101.
• To znači da 2. avgusta 2026. godine počinje primena sledećih odredbi AI Akta: Poglavlje III Odeljak 5, Poglavlja IV, VI, VIII, IX, X, XI i XIII.
• Za provajdere generativnih AI sistema, uključujući AI sisteme opšte namene (koji sintetički generišu audio, slikovni, video ili tekstualni sadržaj), a koji su plasirani na tržište pre 2. avgusta 2026. godine, uvodi se prelazni period od četiri meseca, tako da su dužni da usklade svoje prakse sa obavezom obeležavanja iz člana 50(2) AI Akta do 2. decembra 2026. godine.

Proširenje zabrana određenih AI praksi

Član 5 AI Akta zabranjuje određene AI prakse koje su posebno štetne i zloupotrebljavajuće, u suprotnosti sa određenim vrednostima Unije i osnovnim ljudskim pravima. Stoga je član 5 predmet procene potrebe za izmenama (član 112(1)) koje prate društveni i tehnološki razvoj. Nakon usvajanja AI Akta, široko rasprostranjena upotreba AI sistema koji generišu intimne slike, video zapise, audio i sličan materijal bez pristanka („intimni materijal bez pristanka“) stvorila je ozbiljan rizik po zdravlje, bezbednost i osnovna prava, uključujući ljudsko dostojanstvo žrtava, ličnu autonomiju, integritet i privatni život, sa potencijalno ozbiljnim trajnim psihološkim i drugim štetama. Takodje, materijal seksualne zloupotrebe dece (CSAM), uključujući potpuno ili delimično sintetički materijal, predstavlja ozbiljnu pretnju bezbednosti i osnovnim pravima dece, kao i rizik normalizacije, pojačavanja i produžavanja seksualnog nasilja nad decom. Shodno tome, nova Direktiva uvodi eksplicitnu regulatornu zabranu sledećih AI praksi:

„plasiranje na tržište, stavljanje u upotrebu ili korišćenje AI sistema

– koji generiše ili manipuliše realističnim slikama, video zapisima, audio zapisima ili sličnim materijalom intimnih delova ili eksplicitnih seksualnih aktivnosti fizičkog lica koje može biti identifikovano, bez slobodno datog, specifikovanog, informisanog, nedvosmislenog i eksplicitnog pristanka tog lica za to generisanje ili manipulaciju;

– koji generiše ili manipuliše materijalom ili performansom u smislu člana 2, tačke (c) i (e) Direktive 2011/93/EU o borbi protiv seksualnog zlostavljanja i seksualne eksploatacije dece i dečje pornografije, osim kada se primenjuje „bez prava“ odbrane prema nacionalnom pravu.“

Plasiranje na tržište ili puštanje u upotrebu AI sistema koji generišu ili manipulišu ovim materijalom je zabranjeno samo kada: (i) to generisanje ili manipulacija predstavljaju planiranu svrhu AI sistema; ili (ii) dizajn, obuka, arhitektura, mogućnosti ili ka korisniku usmerene funkcionalnosti sistema čine to generisanje ili manipulaciju razumno predvidljivim i reproducibilnim ishodom, bez potrebe za značajnim tehničkim modifikacijama, a sistem nema razumne i adekvatne tehničke mere bezbednosti i druge zaštitne mere za pouzdano sprečavanje tog generisanja ili manipulacije, uzimajući u obzir razumno predvidljivu zloupotrebu, i za ispravljanje uočene ili prijavljene zloupotrebe. Korišćenje AI sistema koji generišu ili manipulišu ovim materijalom je zabranjeno samo kada implementator koristi sistem u svrhu generisanja ili manipulacije takvim materijalom.

Medjutim, AI sistem koji manipuliše materijalom na način koji ne povećava izloženost bilo kojih prikazanih intimnih delova ili ne menja prirodu bilo kojih prikazanih seksualno eksplicitnih aktivnosti neće predstavljati manipulaciju.

Pojednostavljeno uskladjivanje sa pravilima o AI sistemima viskog rizika

i smanjenje regulatornih preklapanja

AI sistemi koji su klasifikovani kao visokorizični u skladu sa članom 6 stav 1 AI Akta

Prema prvom klasifikacionom pravilu AI Akta (član 6 (1)), odredjeni AI sistem se smatra visokorizičnim kada su ispunjena oba sledeća uslova: (a) AI sistem je namenjen za upotrebu kao bezbednosna komponenta proizvoda ili je AI sistem sam po sebi proizvod, obuhvaćen harmonizacionim zakonodavstvom Unije navedenom u Anexu I (npr. medicinski uređaji, medicinski uređaji za in vitro dijagnostiku, liftovi, igračke, radio oprema…); (b) proizvod čija je bezbednosna komponenta AI sistem ili sam AI sistem kao proizvod, mora da prođe procenu usaglašenosti od treće strane, u cilju plasiranja na tržište ili puštanja u upotrebu tog proizvoda u skladu sa harmonizacionim zakonodavstvom Unije navedenom u Anexu I.

1. Nova uredba je precizirala značenje ključnog pojma „bezbednosne komponente“ u ovom pravilu, a koja je članom 3 (14) AI Akta definisana kao „komponenta proizvoda ili AI sistem koji ispunjava bezbednosnu funkciju za taj proizvod ili AI sistem, ili čiji kvar ili neispravnost ugrožava zdravlje i bezbednost ljudi ili imovine“, tako što je izmenom ovog člana u nastavku dodato pojašnjenje da „za potrebe ove definicije, komponenta ispunjava bezbednosnu funkciju kada je njena namena sprečavanje ili ublažavanje rizika po zdravlje i bezbednost lica ili imovine“.

Konzistentno, izmenjeni član 6 AI Akta pojašnjava da za potrebe ove uredbe, uključujući član 6 (1), AI sistemi koji se koriste isključivo za aspekte pomoći korisnicima, optimizacije performansi, efikasnosti usluga, automatizacije ili pogodnosti ili kontrole kvaliteta koji nisu povezani sa bezbednošću, neće biti kvalifikovani kao bezbednosne komponente.

Ipak, izmenjeni član 6 zadržava i deo definicije, na osnovu koga se AI sistemi čiji bi kvar ili neispravnost ugrozili zdravlje i bezbednost kvalifikuju kao bezbednosne komponente.

Pri tome, neće se smatrati da ispunjava ovaj uslov: proizvod koji mora da prođe procenu usaglašenosti od treće strane isključivo zbog rizika koji nisu rizici po zdravlje i bezbednost, posebno rizika koji se odnose na distribuciju radio spektra ili elektromagnetnih smetnji koje ne utiču na zdravlje i bezbednost.

2. Za ove kategorije visokorizičnih AI sistema (prema članu 6 (1) AI Akta), nova Uredba propisuje mogućnost ograničene primene specifičnih zahteva i obaveza njihovih provajdera (propisanih članovima 9 do 15 i 17 do 25 AI Akta) kada i u meri u kojoj:

(a) odgovarajuće harmonizaciono zakonodavstvo Unije propisuje zahteve ili obaveze koje pružaju ekvivalentan ili viši nivo zaštite zdravlja, bezbednosti ili osnovnih prava kao i odnosni zahtev ili obaveza; i

(b) takvo ograničenje ne smanjuje ukupni nivo zaštite predviđen AI Aktom.

Cilj ove izmene je da olakša usklađenost, minimizuje administrativno opterećenje i dupliranja, dok je Komisija ovlašćena da usvaja delegirane akte kako bi identifikovala takve slučajeve i precizirala odnosne proizvode, zahteve ili obaveze koje mogu biti ograničeni, kao i uslove i obim bilo kog ograničenja.

3. Izmenjeni član 43 stav 3 AI Akta propisuje da za kategorije AI sistema koji su klasifikovani kao visokorizični u skladu sa članom 6, stav 1 i obuhvaćeni harmonizacionim zakonodavstvom Unije navedenim u Odeljku A Aneksa I AI Akta, provajder sistema mora da sledi relevantnu proceduru procene usaglašenosti u skladu sa relevantnim harmonizacionim zakonodavstvom Unije. Pored toga, na te visokorizične AI sisteme se primenjuju zahtevi utvrđeni u AI Aktu (Odeljak 2 Poglavlja III) i biće deo te procene. Takođe će se vršiti procena sistema upravljanja kvalitetom utvrđena u članu 17 AI Akta.

Za potrebe ove procene usaglašenosti, notifikovana tela,  koja su notifikovana u skladu sa harmonizacionim zakonodavstvom Unije navedenim u Odeljku A Aneksa I, imaju ovlašćenje da procene i usaglašenost AI sistema visokog rizika sa zahtevima utvrđenim u AI Aktu (Odeljak 2 Poglavlja III).

Međutim, kada harmonizaciono zakonodavstvo Unije navedeno u Odeljku A Aneksa I pruža proizvođaču proizvoda mogućnost da se osloni na procenu usaglašenosti koja ne uključuje treću stranu, pod uslovom da je taj proizvođač primenio harmonizovane standarde kako bi osigurao usklađenost sa svim relevantnim zahtevima, taj proizvođač može koristiti tu opciju samo ako je takođe primenio harmonizovane standarde ili, gde je primenljivo, zajedničke specifikacije, koji pokrivaju sve zahteve navedene u Odeljku 2 Poglavlja III AI Akta.

Takođe, kada je AI sistem visokog rizika obuhvaćen harmonizacionim zakonodavstvom Unije navedenim u Odeljku A Aneksa I i, istovremeno, spada u jednu od kategorija navedenih u Aneksu III (član 6(2)), provajder tog sistema mora da sledi relevantnu proceduru procene usaglašenosti kako je propisano u skladu sa relevantnim harmonizacionim zakonodavstvom Unije navedenim u Odeljku A Aneksa I.

4. S obzirom na specifičnu prirodu mašina i mašinskog sektora, i kako bi se pojednostavio regulatorni okvir i izbeglo preklapanje primene različitog zakonodavstva za mašine sa ugradjenom AI, Uredba o mašinama (EU) 2023/1230 je premeštena iz Odeljka A u Odeljak B Aneksa AI Akta. Komisija je ovlašćena da usvoji podzakonske akte za sprovodjenje Uredbe o mašinama (EU) 2023/1230, kojima će se dodati zahtevi koji se odnose na zdravlje i bezbednost u pogledu AI sistema klasifikovanih u visokorizične u skladu sa članom 6(1) AI Akta.

AI sistemi klasifikovani kao visokorizični u skladu sa članom 6 stav 2 i

Procenu usaglašenosti kategorija AI sistema, koji su klasifikovani kao visokorizični u skladu sa članom 6 stav 2 i navedeni u Aneksu III AI Akta (osam specifičnih oblasti), sprovodi generalno provajder na sopstvenu odgovornost, sa jedinim izuzetkom AI sistema namenjenih za biometrijsku upotrebu. To znači da za visokorizične AI sisteme navedene u tačkama 2 do 8 Aneksa III, provajderi moraju da slede postupak procene usaglašenosti zasnovan na internoj kontroli koji je predvidjen u Anexu VI, a koji ne predviđa uključivanje notifikovanog tela (član 43 (2) AI Akta).

Harmonizovani standardi

Za visokorizične AI sisteme koji su uskladjeni sa harmonizovanim standardima ili njihovim delovima se pretpostavlja da su skladu sa zahtevima utvrđenim u Odeljku 2 Poglavlja III AI Akta, u meri u kojoj standardi pokrivaju ove zahteve ili obaveze (član 40 (1) AI Akta). U skladu sa članom 40(2) AI Akta, Komisija je već ovlašćena da bez nepotrebnog odlaganja izda zahteve za standardizaciju koji pokrivaju sve zahteve utvrđene u odeljku 2 Poglavlja III. Da bi se podržao i pojednostavio postupak usklađivanja sa propisima, nova Uredba je ponovila i dopunila ovu odredbu ovlašćenjem Komisije da bez nepotrebnog odlaganja zahteva od Evropskih organizacija za standardizaciju da razviju akte standardizacije (standardization deliverables), uključujući, kada je primereno, harmonizovane standarde, kako bi se olakšala zajednička usaglašenost i pretpostavka usaglašenosti sa zahtevima ili obavezama utvrđenim u Poglavlju III, odeljcima 2 i 3 AI Akta i relevantnim zahtevima i obavezama utvrđenim u harmonizacionom zakonodavstvu Unije navedenom u Anexu I ove Uredbe.

Izmene odredbi koje se odnose na obaveze transparentnosti za provajdere i implementatore određenih AI sistema kojima se generiše sadržaj ili manipuliše sadržajem

Kako bi se osiguralo poštovanje obaveza transparentnosti od strane provajdera i implementatora određenih AI sistema koji generišu sadržaje, nova Uredba redefiniše odgovornost i ovlašćenja Komisije. Prema izmenjenoj odredbi člana 50 (7) AI Akta, Komisija će podsticati i olakšavati izradu kodeksa prakse na nivou Unije kako bi se olakšalo efikasno sprovođenje obaveza u vezi sa otkrivanjem, obeležavanjem i označavanjem veštački generisanog ili manipulisanog sadržaja. Komisija će, vodeći računa u najvećoj meri o mišljenju Odbora, proceniti da li je poštovanje tih kodeksa prakse adekvatno da bi se obezbedilo poštovanje obaveza transparentnosti, u skladu sa postupkom redovnog praćenja i evaluacije. Ako smatra da je kodeks prakse neadekvatan, Komisija može usvojiti implementacioni akt kojim se određuju zajednička pravila za sprovođenje tih obaveza u skladu sa postupkom ispitivanja.

           Proširenje mera podrške i pojednostavljenja zahteva uskladjenosti na mala preduzeća srednje kapitalizacije       

(‘small mid-cap enterprises’ (SMCs))

AI Akt predviđa više mera podrške i pojednostavljenje zahteva uskladjenosti za mikro, mala i srednja preduzeća (SMEs), uključujući startapove. Nova uredba proširuje primenu ovih olaksica i na kategoriju preduzeća koja su prerasla SMEs, ali su manja od velikih kompanija (imaju manje od 750 zaposlenih i godišnji promet koji ne prelazi 150 miliona evra), tzv. preduzeća srednje kapitalizacije (‘small mid-cap enterprises’ (SMCs)) (član 3), a koja se takođe suočavaju sa sličnim izazovima kao SMEs u pogledu administrativnog opterećenja. Zbog potrebe za proporcionalnošću u sprovođenju AI Akta i ciljanom podrškom, na primer, SMEs i SMCs mogu sastaviti tehničku dokumentaciju na pojednostavljen način (član 11); obaveza sistema upravljanja kvalitetom mora biti srazmerna veličini organizacije provajdera, posebno ako je provajder SME, uključujući i startap, ili SMC (član 17).

AI pismenost

Prethodna obaveza svih provajdera i implementatora AI sistema da obezbede AI pismenost svog osoblja je ublažena i zamenjena zahtevom da dobavljači i implementatori „preduzimaju mere za podršku razvoju AI pismenosti svog osoblja i drugih lica koja koriste AI sisteme u njihovo ime, uzimajući u obzir njihovo tehničko znanje, iskustvo, obrazovanje, obuku i kontekst u kojem će se AI sistemi koristiti, kao i uzimajući u obzir lica ili grupe lica na koje će se AI sistemi primeniti“(član 4.). Istovremeno, Komisija i države članice su odgovorne za podršku i olakšavanje napora provajderima i implementatorima AI sistema, posebno malim i srednjim preduzećima, u ispunjavanju ovih obaveza.

Proširenje pravnog osnova za obradu posebnih kategorija ličnih podataka

Da bi se omogućilo provajderima visokorizičnih AI sistema da uspostave prakse u vezi sa otkrivanjem, sprečavanjem i ispravljanjem predrasuda koje mogu uticati na zdravlje i bezbednost lica, imati negativan uticaj na osnovna prava ili dovesti do diskriminacije (član 10(2), tačke (f) i (g) Zakona o veštačkoj inteligenciji), Uredba predviđa pravni osnov kojim se ovi provajderi ovlašćuju da obrađuju posebne kategorije ličnih podataka u određenim izuzetnim slučajevima,  i propisuje stroge uslove i mere zaštite, pored onih koji su utvrđeni Uredbama (EU) 2016/679 i (EU) 2018/1725 i Direktivom (EU) 2016/680.

Međutim, pristrasnosti sa takvim efektima mogle bi takođe biti rezultat postupanja implementatora visokorizičnih AI sistema. One bi mogle nastati i u slučaju drugih AI sistema ili modela (na primer, pristrasnosti u proceni podobnosti ili risk-scoring alatima koji se koriste za odlućivanje o zahtevima za različite vrste javnih dozvola ili licenci, a koje mogu ograničiti prava ili efektivno sprečiti određene grupe da pristupe javnim uslugama). Shodno tome, nova Uredba proširuje ovaj pravni osnov za obradu posebnih kategorija ličnih podataka u svrhu otkrivanja i ispravljanja pristrasnosti, izuzetno i tamo gde je to striktno neophodno, i na implementatore visokorizičnih AI sistema, kao i provajdere i implementatore drugih AI sistema i modela. Ovaj pravni osnov podleže istim ograničenjima, uslovima i zaštitnim merama.

Mere podrške inovacijama

Članovi 57, 58 i 60 AI Akta su izmenjeni sa ciljem jačanja dalje saradnje na nivou Unije u vezi sa AI regulatornim sandboxes, podsticanja jasnoće i doslednosti u upravljanju AI regulatornim sandboxes i proširenja obima testiranja u stvarnom svetu van AI regulatornih sandboxes na AI sisteme visokog rizika obuhvaćene harmonizacionim zakonodavstvom Unije navedenim u Aneksu I AI Akta. Posebno, kako bi se omogućilo pojednostavljenje procedura, gde je to primenljivo, u projektima koji se nadgledaju u okviru AI regulatornih sandbox-a, a koji takođe uključuju testiranje u stvarnim uslovima, plan za testiranje u stvarnim uslovima trebalo bi da bude integrisan u plan sandbox-a, koji su dogovorili provajderi ili potencijalni provajderi i nadležni organ. Pored toga, predviđena je mogućnost da Kancelarija za veštačku inteligenciju (AI Office) uspostavi AI regulatorni sandbox na nivou Unije za AI sisteme, čije praćenje i nadzor su u njenoj nadležnosti.

Posttržišni monitoring

Prema članu 72 (3) AI Akta, sistem posttržišnog monitoringa zasniva se na odgovarajućem planu. Plan posttržišnog monitoringa biće deo tehničke dokumentacije navedene u Aneksu IV. Nova uredba propisuje ovlašćenje Komisije da usvoji smernice, uključujući obrazac, o planu posttržišnog monitoringa do 2. septembra 2027. godine.

Sprovođenje

Nadzor tržišta, kontrola AI sistema i uzajamna asistencija

Radi jačanja sistema upravljanja AI sistemima, nova uredba razjašnjava ulogu AI Office u praćenju i nadzoru usklađenosti AI sistema. Dok Komisija ima isključivu nadležnost u pogledu modela veštačke inteligencije opšte namene, prema izmenama člana 75. AI Akta, AI Office će biti isključivo nadležna za nadzor i sprovođenje obaveza u vezi sa:

(a) AI sistemima zasnovanim na AI modelima opšte namene, kada model i sistem razvija isti provajder ili provajderi koji su deo istog preduzeća kao i taj provajder; Izuzeci su u okviru specifičnog sektorskog nadzora, gde odgovornost ostaje na relevantnom nadležnom nacionalnom organu, kao što su AI sistemi vezani za proizvode obuhvaćene harmonizacionim zakonodavstvom Unije navedenim u Aneksu I, kritična infrastruktura, administriranje pravosuđa i demokratski procesi, AI sistemi koje implementiraju organi za sprovođenje zakona, organi za upravljanje granicama i finansijske institucije; (b) AI sistemima koji čine ili su integrisani u veoma veliku onlajn platformu ili veoma veliki onlajn pretraživač određen u skladu sa EU Aktom o digitalnim uslugama.

Isključiva nadležnost AI Office primenjuje se na provajdere tih sistema, a na  implementatore tih sistema samo kada su oni takođe provajderi ili čine deo istog preduzeća kao i provajder. Da bi izvršila zadatke koji su joj dodeljeni, nova Uredba daje AI Office niz ovlašćenja, kao što su zahtevanje informacija, sprovođenje svih neophodnih daljinskih ili inspekcija na licu mesta.

Smernice Komisije o sprovođenju AI Akta i ovlašćenje za usvajanje delegiranih akata

Izmenjeni članovi 96 i 97 ažuriraju i detaljno regulišu ovlašćenje Komisije da razvija smernice o praktičnoj primeni AI Akta, kao i da usvaja delegirane akte.