Novembar 2023. godine

Veštačka inteligencija - pravni okvir za razvoj i korišćenje u Republici Srbiji

Veštačka inteligencija – (Artificial Intelligence) – (AI)  je nova porodica tehnologija, koja se brzo razvija i može doneti široki raspon ekonomskih i društvenih koristi u čitavom spektru industrija i društvenih aktivnosti. Tako se tehnologije AI sve više koriste za poboljšanje procesa donošenja odluka u brojnim sektorima, kao što su transport, energetika, telekomunikacije, medicina, poljoprivreda ili javne usluge. Predlog EU Uredbe o utvrđivanju uskladjenih pravila o veštačkoj inteligenciji (EU AI Act), koji je Evropska Komisija podnela 2021. godine, sadrži definiciju sistema AI, koja je neutralna u pogledu tehnologije i, samim tim održivija u vremenu imajući u vidu brz tehnološki razvoj: „sistem veštačke inteligencije“ označava softver koji je razvijen pomoću jedne ili više tehnika i pristupa (navedenih u Aneksu I) i koji može, za dati skup ciljeva definisanih od strane čoveka, da generiše rezultate kao što su sadržaj, predviđanja, preporuke ili odluke koje utiču na okruženje sa kojim je u interakciji.“ Spisak tehnika i pristupa sadržanih u Aneksu I obuhvata mašinsko učenje (machine learning), korišćenjem širokog spektra metoda uključujući duboko učenje (deep learning); pristupe zasnovane na logici i znanju, kao i statističke pristupe. Prema sadašnjim trendovima, u funkcionalnim primenama AI najzastupljeniji je računarski vid (engl: computer vision), uključujući prepoznavanje slike, potom obrada prirodnog jezika (engl: natural language processing), obrada govora, robotika i metodi kontrole.

Poboljšanjem predvidjanja, optimizacijom operacija i alokacijom resursa, kao i presonalizacijom pružanja usluga, upotreba AI može da podrži društveno korisne rezultate i obezbedi ključne konkurentske prednosti kompanijama i ekonomiji. Međutim, isti elementi i tehnike koje pokreću socio-ekonomske koristi od veštačke inteligencije takođe mogu doneti nove rizike ili negativne posledice za pojedince ili društvo. Konkretno, zabrinutost izazivaju bezbednosni rizici za korisnike kada su AI tehnologije ugrađene u proizvode ili su sastavni deo usluga, kao i implikacije AI sistema na osnovna prava građana (kao što su pravo na nediskriminaciju, slobodu izražavanja, ljudsko dostojanstvo, zaštitu ličnih podataka i privatnost). Kako AI nastavlja da se razvija, neophodno je razmotriti etičke i društvene implikacije njene upotrebe, obezbediti da primena AI koristi društvu u celini, kao i  predvideti odgovarajuće zaštitne mere za zaštitu privatnosti i sprečavanje diskriminacije.

Pravni okvir. U Republici Srbiji ne postoji globalni pravni okvir koji uredjuje AI, odnosno koji uzima u obzir svu složenost novih inteligentnih tehnologija (AI, Internet of Things…). Kako se radi o brzom razvoju ove nove tehnološke grane, takav okvir još ne postoji ni na novou EU, već su pojedini regulatorni akti još u fazi predloga i šireg razmatranja. Ipak, algoritmi i njihova upotreba su uokvireni, direktno ili indirektno, pravilima i obavezama utvrđenim u različitim zakonima, strategijama, smernicama i kodeksima. Kao takav, opšti regulatorni pristup AI trenutno je pretežno fleksibilan pravni pristup mekog prava.

Strategija za razvoj veštačke inteligencije u Republici Srbiji za period 2020.-2025. godine[1] je programski dokument, koji utvrđuje ciljeve i mere za razvoj AI, a treba da osigura da se AI u Republici Srbiji razvija i primenjuje na bezbedan način i u skladu sa međunarodno prepoznatim etičkim principima kako bi se iskoristio potencijal ove tehnologije za unapređenje kvaliteta života svakog pojedinca i društva u celini, kao i za dostizanje ciljeva održivog razvoja. Opšti cilj Strategije je upotreba veštačke inteligencije u funkciji ekonomskog rasta, zapošljavanja i kvalitetnijeg života.  Posebni ciljevi Strategije su:

  1. razvoj obrazovanja usmeren ka potrebama savremenog društva i privrede uslovljenim napretkom veštačke inteligencije
  2. razvoj nauke i inovacija u oblasti veštačke inteligencije i njenih primena
  3. razvoj ekonomije zasnovane na veštačkoj inteligenciji (gde je to ključna kompetencija i gde se koristi u raznim granama industrije)
  4. unapređenje pretpostavki za razvoj veštačke inteligencije i usluga javnog sektora primenom veštačke inteligencije
  5. etična i bezbedna primena veštačke inteligencije.

Drugi dokumenti politika koji su povezani sa ovom strategijom su:

  • Strategija naučnog i tehnološkog razvoja Republike Srbije za period od 2021. do 2025. godine „Moć znanja“[2],
  • Strategija razvoja informacionog društva i informacione bezbednosti u Republici Srbiji za period od 2021. do 2026. godine[3],
  • Strategija razvoja mreža nove generacije do 2023. godine[4],
  • Strategija razvoja obrazovanja i vaspitanja u Republici Srbiji do 2030. godine[5]i
  • Program razvoja elektronske uprave u Republici Srbiji za period od 2023. do 2025. godine sa Akcionim planom za njegovo sprovođenje[6].

Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije[7] („Sl. glasnik RS“, br. 23/2023) predstavljaju dokument usvojen Zaključkom Vlade RS, kojim se definišu etički i bezbednosni standardi i način provere primene tih standarda pri razvoju i korišćenju sistema veštačke inteligencije. Smernice su koncipirane kao sistem preporuka, koje se odnose na organe državne uprave i imaoce javnih ovlašćenja za postupanje prilikom razvoja, primene i upotrebe sistema koji mogu biti klasifikovani kao sistemi veštačke inteligencije ili nabavke istih, kao i sva fizička i pravna lica, koja razvijaju, primenjuju, koriste ili nabavljaju ove sisteme.

Ovim dokumentom su uredjeni i visokorizični sistemi veštačke inteligencije, po uzoru na rešenja iz Predloga EU AI Akta, a propisana su i načela, koja su prepoznata kao polazna osnova za stvaranje, primenu i upotrebu pouzdanog i odgovornog sistema veštačke inteligencije: objašnjivost i proverljivost, dostojanstvo, zabrana činjenja štete, pravičnost. Smernicama se utvrdjuju i uslovi za Izgradnju i stvaranje pouzdane i odgovorne veštačke inteligencije, a koji se ostvaruju kroz:

  1. delovanje (posredovanje, kontrola, učešće) i nadzor;
  2. tehničku pouzdanost i bezbednost;
  3. privatnost, zaštitu podataka o ličnosti i upravljanje podacima;
  4. transparentnost;
  5. različitost, nediskriminaciju i ravnopravnost;
  6. društveno i ekološko blagostanje;
  7. odgovornost

Uslove čine proverljivi parametri, odnosno tehničke i netehničke metode, kojima se potvrđuje i dokazuje ispunjenost načela. Cilj tehničkih metoda je da usmere razvoj, primenu pa i korišćenje sistema veštačke inteligencije na način da se ovi sistemi ponašaju pouzdano, svodeći na minimum potencijalne nenamerne i nepredvidive štete po čoveka i društvo u celini. Tehničke metode su prikazane u formi preporuka. Netehničke metode odnose se na ispitivanje organizacionih i drugih netehničkih elemenata značajnih za razvoj i korišćenje sistema veštačke inteligencije. Ove metode date su u formi upitnika koji je namenjen ocenjivanju pojedinačnih sistema veštačke inteligencije u smislu ispunjenosti osnovnih načela, odnosno uslova sadržanih u Smernicama. Svrha upitnika jeste utvrđivanje pouzdanosti i odgovornosti sistema veštačke inteligencije sa aspekta etičkih standarda. Upitnik pruža podršku licima, odnosno organizacijama koje razvijaju, stavljaju na tržište, nabavljaju, primenjuju i/ili koriste sisteme veštačke inteligencije da procene usklađenost s navedenim uslovima.

[1] „Sl. glasnik RS“, br. 96/2019;
[2] “Službeni glasnik RS”, broj 10/2021;
[3] “Službeni glasnik RS”, broj 86/2021;
[4] “Službeni glasnik RS”, broj 33/18;
[5] “Službeni glasnik RS”, broj 63/2021;
[6] “Službeni glasnik RS”, broj 33/2023;
[7] „Sl. glasnik RS“, br. 23/2023;

Regulatorni okvir AI, pored tzv. mekog prava (strategija i smernica), čine i zakoni iz relevantnih oblasti.

Sa velikim oslanjanjem AI na podatke, Zakon o zaštiti podataka o ličnosti[1] koji uredjuje pravo na zaštitu fizičkih lica u vezi sa obradom podataka o ličnosti i slobodni protok takvih podataka, kao i Opšta uredba Evropske unije o zaštiti podataka (GDPR)[2] postali su je još značajniji. Posebno osetljivo pitanje u oblasti razvoja i primene AI je sprečavanje zloupotreba ove tehnologije i obezbeđivanje uslova za zaštitu privatnosti podataka pojedinca. Pri tome, poseban Izazov u regulatornom okviru se tiče dostizanja ravnoteže između propisa u oblasti zaštite podataka o ličnosti i kreiranje prostora za razvoj AI i inovacija u ovoj oblasti.

Zakon o informacionoj bezbednosti[3], kojim se uređuju mere zaštite od bezbednosnih rizika u informaciono-komunikacionim sistemima, spada takodje u ovaj regulatorni okvir, obzirom da je AI višestruko povezana sa informacionom bezbednošću. Sa jedne strane, informaciono-komunikacioni sistemi zasnovani na veštačkoj inteligenciji otvaraju specifične bezbednosne izazove, dok se sa druge strane veštačka inteligencija često koristi u merama zaštite informacione bezbednosti.

AI postavlja nove izazove i u oblasti zaštite intelektualne svojine, stoga odgovarajući pravni okvir čini posebno Zakon o autorskom i srodnim pravima[4], kojim se štite prava autora povodim autorskih dela, u koja su ubrojani i računarski programi, odnosno softver, ti znači i AI. I još važnije, postavlja se pitanje autorstva i pravne zaštite dela koje je stvorila, tj. generisala AI, kao i pravne zaštite autorskih dela iz kojih su preuzeti podaci za obučavanje AI. Ova pitanja su u svetu već predmet sudskih postupaka i brojnih stručnih rasprava. U regulatorni okvir svakako spada i Zakon o patentima[5], obzirom da softver može pod odredjenim uslovima da bude patentiran.

Ako sistem veštačke inteligencije nanese štetu, ko je kriv? Programer softvera, krajnji korisnik ili sistem veštačke inteligencije? Utvrđivanje odgovornosti može biti složeno. U nedostatku posebnog propisa i dalje su u primeni odredbe Zakona o obligacionim odnosima[6]. Prema režimu odgovornosti po osnovu krivice, ko drugome prouzrokuje štetu dužan je da je nadoknadi, osim ako dokaže da je šteta nastala. bez njegove krivice. Po režimu odgovornosti za štetu od opasne stvari ili opasne radnje, odgovoran je vlasnik opasne stvari, odnosno lice koje ovu delatnost obavlja. Takodje, režim odgovornosti zbog neispravnih proizvoda važio bi i za AI, ako se pojam proizvod tumači dovoljno široko.

Ne samo da se razvoj AI zasniva na inovacionoj delatnosti, nego ona i glavne efekte ostvaruje kroz brojne inovativne primene. Zbog toga je jedan segmet regulisanja AI sadržan u Zakonu o inovacionoj delatnosti[7]. Ovim zakonom se uređuju ciljevi i organizacija primene naučnih saznanja, tehničkih i tehnoloških znanja i pronalazaštva u funkciji unapređenja proizvoda, procesa i usluga kao pokretača razvoja, a posebno: subjekti nacionalnog inovacionog sistema (u koje su svrstani: centri nosioci inovacione delatnosti, startapovi, spinofovi i drugi inovativni subjekti), finansiranje inovacione delatnosti, kao i ekonomske podsticajne mere.

Nauka i istraživanja su jedan od ključnih pokretača razvoja privrede i društva, a medju programima institucionalnog finansiranja je i program jačanja nacionalnih kapaciteta u oblasti inženjerskih nauka i naprednih tehnologija. Odgovarajući sistem u ovoj oblasti je uredjen Zakonom o nauci i istraživanjima[8]. Takodje, Zakonom o Fondu za nauku Republike Srbije[9] se uređuje osnivanje i rad ovog Fonda, u cilju obezbeđivanja uslova za kontinuirani razvoj naučnoistraživačkih i razvojnih aktivnosti.

Zakon o elektronskim komunikacijama[10] uredjuje bezbednost i integritet elektronskih komunikacionih mreža i usluga (uključujući pristup internetu, komunikaciju između mašina, interoperabilnost, interfejs…), koje su od velikog značaja za različite oblasti primene AI. Sa druge strane Zakon o javnom informisanju i medijima[11], kojim se obezbedjuje i štiti iznošenje, primanje i razmena informacija, ideja i mišljenja putem medija, može biti od značaja u pogledu sadržaja, koje generiše AI.  U ovu grupu zakona spada i Zakon o elektronskoj upravi[12], kojim se uređuje obavljanje poslova javne uprave upotrebom informaciono-komunikacionih tehnologija.

Razvoj veštačke inteligencije je usko povezan sa razvojem obrazovanja, kako sa aspekta obrazovanja stručnjaka koji treba da budu uključeni u razvoj veštačke inteligencije i njene primene, tako i sa aspekta odgovora obrazovnog sistema na promene koje veštačka inteligencija donosi u okruženju života i rada učenika. U tom smislu su od značaja: Zakon o osnovama sistema obrazovanja i vaspitanja[13], Zakon o osnovnom obrazovanju i vaspitanju[14] , Zakon o srednjem obrazovanju i vaspitanju[15], Zakon o dualnom obrazovanju[16] i Zakon o dualnom modelu studija u visokom obrazovanju[17] .

[1] “Službeni glasnik RS”, broj 87/18;
[2] Regulation (EU) 2016/679 of the European Parliament and of the Council on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation); 
[3] “Službeni glasnik RS”, br. 6/16, 94/17, 77/19;
[4] “Sl. glasnik RS”, br. 104/2009, 99/2011, 119/2012, 29/2016 – odluka US i 66/2019;
[5] “Sl. glasnik RS”, br. 99/2011, 113/2017 – dr. zakon, 95/2018, 66/2019 i 123/2021;
[6] “Sl. list SFRJ”, br. 29/78, 39/85, 45/89 – odluka USJ i 57/89, “Sl. list SRJ”, br. 31/93, “Sl. list SCG”, br. 1/2003 – Ustavna povelja i “Sl. glasnik RS”, br. 18/2020;
[7] “Službeni glasnik RS”, br. 129/2021;
[8] “Službeni glasnik RS”, broj 49/19;
[9] “Službeni glasnik RS”, broj 95/18;
[10] “Službeni glasnik RS”, br. 35/2023;
[11] “Sl. glasnik RS”, br. 92/2023;
[12] “Službeni glasnik RS”, broj 27/18;
[13] “Službeni glasnik RS”, broj 88/17, 27/18 – dr. zakon, 10/19, 6/2020 i 129/2021;
[14] “Službeni glasnik RS”, br. 55/13, 101/17, 27/18 – dr. zakon i 10/19;
[15] “Službeni glasnik RS”, br. 55/13, 101/17, 27/18 – dr. zakon);
[16] “Službeni glasnik RS”, broj 101/17;
[17] “Službeni glasnik RS”, broj 66/19;