Pored toga, član 50(5) AI Akta obavezuje da se informacije navedene u st. 1 do 4 dostavljaju odnosnim fizičkim licima na jasan i prepoznatljiv način najkasnije u vreme prve interakcije ili izlaganja i da su u skladu sa primenljivim zahtevima dostupnosti.

Različite obaveze transparentnosti utvrđene u članu 50 AI Akta mogu se kumulativno primenjivati na jedan AI sistem (ili njegov output), uz moguće uključivanje odgovornost različitih aktera (provajdera ili implementatora).

Odgovorni akteri prema članu 50 AI Akta

1. Provajderi su fizička ili pravna lica, organi javne vlasti, agencije ili druga tela koja razvijaju AI sisteme, ili su ih razvili, i plasiraju ih na tržište Unije ili ih stavljaju u upotrebu pod svojim imenom ili žigom, bilo uz naknadu ili besplatno (član 3(3) AI Akta). Provajderi su dužni da se pridržavaju relevantnih obaveza transparentnosti iz člana 50(1) (interaktivni AI sistemi) i (2) (generativni AI sistemi) koje se na njih primenjuju, bez obzira na to da li su osnovani ili locirani[1]u Uniji ili u trećoj zemlji (članovi 2(1)(a), 3(3), (9) i (11) AI Akta). AI Akt se takođe primenjuje na provajdere koji su osnovani ili locirani izvan Unije ako se output njihovog AI sistema koristi u Uniji (član 2(1)(c) AI Akta) ili, kako je objašnjeno u recitalu 22, „u meri u kojoj je output koji proizvedu ti sistemi namenjen za upotrebu u Uniji“. Očigledno, zbog potrebe za daljim preciziranjem, Smernice detaljnije navode da „slučajna, nepredviđena ili neovlašćena upotreba u kasnijim fazama ne bi trebalo sama po sebi da pokrene primenu obaveza na provajdere interaktivnih ili generativnih AI sistema iz trećih zemalja“. Ovim se ne dovode u pitanje ovlašćenja nadležnih organa za nadzor tržišta da ocenjuju uskladjenost njihovih outputs sa AI Aktom.

2. Implementatori su fizička ili pravna lica, organi javne vlasti, agencije ili druga tela koja koriste AI sisteme pod svojom upravljanjem (‘authority’), osim kada se AI sistem koristi u toku lične neprofesionalne aktivnosti (član 3(4) AI Akta). Obaveze transparentnosti iz člana 50(3) i (4) AI Akta primenjuju se na implementatore ako imaju svoje mesto osnivanja ili su locirani unutar Unije, ili ako su osnovani ili locirani u trećoj zemlji, kada se output AI sistema koristi u Uniji (član 2(1)(b) i (c) AI Akta). U vezi sa entitetima koji su osnovani ili locirani van Unije, Smernice dalje pojašnjavaju da se „obaveze transparentnosti primenjuju kada sam implementator predvidi deljenje i korišćenje AI outputs u Uniji“ (tj. usmeravanjem ili ovlašćivanjem distribucije unutar Unije, uključujući postavljanje deep fakes na globalno dostupnom internetu). Međutim, implementatori iz trećih zemalja nisu vezani obavezama transparentnosti kada sadržaj AI sistema dospe do publike u Uniji putem kanala koji su nepredvidivi i van njihove kontrole.

U Smernicama se objašnjava da koncept „authority“ nad AI sistemom, koji se koristi za definisanje „implementatora“, treba shvatiti kao preuzimanje odgovornosti za odluku o implementaciji sistema i za način stvarne upotrebe sistema (uključujući njegove outputs). To ne zahteva nužno tehničku kontrolu nad funkcionisanjem AI sistema, sve dok implementator donosi odluku u koje svrhe i kako će koristiti AI sistem (uključujući i decentralizovane tokove rada i grupne korporativne strukture).

Implementatori uključeni u složene lance vrednosti proizvodnje i distribucije sadržaja trebalo bi da preduzmu srazmerne mere kako bi obezbedili da je označavanje sadržaja, koji su implementirali u skladu sa članom 50(4) AI Akta, prikazano na jasan i prepoznatljiv način za ciljanu i predvidljivu publiku u trenutku prvog izlaganja u skladu sa članom 50(5) AI Akta (npr. putem ugovornih uslova sa distributivnim partnerima, podešavanja user experience (UX) i interfejsa koji će biti prikazani).

Ukoliko je implementator AI sistema pravno lice pod čijim upravljanjem se sistem koristi (npr. reklamna kompanija), pojedinačne zaposlene koji deluju po uputstvima i pod kontrolom tog pravnog lica (npr. digitalni animatori, veb dizajneri, kreatori sadržaja, novinari) ne treba smatrati odvojenim implementatorima za taj sistem. Pravno lice ostaje implementator čak i ako uključuje treća lica (npr. ugovorne strane, frilensere) u funkcionisanje sistema u svoje ime i pod svojom odgovornošću i kontrolom.

3. Nasuprot tome, drugi akteri (kao što su pružaoci usluga hostinga, uključujući onlajn platforme ili emiteri) čija je uloga ograničena na deljenje ili prenošenje AI-generisanog ili manipulisanog sadržaja, a koji su kreirale treće strane, ili koji primaju ili su izloženi AI-generisanom ili manipulisanom sadržaju, a ne upravljaju korišćenjem AI sistema u svrhu AI-generisanja ili manipulacije sadržaja, nisu implementatori u smislu AI Akta. Bez odgovornosti i obaveza prema AI Aktu, ti akteri ipak mogu igrati važnu ulogu u lancu vrednosti kako bi očuvali poverenje i integritet informacionog ekosistema. Stoga se snažno podstiču da očuvaju obeležavavanje i označavanje sprovedeno u skladu sa članom 50 AI Akta i da primene srazmerne i tehnički izvodljive mere kako bi omogućili fizičkim licima da otkriju AI generisan ili manipulisan sadržaj. Ovaj status prema AI Aktu ne utiče na odgovornost provajdera i implementatora generativnih AI sistema ili bilo kakve obaveze ili odgovornost prema Uredbi (EU) 2022/2065 (Akt o digitalnim uslugama ili „DSA“) ili drugom važećem pravu Unije ili nacionalnom pravu.

AI Agenti

Član 50(1) AI Akta je usmeren na provajdere AI sistema, namenjenih za direktnu komunikaciju sa fizičkim licima, a koji moraju da budu dizajnirani i razvijeni na takav način da odnosna fizička lica budu obaveštena da komuniciraju sa AI sistemom. Kao što je objašnjeno u recitalu 132 AI Akta, svrha ove obaveze informisanja je da omogući tim fizičkim licima da donose informisane odluke u vezi sa output-ima sistema, da izbegnu prekomerno oslanjanje na takve sisteme i da omoguće tim fizičkim licima da odmere svoje poverenje u sadržaj i interakcije u skladu sa tim. Pored sveobuhvatnog objašnjenja glavnih komponenti, koncepata i povezanih obaveza transparentnosti iz člana 50(1), kao i primera koji predstavljaju (ili ne) izuzetke očiglednosti, Smernice se bave konceptom AI agenata u okviru ovog člana.

AI Akt ne pominje AI agente. Prema Smernicama, AI agenti su obuhvaćeni članom 50(1) AI Akta ako su sposobni za interakciju sa licima koja im daju uputstva ili sa drugim fizičkim licima u izvršavanju zadataka (npr. vršenje rezervacija, upravljanje prepiskom, pregovaranje ili zaključivanje ugovora, obavljanje kupovina itd.). AI agenti moraju biti dizajnirani i razvijeni na takav način da otkriju i svoju veštačku prirodu i lice u čije ime deluju, uzimajući u obzir potrebu za transparentnošću porekla i delegiranjem ovlašćenja i odgovornosti za posledice svojih postupaka. Ovo uključuje slučajeve kada su AI agenti sposobni za interakciju u složenim višeagentskim arhitekturama sa drugim AI agentima koji direktno interaguju sa fizičkim licima u izvršavanju zadatka.

Ipak, provajderu AI agenta možda neće uvek biti moguće da unapred identifikuje pojedinačne slučajeve direktne interakcije AI agenta sa drugim fizičkim licima, nakon što se AI agent primeni u različitim kontekstima. Ukoliko provajder ne može pouzdano da utvrdi da li će AI agent direktno komunicirati sa fizičkim licem pre nego što ga plasira na tržište ili stavi u upotrebu, agent treba da bude tako dizajniran na nivou arhitekture i obučen da otkrije sebe kao takvog u svakoj situaciji u kojoj je razumno verovatno da će agent komunicirati sa fizičkim licem (uključujući i slučajeve kada fizičko lice može predstavljati ili delovati u ime pravnog lica).

Dalje, AI agenti bi trebalo takođe da otkriju sebe licima koja im daju instrukcije u ključnim koracima (npr. u trenutku ovlašćenja, izveštavanja, validacije itd., uključujući i kada raspoređeni AI agent prima, obrađuje ili se oslanja na outputs koje generišu drugi AI sistemi, a ne direktno fizičko lice) i pri svakoj novoj interakciji.

Istovremeno, član 50(2) AI Akta, koji propisuje obavezu obeležavanja i detekcije outputs AI sistema, primenjuje se i na AI sisteme koji mogu služiti višestrukim svrhama, uključujući agentske AI sisteme, sve dok generišu sintetički audio, slikovni, video ili tekstualni sadržaj. Međutim, član 50(2) se ne primenjuje ako su outputs AI sistema namenjeni isključivo za machine-to-machine komunikaciju i automatsku obradu bez ikakvog izlaganja ljudima, što uključuje agent-to-agent komunikaciju.

Obeležavanje i detekcija

Član 50(2) AI Akta zahteva od provajdera AI sistema koji generišu sintetički sadržaj da implementiraju tehnička rešenja, koja ispunjavaju određene kavlitativne zahteve za mašinski-čitljivo obeležavanje i detekciju output-a njihovih AI sistema. Cilj je omogućiti fizičkim licima da razlikuju AI-generisan ili manipulisan sadržaj od drugog sadržaja (na primer, sadržaja koji su kreirali ljudi) i da provere njegovo poreklo, čime se doprinosi povećanom integritetu i poverenju u informacioni ekosistem.

U okviru iscrpnog objašnjenja glavnih komponenti i koncepata člana 50(2) AI Akta, Smernice pojašnjavaju da se obaveze transparentnosti široko primenjuju i na AI-generisan i na AI-manipulisan sadržaj, uključujući sadržaj koji kombinuje elemente koje su kreirali ljudi i AI-generisane elemente.  

Generisanje sadržaja se odnosi  na generisanje sintetičkog materijala od strane AI sistema (npr. na osnovu ljudskog upita), kao što je generisanje sintetičke slike ili pesme. Istovremeno, član 50(2) AI Akta se primenjuje i na AI sisteme koji mogu služiti višestrukim svrhama, uključujući sisteme sa GPAI, i mogu proizvesti različite vrste sadržaja, kao i agentske AI sisteme, sve dok generišu sintetički audio, slikovni, video ili tekstualni sadržaj.

Nasuprot tome, manipulacija sadržaja se odnosi na već postojeći sadržaj (bilo sintetički ili ne) koji je izmenjen AI sistemom veštačke (npr. postojeća slika ili glasovni snimak koji je manipulisan AI sistemom u skladu sa ljudskim uputstvima).

Da bi sadržaj potpadao u okvir člana 50(2) AI Akta, dovoljno je da je AI-generisan ili manipulisan izvan standardnog uređivanja (prema izuzecima navedenim u ovom članu).

Član 50(2) AI Akta određuje modalitete sintetičkog sadržaja koji podležu obavezi transparentnosti: audio, slika, video ili tekst. Ovo takođe uključuje multimodalni sadržaj, odnosno sadržaj sastavljen od kombinacije ovih modaliteta. Smernice dalje navode primere sintetičkog sadržaja koji spadaju i koji ne spadaju u okvir člana 50(2) AI Akta.

Takođe, član 50(2) AI Akta predviđa tri eksplicitna izuzeća od obaveza transparentnosti:

• u meri u kojoj AI sistemi obavljaju pomoćnu funkciju za standardno uređivanje. Standardno uređivanje treba shvatiti kao proces pripreme postojećeg sadržaja za objavljivanje ili distribuciju (npr. male izmene radi poboljšanja čitljivosti i gramatike, kvaliteta i formata) i ne uključuje generisanje novog sadržaja;
• AI sistemi koji značajno ne menjaju ulazne podatke koje je obezbedio implementator ili njihovu semantiku;
• generativni AI sistemi, namenjeni u skladu sa zakonom za otkrivanje, sprečavanje, istragu ili gonjenje krivičnih dela,

dok Smernice navode primere standardnog uređivanja i manjih izmena koji mogu koristiti prednosti ovih izuzetaka.

Označavanje deep fakes

Član 50(4) AI Akta propisuje dve odvojene obaveze za implementatore generativnih AI sistema, zahtevajući otkrivanje (i) deep fakes i (ii) AI-generisanog ili manipulisanog teksta, objavljenog u svrhu informisanja javnosti o pitanjima od javnog interesa, osim u definisanim slučajevima. Ove obaveze označavanja primenjuju se pored i ne dovodeći u pitanje obaveze mašinski-čitljivog obeležavanja i detekcije prema članu 50(2) AI Akta koje se primenjuju na provajdere generativnih AI sistema.

U okviru sveobuhvatnog objašnjenja glavnih komponenti, koncepata i povezanih obaveza transparentnosti prema članu 50(4) AI Akta, Smernice detaljno razjašnjavaju pojam „deep fakes“. Član 3(60) AI Akta definiše „deep fakes“ kao „ AI generisan ili manipulisan slikovni, audio ili video sadržaj koji liči na postojeće osobe, predmete, mesta, entitete ili događaje i koji bi osobi lažno izgledao autentično ili istinito“. Radi razjašnjenja pojma deep fakes, ispitana su četiri kumulativna kriterijuma iz te definicije.

Sličnost: Član 3(60) AI Akta navodi da AI- generisan ili manipulisan slikovni, audio ili video sadržaj mora da „liči“ na postojeće subjekte da bi predstavljao deep fake. Recital 134 AI Akta dodaje da takva sličnost treba da bude „značajna“. AI generisan ili manipulisan slikovni, audio ili video sadržaj značajno podseća na subjekt ako postoji visok nivo sličnosti između sadržaja deep fake-a i subjekta (uključujući sve njegove prepoznatljive elemente) koji se simulira deep fake-om. Sadržaj ne mora biti identičan subjektu. Da li je nivo sličnosti značajan je procena koju treba da izvrši implementator od slučaja do slučaja, na osnovu objektivnog poređenja između simuliranog subjekta i deep fake-a, između ostalog, na osnovu stepena u kojem deep fake predstavlja karakteristične ili prepoznatljive osobine.

Postojeće: Član 3(60) AI Akta navodi da AI- generisan ili manipulisan slikovni, audio ili video sadržaj mora da liči na „postojeće“ subjekte da bi predstavljao deep fake. Da bi se efikasno ispunila svrha Člana 50(4) AI Akta, karakteristika postojanja podrazumeva da AI- generisan ili manipulisan slikovni, audio ili video sadržaj treba da podseća na realne subjekte (npr. osobe, predmete, mesta). Stoga je dovoljno da simulirane osobe, predmeti, mesta, entiteti ili događaji podsećaju na nekoga ili nešto što postoji, može verovatno postojati ili je moglo verovatno postojati u stvarnosti da bi se smatrali deep fake-om, jer takav sadržaj može biti glavni izvor obmane, manipulacije i dezinformacija. Nasuprot tome, simulirane osobe, predmeti, mesta, entiteti ili događaji koji, na primer, prkose zakonima prirode ili fizike ili prikazuju oblike života koji nisu opšteprihvaćeni u biologiji (kao što su npr. ljudi koji lete bez mehaničkih pomagala, zmajevi ili slonovi koji voze automobile) i nemaju potencijal da dovedu u zabludu, smatraju se nerealnim i stoga su van okvira obaveze transparentnosti.

Lica, objekti, mesta, entiteti ili događaji: Član 3(60) AI Akta navodi da AI- generisan ili manipulisan slikovni, audio ili video sadržaj treba da podsećaju na postojeće „osobe, objekte, mesta, entitete ili događaje“ da bi predstavljao deep fake. „Lica“ treba shvatiti kao realistična, ljudska bića (uključujući digitalne replike stvarnih osoba, realistične ljudske avatare ili lica, i lične karakteristike ili izrazi, kao što su imidž, glas, ponašanje, performanse itd.). „Predmete“ treba shvatiti kao realistične, nežive materijalne predmete, uključujući zgrade, umetnička dela, mašine, robu široke potrošnje itd. „Mesta“ treba shvatiti kao lokacije. „Entiteti“ se shvataju kao realistična, neljudska, ali živa bića, uključujući životinje ili druge biološke oblike života. „Događaje“ treba shvatiti kao realistične scene ili situacije koje mogu uključivati osobe, objekte, mesta i entitete (npr. evociranje istorijskih događaja ili prikazivanje profesionalnih ili potrošačkih usluga).

Lažan izgled kao autentičan ili istinit: Četvrto, član 3(60) AI Akta precizira da AI- generisan ili manipulisan slikovni, audio ili video sadržaj koji liči na postojeće osobe, predmete, mesta, entitete ili događaje „bi osobi lažno izgledao kao autentičan ili istinit“. Ovaj kriterijum se odnosi na suštinsku karakteristiku deep fake-a i njegovu sposobnost da potencijalno obmane ili zavara osobu u pogledu autentičnosti ili istinitosti sadržaja. Autentičnost sadržaja odnosi se na to da li je sadržaj zaista ono što se predstavlja u smislu njegovog izvora ili procesa kreiranja (uključujući npr. učešće stvarnih ljudskih bića ili životinja i njihovo stvarno ponašanje ili radnje, stvarni izgled ili upotrebu predmeta ili pružanje usluga, tačan razvoj ili tok događaja). Istinitost se odnosi na tačnost sadržaja (npr. činjeničnu tačnost prikaza u deep fake-u).

Da li sadržaj „osobi lažno izgleda autentično ili istinito“ treba proceniti u celini (holistički), uzimajući u obzir nivo sličnosti, potencijalnu suštinsku poruku sadržaja, nameravane i predvidljive kontekste primene, okruženje u kojem se sadržaj predstavlja, kao i nameravani i razumno predvidljivi sastav publike i njihova očekivanja. Međutim, ova procena je objektivna i ne zahteva nameru implementatora da obmane ili dovede u zabludu fizička lica izložena sadržaju da bi se on smatrao deep fake-om. Ako se sadržaj koristi u specifičnim kontekstima primene gde nameravana i razumno predvidljiva publika ne očekuje da će sadržaj biti autentičan ili istinit, AI- generisan ili manipulisan sadržaj ne mora lažno izgledati autentično ili istinito čak i ako je, zapravo, neautentičan ili neistinit.

Na primer, u standardnoj filmskoj produkciji, AI-generisanje ili manipulacija pozadinskim scenama, specijalni efekti ili tehnička prethodna i post-obrada verovatno neće učiniti da sadržaj publici lažno izgleda autentično ili istinito.

S druge strane, u reklamama ili na pakovanju, AI-generisana slika proizvoda može uticati na percepciju publike i zavaravati je u pogledu izgleda, karakteristika ili upotrebe stvarnog proizvoda (npr. učiniti da proizvod ne izgleda identično pravom proizvodu, privlačnije ili sa poboljšanim kvalitetom nego u stvarnom životu).

Da bi se lakše razumele razlike u praksi, Smernice navode primere deep fakes i primere koji ne predstavljaju deep fakes prema članu 3(60) AI Akta.

Transparentnost umetničkog, kreativnog, satiričnog, fiktivnog ili analognog deep fake sadržaja

Član 50(4), prvi podstav AI Akta sadrži ublaženu obavezu transparentnosti za deep fake sadržaje koji čine deo očigledno umetničkih, kreativnih, satiričnih, fiktivnih ili analognih dela ili programa. Za takav sadržaj, obaveza transparentnosti je ograničena na otkrivanje deep fake sadržaja na odgovarajući način koji ne ometa prikazivanje ili uživanje u delu.

Činjenica da deep fake sadržaj spada u jednu (ili više) gore navedenih kategorija sadržaja trebalo bi da bude očigledna fizičkim licima koja su mu izložena. To podrazumeva da kategorije treba tumačiti striktno, opravdano činjenicom da se primenjuje blaži režim otkrivanja zbog potencijalnog uticaja na slobodu izražavanja i slobodu umetnosti i nauke, dok se rizici dezinformacija, manipulacije i obmane i dalje moraju adekvatno rešavati (format ili stil, kontekst u kome se sadržaj predstavlja, očekivanja publike). Pored zahteva koji se odnose na format ili stil, kontekst u kome se sadržaj predstavlja i očekivanja publike, sadržaj je isključen iz okvira te kategorije ako je njegova priroda isključivo informativna ili komercijalna i prepoznatljiv je kao takav (npr. izveštavanje). U tom smislu, neke vrste sadržaja (npr. reklame ili dokumentarni filmovi) koji sadrže deep fakes mogu se smatrati očigledno kreativnim ili fiktivnim delima u određenim, specifičnim situacijama, ali ne i u drugim, jer je procena specifična za svaki slučaj. Kada deep fake kombinuje više karaktera (npr. informativni i kreativni), informativni karakter uvek treba da prevlada i zahteva usklađenost sa standardnim zahtevima za označavanje.

Sprovođenje člana 50 AI Akta

Organi za nadzor tržišta koje su odredile države članice, Kancelarija za veštačku inteligenciju[2] i Evropski supervizor za zaštitu podataka[3] odgovorni su za nadzor i sprovođenje pravila za AI sisteme koji spadaju u njihovu nadležnost, uključujući obaveze transparentnosti utvrđene u članu 50 AI Akta. Sprovođenje se odvija u okviru sistema nadzora tržišta i usaglašenosti proizvoda utvrđenog Uredbom (EU) 2019/1020 i AI Aktom. Ovi organi mogu preduzeti mere sprovođenja u vezi sa obavezama navedenim u članu 50. AI na sopstvenu inicijativu ili po pritužbi, koju svako pogođeno lice ili bilo koje drugo fizičko ili pravno lice, koje ima osnove da smatra da je došlo do takvih povreda, ima pravo da podnese (član 85 AI Akta).  

Kazne

Provajderi i implementatori koji ne ispunjavaju važeće obaveze transparentnosti utvrđene članom 50 AI Akta mogu biti kažnjeni novčanom kaznom do 15.000.000 evra ili, ako je prekršilac preduzeće, do 3% njegovog ukupnog godišnjeg prometa širom sveta za prethodnu finansijsku godinu, šta god je veće. Institucije, tela i agencije EU koje prekrše obaveze transparentnosti podležu administrativnim novčanim kaznama do 750.000 evra. U slučaju malih i srednjih preduzeća (SME), uključujući startap preduzeća, svaka kazna će biti do gore navedenih procenata ili iznosa, šta god je niže. Kazne će biti efikasne, srazmerne i odvraćajuće i uzimaće u obzir interese SME i malih preduzeća srednje kapitalizacije (small mid-cap enterprises (SMCs)), uključujući startap preduzeća, i njihovu ekonomsku održivost.

[1] „osnovani u skladu sa zakonom države članice koje imaju registrovano sedište, centralnu upravu ili glavno mesto poslovanja“ (čl. 49 i 54 Ugovora o funkcionisanju Evropske unije). Države članice su podeljene oko toga da li je sedište kompanije tamo gde je registrovana (registrovano sedište), odnosno koje je odredjeno u njenom osnivačkom aktu ili statutu (statutarno sedište) ili tamo gde se nalazi njena centralna uprava, odnosno glavno mesto poslovanja (stvarno sedište).
[2] Kao organ za nadzor tržišta za AI sisteme izgrađene na modelima GPAI koje pruža isti provajder (član 75(1) AI Akta). Ovo pokriva obavezu koja se primenjuje na provajdere prema članu 50(1) i (2) AI Akta. U pogledu člana 50(3) i (4) ai Akta, Kancelarija za veštačku inteligenciju biće nadležna samo ako je odgovarajući provajder GPAI modela i sistema takođe i implementator sistema.
[3] Kao organ za nadzor tržišta za institucije, agencije i tela EU.