KOMENTAR NA PREDLOG BUDUĆEG PRAVNOG REGULISANJA AI U EU

Komentar na predlog budućeg pravnog regulisanja AI u EU

 

Da je veštačka inteligencija (AI) važna tema i oblast koju treba pravno regulisati što pre prepoznala je još 2021. Evropska unija. Ona je tada, prva na svetu, krenula sa oblikovanjem pravnog okvira kojim će regulisati upotrebu AI.

Ovim pravnim okvirom EU želi da podstakne istraživanje u ovoj oblasti, ali i širu industrijsku primenu AI.

Poštujući osnovna prava i pružajući zaštitu istih, EU želi da obezbedi sigurno i bezbedno korišćenje veštačke inteligencije. Ovaj zakonski predlog kao cilj ima to da svima onima koji koriste ovu tehnologiju postavi jasna pravila i obaveze koje se odnose na specifične upotrebe AI.

Istovremeno, predlogom se smanjuju administrativni i finansijski nameti za biznise koji proizvode ili koriste ovakve tehnologije.

U želji da našim klijentima predstavimo novu evropsku regulativu u nastajanju i da ih unapred pripremimo za nadolazeće promene, odlučili smo da se u ovom i narednim blogovima bavimo ovom temom. Zato ćemo u nastavku ovog teksta analizirati Predlog regulative o AI i baviti se pravnim regulisanjem oblasti veštačke inteligencije.

 

Zašto su nam potrebna pravila o regulisanju AI?

 

Predložena zakonska pravila treba da obezbede poverenje Evropljana u AI. Iako je većina AI softvera bezopasna za upotrebu, ima onih koji mogu biti zloupotrebljeni i doneti znatne probleme društvu.

Iako postojeći propisi donose neki stepen zaštite, to nije dovoljno, jer AI donosi specifične izazove sa kojima se treba suočiti. Tako će između ostalog među predloženim pravilima naći:

• Specifična pitanja i rizici koju mogu nastati upotrebom AI aplikacija,
  
• Lista visokorizičnih aplikacija,
  
• Jasni zahtevi koje treba da ispune visoko-rizične AI aplikacije,
  
• Precizno definisane obaveze za korisnike i kreatore AI aplikacija visokog rizika,
  
• Procena aplikacije pre nego što se pojavi na tržištu.

Pored toga, u određenim stručnim krugovima se navodi da je Predlog regulative o AI sa procenom uticaja vrlo sličan Opštoj uredbi o zaštiti podataka o ličnosti– GDPR. Ali i dokumentu pod nazivom Procena uticaja na obradu podataka (DPIA).

Poznato je da se GDPR primenjuje i na zemlje koje se nalaze van EU, a isti princip se koristi i u Regulativi o AI. Na osnovu toga može se pretpostaviti da će Republika Srbija, po uzoru na GDPR, prilagoditi svoj pravni sistem evropskim normama.

 

AI paket Evropske unije za regulisanje ove oblasti

 

Imajući u vidu stalni napredak veštačke inteligencije i pojavu novih alata, EU se odlučila da prva zakonski reguliše ovu oblast. U ovaj poduhvat je krenula donošenjem AI paketa, koji na sistemski način želi da postavi okvire za uređenje ove pojave.

Pomenuti Predlog regulative o AI (pun naziv: Predlog Regulative Evropskog parlamenta i Saveta radi usklađivanja pravila o veštačkoj inteligenciji sa izmenom određenih propisa) je deo šireg AI paketa, koji je EU u aprilu 2021. predstavila javnosti.

Sveobuhvatni AI paket se sastoji od:

1. Komunikacionog plana za podsticanje evropskog pristupa AI,
2. Koordinacionog plana za AI,
3. Predloga regulative o AI sa procenom uticaja.

Zajedno, zakonski okvir i koordinacioni plan treba da garantuju bezbednost i osnovna prava ljudima, ali i biznisima kada je upotreba AI u pitanju. Oni se donose sa ciljem podsticanja ulaganja i inovacija u oblasti veštačke inteligencije širom EU.

Sa druge strane, osnovna prava poput slobode izražavanja ne smeju biti ograničena ovim tehnološkim napretkom i zato je važna njegova zakonska regulacija.

 

Upoznajmo Predlog regulative o AI

Oblasti regulisane ovim dokumentom EU

 

Predlog regulative o AI je podeljen u 12 glava odnosno velikih oblasti:

1. Predmet regulisanja i značenje upotrebljenih izraza,
   
2. Vrste neprihvatljive/zabranjene AI prakse,
   
3. Visokorizični AI sistemi,
   
4. Princip transparetnosti za pojedine AI sisteme,
   
5. Mere podrške inovativnosti,
   
6. Teritorijalna primena – Evropska unija i nacionalna zakonodavstva,
   
7. Sistem nadzora,
   
8. Sistem nadzora i izveštavanja,
   
9. Sistem izrade podzakonskih akata,
   
10. Zaštita poverljivosti,
    
11. Delegiranje nadležnosti i primene,
    
12. Sistem evalucije Regulative i izmene i dopune.
    

Ovaj Predlog je, kao što smo pomenuli, prvi zakonodavni akt Evropske unije o AI. Kao takav imaće veliki uticaj na industriju AI, ali i zakonodavstvo celog sveta. To je i razlog što ćemo mi u ovom tekstu obraditi najvažnije pojmove značajne za razumevanje budućeg pravnog okvira EU o AI.

 

Predmet regulisanja EU dokumenta o AI

 

Predmet regulisanja je podeljen u pet velikih kategorija:

1. Zajednička pravila za upotrebu, plasiranje i korišćenje AI na teritoriji Evropske unije,
2. Zabrana određenih vrsta AI,
3. Posebni uslovi i obaveze za visoko-rizične AI,
4. Primena načela transparentnosti,
5. Pravila o monitoringu za svrhe marketinga i pravila o sistemu nadgledanja.
   

Pored ovog što smo već pomenuli, treba posebno obratiti pažnju na odredbu člana 2 Predloga. Ona je vrlo slična odredbi 3 GDPR-a, jer obe uvode eksteritorijalnu primenu Regulative. Predlogom Regulative o AI propisuje se da će se ona primenjivati na sledeće slučajeve:

• Kada fizičko ili pravno lice plasira AI na tržište EU (bez obzira na to da li je državljanin Unije ili ne i da li firma ima sedište na njenoj teritoriji ili ne),
  
• Kada se AI tehnologija nalazi na teritoriji Evropske unije,
  
• Kada se korisnik i pružalac AI nalaze u trećim zemljama, ali se rezultat upotrebe veštačke inteligencije koristi u EU.
  

Na osnovu ovoga možemo zaključiti da Predlog regulative, slično kao i GDPR, uvodi široku primenu pravila propisanih u njoj. Sve ovo zbog očigledne svesti o tome koliki je značaj AI tehnologije na globalnom nivou. I ne samo to, Predlog jasno uočava globalni uticaj AI koji se prostire upotrebom modernih sredstava elektronske komunikacije.

Šta ovo znači za fizička i pravna lica koja koriste AI svakodnevno? Za sve one koji koriste AI za plasiranje proizvoda ili usluga, nastalih upotrebom ove tehnologije, na tržište EU donošenje ove Regulative značiće i da se oni moraju da se prilagode njoj. Dakle, sva interna pravila kompanije moraju biti usaglašena sa novim zakonodavnim okvirom EU.

 

Značenje najvažnijih termina u Predlogu regulative o AI

 

Imajući u vidu da je veštačka inteligencija relativno nova pojava, ne samo u industriji, već i u pravnoj regulativi- potrebno je da pojasnimo značenje najvažnijih izraza iz Predloga. Iz pojašnjena ćete lakše shvatiti kako zakonodavstvo EU tretira učesnike procesa korišćenja AI u poslovne svrhe.

Predlog AI Regulative na sledeći način određuje pojedine izraze:

1. Veštačka inteligencija (AI) – softver koji je razvijen za ljudsku upotrebu korišćenjem jedne ili više tehnika ili pristupa. Ovakav softver kao rezultat ima određeni sadržaj, predikcije, preporuke ili odluke koje utiču na okruženje sa kojim se ulazi u interakciju,
   
2. Pružalac AI – fizičko ili pravno lice, državni organ ili pravno lice u sastavu ili pod kontrolom države. On ili oni razvijaju AI sistem ili se u njihovo ime on razvije sa ciljem pružanja usluga ili prodaja roba na teritoriji Evropske unije. Roba ili usluga moraju biti pod oznakom porekla, označenom žigom (logoom) ili imenom, bez obzira da li se takva AI naplaćuje ili ne,
   
3. Korisnik – fizičko ili pravno lice, državni organ ili pravno lice u sastavu ili pod kontrolom države koji koristi AI, osim u slučaju kada se AI koristimo samo za ličnu upotrebu,
   
4. Uvoznik – fizičko ili pravno lice koje plasira na tržite Evropske unije usluge ili robu koja je u vezi sa AI sistemom. Takav sistem sadrži oznaku imena ili žiga (logoa) fizičkog ili pravnog lica sa sedištem van teritorije Evropske unije,
   
5. Distributer – svako fizičko ili pravno lice u lancu prodaje, koje nije pružalac AI ili uvoznik, koje omogućava pristup AI na tržištu Evropske unije,
   
6. Plasiranje na tržištu – znači prvo omogućavanje upotrebe AI na tržištu Evropske unije,
   
7. Omogućavanje usluga – znači omogućavanje prve upotrebe AI korisnicima na tržištu EU ili prve upotrebe AI za sopstvene potrebe, sa ciljem koji AI ima,
   
8. Podaci za obučavanje – podaci koji služe za osposobljavanje AI da bude podoban za podučavajuće parametre,
   
9. Podaci za testiranje – podaci koji služe da prilagođavanje nezavisnog sistema evaluacije AI u cilju postizanja određenih rezultata pre plasiranja na tržite,
   
10. Podaci za validiranje – podaci koji služe za evaluaciju AI sistema sa ciljem pretvaranja neobučavajućih parametara u procese za učenje, između ostalog,
    
11. Ulazni podaci – podaci stvoreni od ili za AI sisteme na način na koji takav sistem stvara podatke,
    
12. Biometrički podaci – podaci o ličnosti nastali putem specifičnog načina obrade podataka koji se odnose na psihičke, fizičke i bihevioralne karakteristike fizičkih lica koji omogućavaju jedinstveno identifikovanje fizičkog lica kao što je fotografija lica ili daktiloskopski podaci,
    
13.  Sistem prepoznavanja emocionalnih reakcija – AI sistem koji ima za cilje prepoznavanje emocionalnih reakcija ili pretpostavke emocija ili izbora fizičkih lica stvorenih na osnovu biometričkih podataka,
    
14. Sistem biometričkog kategorizovanja – AI sistem sa ciljem kategorizovanja fizičkog lica u određenu kategoriju kao što je rod, godine, boja očiju, boja kose, tetovaže, etinicitet, seksualna ili politička orijentacija, a na osnovu biometričkih podataka,
    
15.  Sistem biometričkog kategorizovanja na daljinu – AI sistem koji je stvoren sa ciljem prepoznavnaja fizičkih lica na daljinu putem poređenja biometričkih podatka tog lica sa biometričkim podacima baze podatka AI sistema bez prethodnog poznavanja korisnika AI sistema.

Na osnovu gore navedenog jasno je da AI Regulativa donosi dosta novina. Pored pomenutih 15 pojašnjenja značenja izraza, ona ima još dodatnih 29. Razumevanje upotrebljenih izraza je značajno jer nam govori kako će Evropska unija tumačiti određene učesnike u AI, upotrebu podataka i sistema.

Ovih 15 najvažnijih izraza, koje smo objasnili, možemo kategorizovati na sledeći način:

1. Učesnici u AI procesu (pružalac AI, korisnik, uvoznik i distributer),
   
2. Radnje u vezi sa AI (plasiranje na tržištu i omogućavanje usluga),
   
3. Podaci u vezi sa AI (podaci za obučavanje, testiranje, validiranje i ulazni podaci i biometrički podaci),
   
4. Sistemi u vezi sa AI (sistem prepoznavanje emocionalnih reakcija, sistem biometričkog kategorizovanja i sistem biometričkog kategorizovanja na daljinu).
   

 

Pravno regulisanje AI u EU ostaje u našem fokusu i u narednom tekstu

 

U ovom blogu smo se trudili da sa vama podelimo tumačenje osnova Predloga AI regulative. Pojasnili smo kontekst donošenja ovakvog zakonskog okvira, kao i oblasti u okviru Predloga, njegov predmet regulisanja i najvažnije pojmove koje obrađuje. U narednom blogu vas čekaju dodatna pojašnjenja. Tu će biti vrste neprihvatljive i zabranjene AI prakse i visokorizični AI sistemi.

Za kraj, ukoliko su vam potrebne dodatne konsultacije o ovom i drugim pitanjima iz oblasti digitalnog prava, MNA tim Vam stoji na raspolaganju. Kontaktirajte nas i zakažite sastanak sa nama.