Visokorizične AI prakse
Visokorizične AI prakse u Predlogu EU regulative o veštačkoj inteligenciji
Na početku našeg trećeg teksta, koji se bavi budućim pravnim okvirom EU za regulisanje AI, želimo da vas podsetimo na važnost uređenja ove oblasti. Naime, EU je prepoznala još pre nekoliko godina da će veštačka inteligencija postati važan deo naše svakodnevice. U skladu sa tim oni su počeli sa kreiranjem pravnog okvira koji će regulisati ovu oblast.
Tako se u aprilu 2021. u javnosti pojavio Predlog Regulative o AI. U prvom tekstu, koji ste mogli da pročitate na našem blogu, dali smo komentar na predlog budućeg pravnog regulisanja AI u EU. Tu smo, između ostalog, objasnili zbog čega se ova pravila donose, oblasti koje reguliše Predlog regulative i koji je predlog njegovog regulisanja. Na kraju, pojasnili smo i neke od najvažnijih termina iz buduće Regulative.
Drugi tekst o ovoj oblasti, odnosio se na zabranjene AI prakse i njihovo definisanje. Pored toga, objasnili smo i koje su posledice korišćenja ovakvih sistema. Psihička bol je jedna od ovih posledica na koju smo posebno stavili akcenat.
Sada je vreme da zaokružimo naš triptih o pravnom regulisanju veštačke inteligencije u EU blogom o visokorizičnim AI praksama. U njemu ćemo objasniti na koji način se kategorišu visokorizične AI prakse i kako treba posmatrati ovu listu.
Uvodne napomene- sličnosti GDPR-a i Predloga regulative o AI
Već smo u prvom tekstu pojasnili kako će neki principi iz GDPR-a biti primenjeni i u ovoj regulativi. Između ostalog, to se odnosi na teritorijalno važenje Uredbe, koja se primenjuje i van EU. To je razlog zbog kog obrađujemo Regulativu o AI, jer će se i ona kada bude doneta primenjivati i u Srbiji.
Predlog AI regulative, slično kao GDPR, prepoznaje nekoliko grupa veštačke inteligencije. Tako i GDPR posebno odvaja različite kategorije ličnih podataka koji se odnose na rasu, etnicitet, političko uverenje, religiozno opredeljenje, zdravlje i sl. Na sličan način Predlog regulative kategorizuje zabranjene i visokorizične AI prakse.
Ipak, za razliku od GDPR-a, Predlog regulative o AI ide dalje i dublje u kategorizaciji veštačke inteligencije. Pa tako, pored zabranjenih AI praksi, prepoznaje i visokorizične, koje ćemo kasnije detaljnije pojasniti.
No, pre toga, treba napomenuti da lista visokorizničnih AI praksi nije konačna. Evropska komsija ovu listu može proširiti, uzimajući u obzir potencijalni uticaj takvih AI sistema na prava i slobode fizičkih lica.
To, dakle, znači da će tela unutar EU redovno vršiti monitoring razvoja tehnologija povezanih sa upotrebom veštačke inteligencije. Ovo praćenje će uticati na povremeno proširivanje liste visokorizičnih AI ali i na prilagođavanje metodologije klasifikovanja ovih sistema.
Još jedna napomena u vezi sa visokorizičnim AI sistemima odnosi se na obaveze svih lica uključenih u proces. Naime, svi oni koji proizvode ili stavljanju na tržište AI tehnologiju ili u svom proizvodu imaju neki njen delić, podležu posebnim obavezama. Ovo se odnosi na pružaoce, uvoznike ili distributere AI.
Osam kategorija visokorizičnih AI
Predlog EU regulative o AI kategorizuje visokorizičnu veštačku inteligenciju u sledećih osam kategorija:
- AI sistem namenjen biometričkom identifikovanju ili kategorizovanju fizičkih lica,
- AI sistem namenjen menadžmentu i upravljanju vitalne infrastrukture,
- AI sistem namenjen edukativnom ili profesionalnom treningu,
- AI sistem namenjen zapošljavanju, upravljanju zaposlenima i samozapošljavanju,
- AI sistem namenjen pristupu i korišćenju prava iz oblasti socijalnog osiguranja ili prava koja obezbeđuje država,
- AI sistem namenjen primeni važećih propisa,
- AI sistem namenjen kontroli migracije, upotrebe prava na azil i kontroli granica,
- AI sistem namenjen adiministraciji pristupa pravdi i demokratskim sistemima.
Detaljnom analizom Aneksa III Predloga regulative, koji određuje gore navedenu listu, dolazi se do dodatnih informacija koje objašnjavaju da li se određeni AI sistem može smatrati visokorizičnim.
Kriterijumi za klasifikovanje određene AI prakse kao visokorizične
Kako bi naši klijenti mogli bolje da razumeju kriterijume, na osnovu kojih će određena AI praksa biti kvalifikovana kao visokorizična, u nastavku slede objašnjenja. Prema pomenutim kategorijama (njih osam) objasnićemo detaljnije i ove kriterijume.
AI sistem namenjen biometričkom identifikovanju ili kategorizovanju fizičkih lica:
- AI sistem namenjen biometričkom identifikovanju ili kategorizovanju fizičkih lica u realnom vremenu ili na daljinu;
AI sistem namenjen menadžmentu i upravljanju vitalne infrastrukture:
- AI sistem namenjen kao mera bezbednosti upravljanja i kontrole javnog saobraćaja, sistema korišćenja vodne, gasne, grejne i električne infrastrukture;
AI sistem namenjen edukativnom ili profesionalnom treningu:
- AI sistem namenjen proceni fizičkog lica u vezi sa edukativnim ili profesionalnim treningom ili AI sistem namenjen upućivanju fizičkog lica na edukativne i profesionalne treninge;
- AI sistem namenjen proceni studentana prilikom prijema na određene obrazovne treninge ili takav sistem namenjen testiranju za prijemne ispite;
AI sistem namenjen zapošljavanju, upravljanju zaposlenima i samozapošljavanju:
- AI sistem namenjen pronalaženju kandidata, kao i sistem namenjen oglašavanju slobodnih radnih mesta, kategorizovanju i proceni kandidata kroz testiranje i intervjue,
- AI sistem namenjen donošenju odluka o napredovanju i raskidanju ugovora u vezi sa radnim angažmanom. Ali i sistem koji je namenjen rasporedu radnih zadataka, proceni radnog učinka i ponašanja radno angažovanih lica.
- AI sistem namenjen pristupu i korišćenju prava iz oblasti socijalnog osiguranja ili prava koja obezbeđuje država:
- AI sistem koji koristi država u cilju evaluacije podnosioca zahteva za korišćenje prava iz socijalnog osiguranja, kao i prava na različite vrste socijalne pomoći,
- AI sistem namenjen proceni kreditne sposobnosti fizičkih lica (osim u slučaju upotrebe takvog sistema od strane malog pružaoca usluga samo za interne potrebe);
- AI sistem namenjen primeni važećih propisa:
- AI sistem korišćen od strana organa javne vlasti ili državnih organa koji ima za cilj procenu rizika mogućnosti izvršenja krivičnog ili kažnjivog dela ili procenu rizika za potencijalne žrtve (oštećene) krivičnih dela,
- AI sistem korišćen od strana organa javne vlasti ili državnih organa i namenjen za upotrebu u poligrafskom testiranju ili sličnom testiranju koje ima za cilj procenu emotivnog stanja fizičkog lica,
- AI sistem korišćen od strana organa javne vlasti ili državnih organa i namenjen pronalaženju takozvanog “deep fake” sadržaja,
- AI sistem korišćen od strana organa javne vlasti ili državnih organa i namenjen za evaluaciju i pouzdanost dokaza korišćenih u postupku gonjenja učinioca krivičnih dela,
- AI sistem korišćen od strana organa javne vlasti ili državnih organa i namenjen proceni mogućnosti izvršenja krivičnih dela na osnovu profilisanja fizičkih lica,
- AI sistem korišćen od strane organa javne vlasti ili državnih organa i namenjen profilisanju fizičkih lica u vezi sa otkrivanjem, istragom i gonjenjem učinioca krivičnih dela,
- AI sistem korišćen kao kriminalni analitički sistem fizičkih lica. Takav sistem omogućava organima javne vlasti ili državnim organima da analiziraju kompleksne baze podataka bez obzira da li su povezane ili nisu povezane. Te baze podataka mogu da potiču od istog ili različitog izvora, a njihov cilje je otkrivanje šablona ili skrivenih veza u takvim bazama podatka;
AI sistem namenjen kontroli migracije, upotrebe prava na azil i kontroli granica:
- AI sistem korišćen od strane organa javne vlasti ili državnih organa i namenjen za upotrebu u poligrafskom testiranju ili sličnom testiranju koje ima za cilj procenu emotivnog stanja fizičkog lica,
- AI sistem korišćen od strane organa javne vlasti ili državnih organa i namenjen proceni rizika. U to je uključen i bezbednosti rizik, kao i rizik od migracije i zdravstveni rizik fizičkog lica koje namerava da uđe ili je ušlo na teritoriju zemlje članice EU,
- AI sistem korišćen od strane organa javne vlasti ili državnih organa i namenjen proveri autentičnosti putnog dokumenta. Na ovaj način se mogu proveravati i drugi dokumenti korišćeni uz putni dokument. Kao i AI sistem namenjen pronalaženju lažnih dokumenata putem provere bezbednostih elemenata u njima,
- AI sistem korišćen od strane organa javne vlasti ili državnih organa i namenjen za procenu podnosioca zahteva za azil, vize i boravišne dozvole;
AI sistem namenjen adiministraciji pristupa pravdi i demokratskim sistemima:
- AI sistem korišćen od strane sudskih organa i namenjen interpretaciji dokaza i propisa sa ciljem primene takvih analiza na konkretan slučaj.
Dve perspektive posmatranja visokorizičnih AI
Gore navedenu listu visokorizičnih AI trebalo bi posmatrati iz dve perspektive. Prvo, koja je namena konrektne AI, odnosno šta je konkretan cilj upotrebe jednog takvnog sistema. Druga perspektiva, iz koje treba da posmatramo ovu listu, je ona koja se odnosi na korisnike i to ko su oni.
Iako su određeni visokorizični AI rezervisani samo za državne organe, treba imati u vidu situaciju i kada ih koristi privatna kompanija. U tom slučaju treba da se uzmu u obzir posebne obaveze koje su propisane za takve AI. Bez obzira na to što takve obaveze možda ne obavezuju određenu kompaniju, preuzimanje istih se može smatrati uspostavljanjem dobre poslovne prakse.
Pored toga, sve kompanije koje proizvode ili distribuiraju AI treba da imaju i vidu gore navedenu listu. Osim nje, treba da obrate pažnju i na potencijalne rizike koji mogu da nastanu u slučaju upotrebe AI na određeni način odnosno sa određenim ciljem.
AI tehnologije su tu da nam olakšaju svakodnevni život
Da sumiramo do sada napisano o visokorizičnim AI. Tehnologije veštačke inteligencije, koje su kategorizovane kao visikorizične, su najčešće one koje imaju za cilj da zamene određene misaone ili emocionalne procese kod ljudi. To nas upućuje na zaključak da je AI kao tehnologija namenjena da olakša život ljudi, a ne da zameni živog čoveka i njegov misaoni proces AI tehnologijom.
Za kraj, ukoliko su vam potrebne dodatne konsultacije o ovom i drugim pitanjima iz oblasti digitalnog prava, MNA tim Vam stoji na raspolaganju. Kontaktirajte nas i zakažite sastanak sa nama.