Veštačka inteligencija 'ignoriše' bezbednosne službe u Srbiji

Kako algoritmi mogu da donose odluke u interesu građana, a ne da manipulišu - pitanje je na koje se odgovori nalaze u dokumentu čije se usvajanje u Srbiji očekuje početkom 2023. godine.

Nacrtom Etičkih smernica za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije, koji je na usvajanju pred Vladom Srbije, definisano je preko deset različitih sistema koji koriste veštačku inteligenciju i mogu da imaju manipulativni, loš uticaj na pojedinca ili društvo.

Među visoko-rizičnim sistemima su oni koji se odnose na biometrijsku identifikaciju, kategorizaciju pojedinaca, algoritme za analizu podataka u zdravstvu ili odabir kandidata u sektoru obrazovanja ili zapošljavanja.

Međutim, među visoko-rizičnim sistemima nisu navedene službe bezbednosti, poput Bezbednosno-informativne agencije (BIA) u Srbiji.

Član radne grupe za izradu pomenutih smernica Ljubiša Bojić za Radio Slobodna Evropa (RSE) je objasnio da upotrebu veštačke inteligencije u sektoru bezbednosti treba dodatno definisati Zakonom o veštačkoj inteligenciji, te da su temelje postavile upravo Etičke smernice.

"Službe bezbednosti možda nisu direktno pomenute u smernicama, ali to je veoma bitno pitanje", naglašava Bojić, koji je takođe i istraživač u Laboratoriji za digitalno društvo pri Institutu za filozofiju i društvenu teoriju.

On je istakao i da su bezbednosne službe posebno osetljiv segment koji može da primeni veštačku inteligenciju.

Šta je veštačka inteligencija?

Veštačka inteligencija (artificial intelligence - AI) predstavlja korišćenje velike količine podataka na osnovu kojih se "treniraju" algoritmi koji kasnije samostalno donose odluke.

Sistemi zasnovani na veštačkoj inteligenciji mogu delovati u virtuelnom svetu (virtuelni asistenti, softveri za analizu fotografija, internet pretraživači, sistemi za prepoznavanje govora i lica) ili mogu biti ugrađeni u uređaje – hardver (napredni roboti, autonomna vozila, dronovi i slično).

Vlada Srbije poslednjih godina ulaže u veštačku inteligenciju, što je deo šire digitalne strategije zamlje.

Početkom decembra 2021. godine puštena je u rad Nacionalna platforma za veštačku inteligenciju.

Superkompjuter proizvođača NVIDIA spreman je da obradi ogromnu količinu informacija u kratkom vremenskom periodu, navodi saopštenje Vlade uoči puštanja ove platforme. Dodaju kako će biti na raspolaganju državi, lokalnoj samoupravi, ali i univerzitetima, naučno-tehnološkim parkovima i startap kompanijama.

Kako se došlo do Etičkih smernica?

Nacrt Etičkih smernica za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije objavljen je krajem novembra 2022. godine.

Javna rasprava završena je 18. decembra 2022. godine tokom koje je trinaestoro učesnika podnelo predloge i sugestije za unapređenje dokumenta, kažu za RSE iz Ministarstva nauke, tehnološkog razvoja i inovacija koje je vodilo proces konsultacija.

Nacrt smernica izradila je ekspertska grupa od tridesetak članova, uglavnom zaposlenih u javnom sektoru.

U radnoj grupi su i po neki predstavnici privatnog i nevladinog sektora, kao i profesori i istraživači.

Etičke smernice za razvoj veštačke inteligencije razmatraju ključna načela na osnovu kojih treba razvijati ovakve modele u javnom i privatnom sektoru i predstavljaju polaznu osnovu za Zakon o veštačkoj inteligenciji, smatraju eksperti sa kojima je RSE razgovarao.

Smernice su u najvećoj meri usklađene sa istim dokumentom koji postoji na nivou Evropske unije, međutim pojedini eksperti nisu uvereni da će se primenjivati u praksi kako se ne radi o obavezujućem dokumentu.

"Primena jeste vrlo problematična i nisam sigurna koje će efekte imati", smatra izvršna direktorka organizacije Partneri Srbija Ana Toskić Cvetinović.

Ona dodaje da nadležne institucije nemaju kapacitete da postupaju u slučajevima kada dolazi do povrede prava primenom veštačke inteligencije.

Da su smernice samo početna tačka i da se može očekivati usvajanje zakona na osnovu kog bi se sprovodile, smatra profesor Univerzitetskog koledža Kork (University College Cork) i potpredsednik ekspertske grupe za izradu etičkih smernica za veštačku inteligenciju Evropske komisije Beri Osalivan (Barry O'sullivan).

On objašnjava kako se usvajanje Zakona o veštačkoj inteligenciji u Evropskoj uniji očekuje početkom 2023. godine.

Koji sve državni sistemi koriste veštačku inteligenciju u ovom trenutku javnosti nije do kraja poznato, a ovim pitanjem se nije bavila ekspertska radna grupa pre nego što je izradila smernice za unapređenje rešenja koje koriste veštačku inteligenciju, potvrdili su članovi radne grupe sa kojima je RSE razgovarao.

Šta nedostaje?

Takođe, neki od njih vide i prostor za unapređenje teksta.

"Ono što meni nedostaje je Poverenik za zaštitu ravnopravnosti zato što je diskriminacija ozbiljan problem kod upotrebe algoritama", ističe Nevena Ružić iz Fondacije za otvoreno društvo i dodaje da je trebalo da bude više predstavnika civilnog društva, ali i predstavnik ministarstva unutrašnjih poslova.

"Oni (MUP prim. aut.) su veliki rukovaoci podacima. Sve što se tiče prebivališta, ličnih karata, dokumenata, a koji mogu da budu relevantni za upotrebu veštačke inteligencije i za neke druge sisteme, ne samo za njih", zaključuje Ružić.

Ljubiša Bojić iz Laboratorije za digitalno društvo smatra da su sistemi veoma široko obuhvaćeni, a da je sada je na redu Zakon o veštačkoj inteligenciji koji treba detaljnije da ih razradi.

Napominje da samim smernicama nisu obuhvaćene službe bezbednosti.

"Smatram da to treba definisati zakonom i ako one (prim. aut. službe bezbednosti) možda direktno nisu pomenute u smernicama, to je veoma bitno pitanje", ističe Bojić navodeći da su bezbednosne službe posebno osetljiv segment koji može da primeni veštačku inteligenciju.

"Treba to da pratimo i intervenišemo", zaključuje Bojić o tome na koji način treba unapređivati smernice u budućnosti, navodeći kako nevladin sektor treba da prati primenu veštačke inteligencije u okviru visoko-rizičnih sistema.

Šta piše u smernicama?

Dokumentom od četrdesetak strana razmatra se kojim bi sve načelima trebalo da se vode oni koji dizajniraju i uvode rešenja zasnovana na veštačkoj inteligenciji, odnosno algoritme koji donose odluke umesto ljudi.

Veštačka inteligencija (VI) treba da zadovolji četiri ključna načela - da razvoj, testiranje, puštanje u rad, nadzor nad radom sistema, kao i njegovo gašenje moraju da budu transparentni, da se mora voditi računa o integritetu i dostojanstvu svih na koje veštačka inteligencija može uticati, ne sme da diskriminiše i pravi štetu.

Ljubiša Bojić, koji je učestvovao u pisanju smernica, objašnjava da podešavanja algoritma koji utiču na veliki broj ljudi treba da bude javno dobro.

"Jednom kada o nama odluči algoritam, on može da bude podešen tako da nas zavede ili ubedi u nešto što nije u našem interesu", zaključuje Bojić.

On objašnjava da etičke smernice pokreću mnoga važna pitanja na kojima tek treba da se radi.

Profesor Beri Osalivan za RSE objašnjava da "građani postaju mnogo svesniji moći veštačke inteligencije i rizika koje može da ima po privatnost".

"Bilo je mnogo primera da su vlade donosile odluke i radile stvari koje su u suprotnosti sa ovim etičkim smernicama. U nekim slučajevima, vlade su pale", zaključuje Osalivan.

Na koji način se veštačka inteligencija koristi u javnom sektoru u Srbiji u ovom trenutku do kraja nije poznato.

Kako objašnjavaju članovi radne grupe za izradu smernica sa kojim je RSE razgovarao pre izrade samih smernica nisu rađene analize u kojim sektorima i na koji način država koristi ovu vrstu tehnologije.

Koji su visoko rizični sistemi?

Pored načela i principa, smernice definišu deset visoko-rizičnih sistema koji mogu da imaju veći uticaj na integritet ljudi zbog čega bi trebalo da se dodatno analiziraju i kontrolišu.

U ove sisteme spadaju biometrijska identifikacija i kategorizacija pojedinaca, upravljanje infrastrukturom (saobraćaj, voda, gas), algoritmi koji se koriste u obrazovanju prilikom odabira, rasporeda ili ocenjivanja kandidata, algoritmi koji vrše selekciju kandidata prilikom zapošljavanja, sistemi koji analiziraju genetičke i zdravstvene podatke, sistemi za pružanje socijalnih usluga.

Lista se nastavlja, pa tako u visoko rizične sisteme spadaju i tehnička rešenja koja se koriste tokom krivičnog gonjenja – procena rizika za izvršenje krivičnog dela ili poligrafska sredstva, sistemi koji se koriste za upravljanje migracijama i nadzor državne granice, kao i sistemi u pravosuđu za analizu pravnih normi.

Bojić ističe da je iskorak u odnosu na svetsku praksu načinjen time što su smernicama kao visoko rizični označeni algoritmi koji odlučuju o sadržajima kojima ćemo biti izloženi kada koristimo platforme ili aplikacije.

Međutim, da li se u okviru pomenutih sistema u ovom trenutku koristi veštačka inteligencija i u kojoj meri pitanje je kojim se radna grupa nije bavila.

Adresiranje posebnih rizika koje ima korišćenje veštačke inteligencije u javnom sektoru, jedan je od ključnih nedostatka smernica koje ističe direktorka organizacije Partneri Srbija Ana Toskić Cvetinović koja ocenjuje da je dokument načelno dobar.

Ovo je ujedno i jedan od predloga za unapređenje nacrta koji je ova organizacija podnela.

Ona ističe da je upotreba veštačke inteligencije jako široka, ali da postoji interes javnosti da se isprati primena veštačke inteligencije u javnom sektoru.

"Planiramo da razvijemo jednu bazu koja bi popisala te sisteme, pre svega sisteme veštačke inteligencije koje država planira ili već razvija za potrebe organa javne vlasti", zaključuje ona.

Nacrt Zakona o veštačkoj inteligenciji na nivou Evropske unije uvodi četiri nivoa rizika gde je najviši nivo zabranjen.

Biometrijski nadzor građana u policijske svrhe jedan je od takvih sistema koji će verovatno biti nelegalan u Evropi do sredine naredne godine, objašnjava profesor Osalivan.

Upotrebom veštačke inteligencije u vojsci ili aplikacijama za nacionalnu bezbednost ne bave se zakonska rešenja na nivou Evropske unije, ističe Osalivan i dodaje da je ovo oblast koji treba pažljivo pratiti.

"Veoma je važno da vlade imaju veoma visoke standarde kada je u pitanju upotreba tehnologije, posebno tehnologija zasnovanih na veštačkoj inteligenciji, zbog uticaja koji imaju na osnovna prava", zaključuje on.

Regulacija u Srbiji

Smernice za upotrebu veštačke inteligencije nastale su krajem novembra 2022. godine, kao deo Strategije za veštačku inteligenciju 2020 – 2025 koja je usvojena tokom 2019. godine.

Nacionalna platforma za veštačku inteligenciju u Srbiji predstavlja superkompjuter koji je 2021. godine pokrenut u Državnom data centru u Kragujevcu.

Prema rečima predsednika Srbije Aleksandra Vučića u Data centar je uloženo ukupno 55 miliona evra, a samo superkompjuter koštao je približno dva miliona evra.

Set zakona Zakon o veštačkoj inteligenciji tek treba da bude usvojen kako u EU, tako i SAD. U Evropskoj uniji usvojene su Etičke smernice za razvoj veštačke inteligencije, a ovaj dokument svojevrsna je osnova za izradu smernica u Srbiji.

Smernice definišu osnovna načela za razvoj veštačke inteligencije i predstavljaju polaznu osnovu za Zakon o veštačkoj inteligenciji. Kada se može očekivati zakonsko rešenje za sada nije poznato.