Nikčević: Nema dokaz da je to stvarni Medenica, ali nema ni forenzički dokaz koji bi definitivno zatvorio priču da je sve vještačka inteligencija

Prvo je nestao iz kućnog nadzora, a onda se dan kasnije pojavio na videu na društvenim mrežama. Uprkos saopštenju policije i dalje se postavlja pitanje da li je osoba na snimku zaista Miloš Medenica, u Crnoj Gori osuđen za organiziranje kriminalne grupe, ili se radi o proizvodu vještačke inteligencije.

- Najpošteniji odgovor je da javnost zasad nema dokaz da je to stvarni Medenica, ali nema ni javno prezentovan forenzički dokaz koji bi definitivno zatvorio priču da je sve vještačka inteligencija - kaže za Radio Slobodna Evropa (RSE) Snežana Nikčević iz crnogorske nevladine organizacije 35mm koja se bavi promocijom univerzalnih demokratskih vrijednosti.

Miloš Medenica je 28. januara prvostepeno osuđen na više od deset godina zatvora za organizovani kriminal, krijumčarenje i protivzakonit uticaj. Njegova majka Vesna Medenica, bivša predsjednica Vrhovnog suda, takođe je osuđena na deset godina zatvora.

Dok je njegovoj majci nakon objavljivanja presude oduzet pasoš i produžena mjera zabrane napuštanja boravišta, Medenici, koji je bio pod mjerom zabrane napuštanja stana, određen je pritvor zbog opasnosti od bijega. Umjesto odlaska u pritvor, Medenica je krajem januara postao nedostupan javnosti.

Za njim je u međuvremenu raspisana i Interpolova potjernica, a njegova majka je poslana u privor, što je Apelacioni sud 23. marta potvrdio odbijanjem žalbe uložene na odluku o pritvoru.

A onda je 1. februara na platformi Iks (X) objavljen prvi video. Ubrzo nakon objave policija je saopštila da se radi o manipulativnom sadržaju koji sadrži "obmanjujuće informacije usmjerene na narušavanje profesionalnog kredibiliteta i ugleda menadžmenta Ministarstva unutrašnjih poslova i Uprave policije.

- Riječ je o video-zapisu na kojem je navodno odbjegli Miloš Medenica, a koji je sintetički generisan, odnosno izrađen korišćenjem alata zasnovanih na vještačkoj inteligenciji, sa ciljem stvaranja lažne predstave i dovođenja javnosti u zabludu - naveli su oni.

U jednom od prvih videa navodni Medenica kaže da će se oglašavati svakoga dana dok ga ne uhapse ili dok ne demantuju da je bot.

Skoro dva mjeseca kasnije video objave se nastavljaju, osoba sa snimaka se javlja u program jedne televizijske emisije, policija u drugoj emisiji pokazuje na koji način se može zloupotrijebiti snimak uz pomoć vještačke inteligencije, dok je Miloš Medenica i dalje u bijegu.

Snežana Nikičević, koja je i ambasadorica Ethical AI Alliance za Zapadni Balkan, kaže da je dodatni problem kada su u pitanju video snimci to što se radi o osobi koja je u bjekstvu zbog čega je cijela situacija osjetljivija i podložnija manipulacijama.

Dodaje i da bez originalnog snimka i "ozbiljne forenzičke analize" nema načina da se pouzdano utvrdi da li je to "on ili AI, bez obzira koliko uvjerljivo djelovalo."

- A kad se to spoji sa već ozbiljno narušenim povjerenjem u sektor bezbjednosti i konstantnih međusobnih optužbi unutar sistema, potpuno je očekivano da građani ne vjeruju ni jednoj verziji priče - dodaje Nikičević.

Ranija istraživanja crnogorskog Centra za građansko obrazovanje pokazala su da da 75,3 posto ispitanih smatra crnogorsko društvo koruptivnim. Kao glavne krivce navode sistem (23,9 posto), političare (23,6 posto), pravosuđe i policiju (po 15,3 posto).

Mogućnost da video koji gledamo ne predstavlja stvarnu osobu nego takozvani "deepfake" materijal napravljen uz pomoć alata vještačke inteligencije samo dodatno produbljuje nepovjerenje između građana i institucija.

I iz Europola su u ranijoj publikaciji naveli da u vrijeme kada nepovjerenje u institucije raste, "dipfejk" i manipulisani snimci mogu biti korišteni da se negativno utiče na mišljenje javnosti.

- Uticaj takvih slika i snimaka ne treba potcijeniti - navode iz Europola.

Dalje pojašnjavaju kako "dipfejk" tehnologija može proizvesti materijal u kojem ubjedljivo pokazuje ljude kako govore ili rade stvari koje u stvarnosti nisu uradili.

- Njihov je cilj da pojačaju postojeće sukobe i rasprave, potkopaju povjerenje u državne institucije i potaknu ljutnju i emocije uopšteno. Erozija povjerenja vjerovatno će otežati policijski rad - navodi Europol.

Ministarstvo unutrašnjih poslova Crne Gore nije odgovorilo na upit RSE koliko im otežava samu potragu za Medenicom činjenica da moraju da provjeravaju da li su videa stvarna.

"Sve zavisi od kvaliteta manipulacije"

Europol navodi da iako "dipfejk" materijali mogu proizvesti veoma uvjerljiv sadržaj, ponekada postoje nedostaci koji se mogu vidjeti tokom detaljnog pregleda. Neki od primjera uključuju zamagljeno područje oko lica, manjak treptanja, nedosljednosti kada je u pitanju kosa, vene, ožiljci i slično.

Otkrivanje da li je neki video napravljen uz pomoć vještačke inteligencije ili ne zavisi od kvaliteta manipulacije pojašnjava Nikičević.

- Kod lošijih AI videa mogu se primijetiti greške u mimici, svjetlu, pokretima ili sinhronizaciji zvuka i slike. Ali kod naprednijih alata, posebno ako se koristi kombinacija stvarnog snimka i AI obrade, te razlike postaju vrlo suptilne - kaže Nikičević uz dodatak da ne postoji jednostavan test koji kaže da je nešto AI ili ne.

Kada je u pitanju sama legislatura, Evropska unija ima implementiran AI Act, sveobuhvatni zakon kojim se reguliše vještačka inteligencija. Crna Gora je na korak da postane članicom Unije, što znači da će trebati uskladiti svoje zakone sa pravnim nasljeđem bloka.

Nikičević pojašnjava da na papiru Crna Gora prati EU, radi na AI strategiji i usklađivanju zakona.

- U praksi stvari izgledaju dosta drugačije, na primjer, i dalje nemamo usvojen zakon o zaštiti podataka koji je u potpunosti usklađen sa GDPR-om (što je preduslov naše zaštite u digitalnom prostoru u kontekstu EU regulativa). Ovaj slučaj jasno ogoljava falinke sistema, posebno u sektoru bezbjednosti, nedostatak kapaciteta, manjak stručnosti za napredne tehnologije i prilično fragmentisan institucionalni odgovor - objašnjava Nikčević.

Dodaje i da će implementacija biti problem, dijelom zbog generalnog nivoa digitalne pismenosti, dijelom zbog nedostatka stručnog kadra. 

- I generalno netransparentne i nedovoljno kontrolisane upotrebe AI tehnologija u praksi - rekla je Nikčević.

Prošlogodišnje istraživanje američkog Pew Centra o vještačkoj inteligenciji pokazalo je da je mnogo više ljudi zabrinuto zbog korištenja AI nego uzbuđeno.

Europol upozorava da je smanjenje povjerenja građana u vlast i medije jedna od nuspojava korištenja dipfejk materijala za dezinformacije.

- Jedan od najštetnijih aspekata dipfejka možda nije dezinformacija sama po sebi, već načelo da bilo koja informacija može biti lažna - navodi se u Europolovom izvještaju "Zlonamjerna upotreba i zloupotreba umjetne inteligencije".

U takvoj klimi na društvenim mrežama je objavljeno više od desetak videa sa likom Miloša Medenice, osobe koja je u bijegu nakon presude u kojoj je prvostepeno osuđena zbog stvaranja i vođenja kriminalne organizacije koja se bavila trgovinom narkotika, švercom cigareta, podmićivanjem i nedozvoljenim držanjem oružja.