AI sadržaji najčešće se koriste za zloupotrebu identiteta javnih ličnosti, internet prevare, širenje dezinformacija...

Iz policije navode da forenzičke analize najčešće daju procjenu vjerovatnoće da je sadržaj generisan, ili manipulisan, a ne konačan odgovor

Vještačka inteligencija otvara brojne mogućnosti za zloupotrebe (ilustracija), Foto: Shutterstock

Dok javnost mjesecima nema zvaničan odgovor da li se na snimcima koji se pripisuju Milošu Medenici zaista nalazi odbjegli optuženik ili njegova digitalno generisana verzija, Uprava policije (UP) upozorava da se sadržaji nastali uz pomoć vještačke inteligencije koriste i za uticaj na javno mnjenje.

Iz UP su, odgovarajući “Vijestima”, saopštili da bilježe porast slučajeva povezanih sa zloupotrebom AI generisanih fotografija i video-sadržaja, odnosno dipfejka.

“Ubrzan razvoj digitalnih tehnologija i vještačke inteligencije, pored brojnih prednosti, otvara i prostor za nove oblike zloupotreba, među kojima se posebno izdvaja dipfejk sadržaj kao jedan od najsloženijih i najopasnijih izazova savremenog digitalnog okruženja. U tom smislu, Uprava policije bilježi porast slučajeva povezanih sa ovom vrstom zloupotrebe.”

Na pitanja s kakvim se najčešćim zloupotrebama AI sadržaja susreću i da li su u Crnoj Gori registrovani slučajevi u kojima su AI generisani video ili audio materijali korišćeni za prevaru građana ili manipulaciju javnosti, iz UP su odgovorili da se posebno izdvajaju slučajevi zloupotrebe identiteta javnih ličnosti radi pribavljanja protivpravne imovinske koristi, uticaja na javno mnjenje ili širenja dezinformacija.

Autentičnost se mjeri vjerovatnoćom

Da se identitet javnih ličnosti zloupotrebljava i za prodaju navodnih medicinskih proizvoda, pokazivali su raniji slučajevi u kojima su mete bili ljekari Danilo Jokić i Vladimir Dobričanin.

Jokić je ranije prijavio policiji da su njegovo ime, lik i glas zloupotrijebljeni na društvenim mrežama za prodaju preparata predstavljenih kao sredstva za čišćenje krvnih sudova i liječenje reume, dok je Dobričanin podnio krivičnu prijavu tvrdeći da je kompanija “Limited Charm” iz Tuzi, preko lažnih profila na Fejsbuku i Instagramu, uz pomoć vještačke inteligencije koristila njegovo ime za promociju i prodaju navodno medicinskih sredstava.

“Ova tehnologija omogućava izmjenu slike, glasa i pokreta na način koji djeluje uvjerljivo i autentično”, kazali su iz UP.

Zbog toga je, kako objašnjavaju, otežano i utvrđivanje da li je određeni video-materijal objavljen na društvenim mrežama autentičan ili je naknadno izmijenjen uz pomoć AI tehnologije.

“Rezultati analiza se najčešće izražavaju kroz procjenu vjerovatnoće da je sadržaj generisan ili manipulisan”, kazali su iz policije.

Miloš Medenica, sin bivše predsjednice Vrhovnog suda Vesne Medenice, prvostepeno je 28. januara osuđen na više od deset godina zatvora za stvaranje kriminalne organizacije, produženo krivično djelo krijumčarenje, dva krivična djela protivzakoniti uticaj putem pomaganja, kao i za sprečavanje dokazivanja, dok je njegova majka osuđena na deset godina zatvora zbog nezakonitog uticaja. Do izricanja presude bio je pod mjerom zabrane napuštanja stana, a nakon što mu je određen pritvor zbog opasnosti od bjekstva, postao je nedostupan nadležnim organima i za njim je raspisana međunarodna Interpolova potjernica.

Prvi snimak na kojem se navodno pojavljuje Medenica objavljen je 1. februara na platformi X, a policija je ubrzo saopštila da je riječ o “manipulativnom sadržaju”, odnosno video-zapisu koji je “sintetički generisan” uz pomoć alata zasnovanih na vještačkoj inteligenciji. Nakon toga, objavljivani su novi snimci koji se pripisuju Medenici, a bavili su se navodima o više javnih funkcionera i postali predmet političkih reakcija, uključujući i rasprave u Skupštini. Uprava policije je ranije kazala za Radio Slobodna Evropa (RSE) da je predmet formiran odmah nakon objavljivanja prvog snimka i da su službenici u kontinuitetu preduzimali mjere i radnje iz svoje nadležnosti.

Nalog na platformi X na kojem su objavljivani snimci navodnog Medenice suspendovan je 11. maja zbog kršenja pravila te društvene mreže, ali je dan kasnije ponovo bio aktivan. Taj nalog je i dalje aktivan, označen je kao “parodijski nalog”, a na njemu se gotovo svakodnevno objavljuju novi snimci...

Analiza profila

Osim samog sadržaja, policija ukazuje i na značaj analize profila koji ga objavljuje ili dijeli. Kako su pojasnili, analiza šireg konteksta profila koji distribuira sporni sadržaj, uključujući istoriju objava, obrasce ponašanja i učestalost objavljivanja sadržaja sličnih karakteristika, može ukazati na to da je riječ o materijalu nastalom uz upotrebu vještačke inteligencije.

U praksi se, kako su naveli, zloupotrebe najčešće ogledaju u kreiranju lažnih video-snimaka na kojima se javne ličnosti prikazuju kako daju saopštenja koja nisu nikada izgovorena, promovišu proizvode, investicione platforme ili zastupaju stavove koje u stvarnosti ne podržavaju.

“Takođe, zabilježeni su i slučajevi u kojima se dipfejk tehnologija koristi za kreiranje video-sadržaja u kojima se poznate ličnosti, uključujući ljekare, navodno pojavljuju kao promoteri određenih ljekova, suplemenata ili terapija. Takvi sadržaji često djeluju uvjerljivo, zbog čega korisnicima interneta može biti otežano razlikovanje autentičnog od manipulisanog sadržaja”, odgovorili su iz Uprave policije.

Iz policije nisu precizirali koliko je postupaka ili istraga pokrenuto u vezi sa zloupotrebom AI sadržaja, niti kakav je njihov epilog.

Saopštili su da UP, shodno svojim zakonskim nadležnostima, preduzima mjere i radnje u svim slučajevima zloupotreba u kojima postoje elementi krivičnog djela ili prekršaja.

“Identifikacija nepoznatih počinilaca i dokazivanje ovih krivičnih djela predstavlja poseban izazov, imajući u vidu složenost načina izvršenja, kao i prirodu i lokaciju digitalnih tragova i dokaza”, naveli su iz policije.

Dodali su da rješavanje takvih slučajeva često zahtijeva detaljne analize i provjere, kao i saradnju sa međunarodnim partnerskim službama i inostranim kompanijama, zbog čega postupci mogu trajati duže.

Tvrde da koriste savremenu opremu

Na pitanje da li raspolažu alatima, tehničkim kapacitetima i osobljem obučenim za prepoznavanje dipfejk sadržaja, iz policije su odgovorili da službenici koji postupaju u tim predmetima koriste savremenu digitalnu forenzičku opremu i licencirane softvere za prikupljanje, obradu i analizu digitalnih dokaza.

“Oprema i alati usklađeni su sa međunarodnim standardima digitalne forenzike i primjenjuju se u skladu sa procedurama koje obezbjeđuju zakonitost i validnost dokaza u sudskim postupcima”, naveli su iz Uprave policije.

Dodali su da ovlašćeni policijski službenici redovno pohađaju specijalizovane obuke kroz nacionalne i međunarodne programe, radionice i treninge koje organizuju partnerske službe i relevantne međunarodne institucije.

Odgovarajući na pitanja koliko je otežano identifikovati počinioce u ovakvim slučajevima, imajući u vidu da se sadržaj često kreira i distribuira putem stranih platformi i anonimnih naloga, koje su najveće prepreke u borbi protiv ove vrste digitalnog kriminala i na koji način građani mogu prepoznati potencijalno manipulisan sadržaj, iz policije su ukazali i na forenzičke analize.

“Forenzičke analize, uključujući upotrebu specijalizovanih alata za detekciju dipfejk sadržaja, mogu ukazati na prisustvo karakterističnih anomalija koje se povezuju sa AI-generisanim sadržajem i digitalnim manipulacijama”, saopštili su iz UP.

Imajući u vidu da su građani sve više izloženi uticaju AI tehnologija i dipfejk sadržaja, iz policije preporučuju oprez prilikom “konzumiranja informacija na internetu”, provjeru izvora i vjerodostojnosti sadržaja.