Na sastanku urednika medija iz BiH raspravljano o izazovima koje AI donosi – od algoritamske cenzure i deepfake tehnologije do očuvanja odgovornog i transparentnog novinarstva.

foto: Mediacentar Sarajevo

„Umjetna inteligencija i govor mržnje: Novinarstvo između zloupotrebe i odgovornosti“, bila je tema sastanka urednika medija u Bosni i Hercegovini koji je održan u organizaciji Mediacentra Sarajevo.

Sastanak je bio zamišljen kao radionica u okviru koje je MA Amina Vatreš, asistentica na Fakultetu političkih nauka Univerziteta u Sarajevu, kroz teorijski dio govorila o umjetnoj inteligenciji (Artificial Intelligence, AI) i kontroli informacija. U tom kontekstu, Vatreš je predstavila primjere kako prepoznati dezinformacije, deepfake, govor mržnje i algoritamsku cenzuru budući da predstavlja najčešće implicitan, pa samim tim i jedan od najopasnijih načina manipulacije posredovane umjetnom inteligencijom.

Govorila je i o tome kako AI oblikuje istinu u javnom prostoru – između manipulacije, pristranosti i nevidljive moderacije, pogotovo u kontekstu izbjegavanje govora mržnje i kako ostati kredibilan koristeći AI.

Razgovaralo se s urednicima i o dezinformacijama i govoru mržnje u kontekstu AI – s jedne strane, o korištenju AI za proizvodnju i distribuciju dezinformacija i govora mržnje, a s druge strane kako se AI alati mogu koristiti i za pomoć u prepoznavanje i moderaciju takvih sadržaja, uprkos ograničenjima modela i pristranosti. U tom smislu su bila važna iskustva urednika u korištenju takvih alata u moderaciji komentara i borbi protiv govora mržnje.

Novi oblici cenzure i automatizacije kontrole

„Cilj nije ni glorificiranje, niti demoniziranje umjetne inteligencije, već kako AI koristiti na etički način“, rekla je Vatreš.

Kad je u pitanju korištenje AI u novinarstvu, navela je kako djeluje u najmanje dvije uloge – kao kreator sadržaja (generativna AI) i kao filter sadržaja. Kao kreator - generira tekstove, komentare, snimke brže i konzistentnije od samog čovjeka, a kao filter - na način da njeni sistemi odlučuju kada će biti vidljivi i dostupni korisnicima. To AI čini kroz algoritam, koji matematički odlučuje šta to zavređuje pažnju korisnika.

Ukazala je i kako se pojavljuju novi oblici cenzure i automatizacije kontrole, odnosno dvoslojna cenzura – eksplicitna i implicitna, koje simultano djeluju. S jedne strane, to je cenzura kroz višak informacija, a s druge algoritamska cenzura kroz ograničavanje vidljivosti sadržaja na platformama.

„Cenzura je integrisana u algoritamski kapitalizam – ne kroz zabranu, nego kroz tršište pažnje“, ukazala je Vatreš. „Algoritamska cenzura je najviše ekonomska, jer ne favorizira istinu nego angažman, te donosi zaradu – cenzura je integrirana u kapitalizam“, dodala je.

Događa se paradigma 'nove post-istine'

Govoreći o problemu AI u kontekstu dezinformacija, upozorila je na deepfake tehnologiju, koja vodi prema eroziji autentičnosti i povjerenja. Smatra to jednim od najozbiljnijih izazova, koja je već dobila i definiciju u stručnoj javnosti – infokalipsa.

„Događa se paradigma 'nove post-istine': vizuelno vjerodostojan, emocionalno uvjerljiv, ali ontološki lažan sadržaj“, objasnila je Vatreš.

Kad je u pitanju budućnost novinarstva i korištenja AI, navela je kako postoje tri scenarija – integrativni, koja zagovara da društvo uspijeva da regulira upotrebu, gdje algoritmi pomažu kako u provjeri informacija tako i u detekciji dezinformacija; fragmentacijski, koji smatra pesimističnim; proaktivni, koji smatra preoptimističnim, jer će po njemu ljudi, građani, novinari preuzeti AI u svoje ruke. Vatreš takav, posljednji scenarij, smatra iluzijom.

„AI predstavlja dvosjekli mač – s jedne strane, demokratizira pristup informacijama i u dijelu sve olakšava, ali s druge strane centralizira moć nad informacijama te ih može učiniti i suvišnima“, smatra Vatreš.

„AI nikada ne može djelovati izolovano, pogotovo kad je novinarska profesija u pitanju, jer će i ljudska certifikacija i etički postulati uvijek biti na prvom mjestu, odnosno nezamjenjivi. Suštinsko pitanje nije da li ćemo koristiti AI i s te strane je ne treba demonizirati, već treba razmišljati kako je koristiti i sa sviješću o posljedicama. Naša je odgovornost da gradimo kulturu digitalne etike“, istakla je.

Iskustva korištenja AI unutar redakcije

U drugom dijelu sastanka urednici su govorili o iskustvima u korištenju AI unutar redakcije, kada je neophodno da se koristi, a kada ne, šta mora biti provjereno, kako označiti sadržaj i ko je na kraju odgovoran.

Uglavnom se AI koristi za prevođenje, transkripciju ili lekturu, ali ne i za upotrebu generiranih fotografija ili uređivanje video-sadržaja; ako se koristi o tome se moraju obavijestiti urednici, na kraju i označiti sadržaj ako je korišten AI. Zbog toga je neophodno i da svaka redakcija ima poseban pravilnik kojim će regulirati upotrebu AI, po uzoru na velike svjetske medije.

Postavljeno je i pitanje treba li dopustiti AI da radi umjesto ljudi, pa je zaključeno – samo za ciljanu upotrebu, kao pomoć u određenom segmentu posla, ali sve i uvijek treba provjeriti. U tom smislu istaknuta je neophodno postojanje proaktivne transparentnosti, kao jednog od osnovnih koraka kojim će redakcija publici reći da je korišten i AI, jer će time biti zadržano povjerenje javnosti.

Isto tako, preporučena je i kontrola korištenja koja se postiže kroz AI protokol i uprkos AI protokolu, odnosno postojanje dvostruke kontrole.

Na kraju, čuli su se i prijedlozi o osnivanju tijela koje bi u fokusu imalo digitalne medije, odnosno važnost postojanja svojevrsne koalicije za slobodu izražavanja i moderaciju sadržaja kao koraka u borbi protiv štetnog sadržaja.

Događaj je, u okviru projekta 'Reporting Diversity Network', finansirala Evropska unija i regionalni projekt „SMART Balkans – Civilno društvo za povezan Zapadni Balkan“ koji implementiraju Centar za promociju civilnog društva (CPCD), Centar za istraživanje i kreiranje politike (CRPM) i Institut za demokratiju i medijaciju (IDM) koji je finansijski podržalo norveško Ministarstvo vanjskih poslova.

___