Moćne nove tehnologije koje omogućavaju do sada nezamislivu kreativnost i produktivnost, u najvećem broju slučajeva koriste se za prizemne svrhe – tako je i sa Grokom, AI alatom platforme X.

foto: Alex Ivashenko / Unsplash / Ilustracija

„Grok, skini je u bikini“.

Tu su rečenicu korisnici društvene mreže X ispisivali na kompjuterima i mobitelima širom svijeta krajem stare i početkom nove godine, koristeći opciju mijenjanja fotografija na jedan klik.

Tokom desetak dana, uz pomoć alata vještačke inteligencije Grok, koji je integrisan u platformu X, napravljeno je više od tri miliona seksualiziranih fotografija, uključujući i gotovo 23.000 fotografija djece.

„Kada je na mene 'došao red', nisam dozvolila da me to uzdrma previše“, kaže Anja Stanišić, feministička aktivistica iz Srbije, za Mediacentar. Njenu fotografiju u bikiniju tražio je nepoznat muškarac tokom diskusije na toj društvenoj mreži.

„Naravno da mi je bilo neprijatno, naročito jer svesno biram da sama ne delim takve fotografije, a imam i dete školskog uzrasta, u svetu u kojem se sadržaj širi nekontrolisanom brzinom. Istovremeno, nisam dozvolila da iko i pomisli da ima bilo kakvu moć nada mnom, a najmanje anonimni profili koji očigledno vode bitke sa sopstvenim problemima“, kaže Stanišić.

Zloupotreba tehnološkog napretka

Moćne nove tehnologije koje omogućavaju do sada nezamislivu kreativnost i produktivnost, u najvećem broju slučajeva koriste se za prizemne svrhe. Istraživanje kompanije Sensity AI, specijalizirane za praćenje deepfake sadržaja, pokazuje jasan i dugotrajan obrazac: još od 2018. godine, 90 do 95 posto svih deepfake materijala odnosi se na pornografiju bez pristanka, dok gotovo 90 posto tih sadržaja uključuje žene.

„Sada kada je razvoj tehnologije otišao daleko i kada se otvara čitav niz tehnoloških mogućnosti, umjesto da se ovaj potencijal iskoristi u neke razvojne, pa čak i prosvjetiteljske svrhe, sav taj tehnološki napredak se (zlo)upotrebljava za tretiranje žene kao seksualnog objekta i krajnji vid degradacije žena kroz pornografske sadržaje“, kaže Amila Ždralović, doktorica socioloških nauka i profesorica na Pravnom fakultetu Univerziteta u Sarajevu.

Sagovornice Mediacentra se slažu da problem nije u vještačkoj inteligenciji samoj po sebi, nego je ona odraz nejednakosti u društvu u kojem se žene eksploatišu i na ovaj način.

„Ovde nije reč o 'želji da se vidi gola žena'. Da jeste, internet je toga prepun. Cilj je ponižavanje – demonstracija moći i kontrole nad ženskim telom i identitetom“, kaže Stanišić.

Od Telegram botova do javne platforme

Grok nije prvi ovakav slučaj. Novinarka Anđela Milivojević je za BIRN još sredinom 2024. godine pisala o aplikacijama za „razodijevanje“ žena te distribuciji tih fotografija putem popularnih aplikacija za chat, među kojima se posebno izdvajao Telegram. Razgolićavanje žena putem Groka predstavlja novi korak u digitalnom nasilju, smatra Milivojević.

„Za razliku od jednog privatnog čet bota na Telegramu, ovo se desilo na X-u, koji je dostupan svima na svetu, dakle na platformi koju svi mogu da vide, gde profili nisu privatni“, kaže Milivojević za Mediacentar.

Još jedna ključna razlika je u reakciji same platforme. Do sada su, u slučaju sličnih aplikacija, platforme domaćini uklanjale takve alate kada bi im na problem bila skrenuta pažnja, kaže Benjamin Schultz iz organizacije American Sunlight Project, koja se već neko vrijeme bavi ovim pitanjem.

„Za razliku od ovog stava, Musk (op.a. Elon Musk, vlasnik društvene mreže X) je otvoreno prkosan: cijela ideja da je ovo pitanje slobode govora, te da je svaki pokušaj regulacije bilo kakvog govora cenzura, uključujući i aplikacije za 'razodijevanje', potpuno je pogrešna“, smatra Schultz.

Premium nasilje

Pritisak javnosti je, međutim, djelomično urodio plodom. X je zabranio opciju uređivanja fotografija za obične korisnike, dok premium korisnici tu mogućnost i dalje imaju.

Milivojević smatra da se ne radi o rješenju, već o pokušaju monetizacije problema.

„To je zaista jedan neverovatan cinizam – da Musk laže kako štiti ljude tako što će im naplatiti da rade isto“, ukazuje.

Za potrebe izrade ovog teksta testiran je ovaj sistem pokušajem da fotografiju žene, napravljenu uz pomoć vještačke inteligencije, „skine“ u bikini. Grok je odbio zahtjev, ali je nakon kupovine premium paketa zahtjev bio odobren. Razlika je bila u tome što Grok fotografiju nije objavio sam, već je tu opciju ostavio korisniku.

Ovakav pristup može biti jedan od načina na koji X nastoji izbjeći odgovornost za objavljeni sadržaj. Već godinama traje debata o statusu društvenih mreža: da li su mediji ili samo platforme na kojima drugi objavljuju sadržaj koji proizvode. Razlika je ključna upravo zbog odgovornosti, jer ukoliko platforma ima status medija, ona snosi i odgovornost za sadržaj.

Sa alatima vještačke inteligencije poput Groka, ta granica postaje sve nejasnija.

„Ako mogu tagovati Grok i reći mu da nešto uradi na samoj platformi, to znači da platforma aktivno stvara sadržaj, a nije samo njegov pasivni domaćin“, smatra Schultz.

EU pokreće istragu

Na Groku je uvedena i geolokacija, kojom se sprečava kreiranje fotografija obnaženih ljudi u zemljama u kojima je to nezakonito. Milivojević smatra da je i to još jedan oblik nejednakosti.

„To je jedan neverovatan sistem gde je Grok dobio mogućnost da radi neke vrste zloupotreba i sva odgovornost je prebačena na države da regulišu tehnološke kompanije, dok od njih sve vreme slušamo da one žele samoregulaciju“.

Protiv Groka je u međuvremenu podignuta kolektivna tužba pred sudom u Sjevernoj Kaliforniji, u koju je uključeno najmanje 100 osoba.

Potpredsjednica Evropske komisije Henna Virkkunen izjavila je potom da će izvršno tijelo Evropske unije pokrenuti istragu protiv kompanije X, kako bi se utvrdilo da li platforma adekvatno procjenjuje i ublažava rizike povezane s korištenjem AI alata Grok.

„To uključuje i rizik od širenja nezakonitog sadržaja u EU, poput lažnih seksualnih snimaka i materijala koji sadrže seksualno zlostavljanje djece“, navela je Virkkunen u saopćenju objavljenom na njenom nalogu na platformi X.

Prijave postoje, ali šutnja dominira

Iz Federalne uprave policije (FUP) za Mediacentar su rekli da su do sada evidentirali nekoliko prijava koje se odnose na zloupotrebu alata zasnovanih na vještačkoj inteligenciji u svrhu kreiranja seksualno eksplicitnog sadržaja.

„Riječ je najčešće o tzv. deepfake fotografijama i video materijalima, pri čemu su žrtve bile žene i djevojčice čiji su stvarni likovi ili glasovi iskorišteni bez pristanka. Broj prijava je još uvijek relativno mali, ali trend rasta upućuje na to da će ovaj oblik zlostavljanja postajati sve učestaliji“, kažu iz FUP-a.

U Bosni i Hercegovini ovakvi postupci predstavljaju krivično djelo. Kreiranje spolno eksplicitnog sadržaja ili preinačavanje postojećih snimaka regulisano je krivičnim zakonima oba entiteta.

'Nije njihova krivica i nije njihov sram'

Mediacentar je postavio upit o iskustvima s ovim oblikom nasilja u jednoj od najvećih online zajednica za žene u Bosni i Hercegovini, Pretty Women Forum. Većina komentara bila je objavljena anonimno, a dominantan stav bio je da je na društvenim mrežama potrebno sačuvati privatnost, odnosno ne objavljivati lične fotografije. Ovakvi odgovori odražavaju širi trend u kojem sve manji broj ljudi aktivno učestvuje u javnom dijeljenju sadržaja na društvenim mrežama.

Rebecca White iz Amnesty Internationala upozorava da se u ovom slučaju ne radi o individualnim odlukama, već o sistemskom ućutkivanju žena. Njihovo istraživanje pokazuje da rodno zasnovano nasilje potpomognuto tehnologijom može dovesti do toga da se ljudi osjećaju manje slobodnima da budu ono što jesu na internetu i da otvoreno govore, iz straha od odmazde ili nasilja.

„To pogađa sve nas, bez obzira na to jesmo li direktno meta takvih napada ili ne“, navodi White.

„Mizoginija je, nažalost, duboko ukorenjena i često vrlo sistemska, a jedan od njenih ciljeva jeste upravo ućutkivanje 'glasnih' žena, kako se one tiše ne bi ohrabrile da progovore“, slaže se Stanišić.

Posljedice po žene mogu biti izuzetno ozbiljne, smatra Sanja Pavlović iz Autonomnog ženskog centra u Srbiji, te u mnogim aspektima uporedive s objavljivanjem autentičnih seksualno eksplicitnih sadržaja.

„U nekim okolnostima, posledice mogu biti i teže, jer žena zna da to nije ona, ali je teško da dokaže – svi koji vide fotografiju ili snimak automatski misle da jeste“, kaže Pavlović.

Dugoročne posljedice

Kao i drugi oblici seksualnog nasilja, ovaj vid zlostavljanja kod žena i djevojaka, navodi Pavlović, može izazvati osjećaje straha, stida i poniženja, te imati dugoročne posljedice po to kako vide sebe, svoju seksualnost i svoje prisustvo u online prostoru.

„Neke žene odlučuju da se u potpunosti isključe iz online sveta jer nemaju mehanizme da se nose sa podsmehom i poniženjem kojem su izložene. Njihova reakcija može zavisiti od mnogo faktora, ali je vrlo važno kako će okolina reagovati – ako su prve reakcije njoj bliskih ili važnih osoba (roditelja, vršnjaka, prijateljica, poslovnih saradnika i slično) takve da vode u podsmeh, banalizaciju, seksističke komentare i okrivljavanje nje, onda će i ona psihološki teže izaći iz te situacije“, ističe Pavlović.

Ovakvi obrasci razmišljanja i reagovanja dodatno pogoduju onima koji su za nasilje odgovorni – osobama koje generišu lažne fotografije i snimke. Zbog izostanka podrške i straha od osude, veliki broj slučajeva ostaje neprijavljen, dok se žrtve povlače i šute. Organizacije koje se bave ženskim pravima širom regije, a koje je kontaktirao Mediacentar, navode da se ovakvi slučajevi nedvojbeno dešavaju, ali da žene o njima rijetko javno govore.

„Vjerovatno jedan dio žena šuti i zbog stida, možda se neke pitaju i šta su to one uradile pogrešno, gdje je njihova krivica“, kaže Amila Ždralović. „Žene su u sociokulturalnim kontekstima naučene, odgajane da šute. U nizu feminističkih tekstova i razgovora se prepoznaju ovi obrasci žena koje šute i koje osjećaju krivnju i sram“.

Međutim, Ždralović naglašava da „niti je njihova krivica, niti je njihov sram, niti treba da šute“.

„Verujem da je snaga u tome da budemo glasnije i da, kada o nepravdi govorimo zajedno, ona više ne može ostati nevidljiva“, zaključuje Stanišić.

___