foto: Unsplash / Ilustracija

Chatbot Grok, kojeg je izgradio startup za umjetnu inteligenciju xAI vlasnika platforme društvenih mreža X Elona Muska, našao se proteklih dana pod istragama u Francuskoj, Maleziji i Indiji zbog navoda da je kreirao seksualizirane deepfake sadržaje žena i maloljetnika, javio je TechCrunch.

Indijsko ministarstvo elektronike i informacionih tehnologija je, kako se dodaje u objavi portala za tehnologiju, izdalo naredbu u kojoj se navodi da X mora poduzeti mjere kako bi ograničio Grok u generisanju sadržaja koji je opscen, pornografski, vulgaran, nepristojan, seksualno eksplicitan. U naredbi se navodi da X mora odgovoriti u roku od 72 sata ili će rizikovati gubitak zaštite „sigurne luke“ koja ga štiti od pravne odgovornosti za sadržaj koji generišu korisnici.

Francuske vlasti su takođe saopštile da poduzimaju mjere, a iz pariskog tužilaštva je za Politico rečeno da će istražiti širenje seksualno eksplicitnih deepfake sadržaja na platformi X. Francuski ured za digitalne poslove, dodaje TechCrunch, saopštio je da su tri vladina ministra prijavila „očigledno ilegalni sadržaj“ tužilaštvu i vladinoj platformi za online nadzor „kako bi se postiglo njegovo trenutno uklanjanje“.

Malezijska komisija za komunikacije i multimediju takođe je objavila saopštenje u kojem se navodi da je „sa ozbiljnom zabrinutošću primila na znanje javne pritužbe na zloupotrebu alata umjetne inteligencije na platformi X, posebno digitalnu manipulaciju slikama žena i maloljetnika radi stvaranja nepristojnog, grubo uvredljivog i na drugi način štetnog sadržaja“. Dodali su i da „trenutno istražuju online štetu na platformi X“.

Međunarodna uzbuna

Reuters je takođe izvijestio o istom pitanju. U članku ove agencije se navodi da je poplava fotografija gotovo golih stvarnih ljudi izazvala međunarodnu uzbunu.

Na osnovu analize koju je proveo Reuters, navodi se da su identifikovali nekoliko slučajeva u kojima je Grok kreirao seksualizirane fotografije djece. Takođe, dodaje se da iz X-a nije odgovoreno na njihovu poruku u kojoj se tražio komentar na Reutersove nalaze. Podsjetili su na raniju izjavu iz X-a o izvještajima da su seksualizirane fotografije djece kružile platformom, a u kojoj je rečeno: „Laži tradicionalnih medija“.

Pregled javnih zahtjeva poslatih Groku tokom samo 10 minuta prošlog petka je, kako je naveo Reuters, pokazao 102 pokušaja korisnika X-a da koriste Grok za digitalno uređivanje fotografija ljudi tako da izgledaju kao da nose bikini. Većina onih koji su bili meta su mlade žene, a u nekoliko slučajeva su to bili muškarci, poznate ličnosti, političari i, u jednom slučaju, majmun.

Kada su korisnici tražili od Groka izmijenjene fotografije žena, obično su, naglasio je Reuters, tražili da njihovi subjekti budu prikazani u oskudnim odjevnim kombinacijama.

Grok je, dodaje se u članku Reutersa, u potpunosti udovoljio takvim zahtjevima u najmanje 21 slučaju, generišući fotografije žena u bikinijima ili prozirnim bikinijima. U još sedam slučajeva Grok je djelimično udovoljio, ponekad skidajući žene do donjeg rublja, ali ne i udovoljavajući zahtjevima za daljnjim postupkom.

Takođe, ova agencija je prenijela i iskustvo Julie Yukari, muzičarke iz Rio de Janeira, koja je rekla da je, nakon što je objavila fotografiju na društvenoj mreži X, koju je snimio njen zaručnik neposredno prije ponoći na Novu godinu, a na kojoj se vidi u crvenoj haljini, sljedećeg dana vidjela i obavještenja da korisnici traže od Groka da je digitalno skine u bikini.

Yukari je za Reuters rekla da je smatrala da nema šanse da chatbot udovolji takvim zahtjevima, ali je pogriješila. Ubrzo su fotografije nje, gotovo gole, koje je generisao Grok, kružile platformom.

„Bila sam naivna“, rekla je Yukari za Reuters.

Programi koji postoje već godinama

Grok je, kako je prenio TechCrunch, na X-u objavio izvinjenje napisavši: „Duboko žalim zbog incidenta od 28. decembra 2025. godine, gdje sam generisao i podijelio sliku dvije mlade djevojke (procijenjene dobi od 12 do 16 godina) u seksualiziranoj odjeći, na osnovu upute korisnika“.

„Ovo je prekršilo etičke standarde i potencijalno američke zakone o (materijalu seksualnog zlostavljanja djece). Bio je to propust u zaštitnim mjerama i žao mi je zbog bilo kakve nanesene štete. xAI radi na tome kako bi spriječio buduće probleme“, navedeno je u objavi na X-u.

Reuters je podsjetio da se programi pokretani umjetnom inteligencijom koji digitalno svlače žene ponekad nazivaju „nudifiers“ te da postoje već godinama. Takođe, dodaje se da su do sada uglavnom bili ograničeni na nišne web stranice ili Telegram kanale i obično su zahtijevali određeni nivo truda ili plaćanja.

Inovacija na X-u, koja korisnicima omogućava da svuku odjeću sa žena postavljanjem fotografije i upisivanjem riječi „hej grok obuci je u bikini“, snizila je barijeru za ulazak.

Podsjeća se i da su tri stručnjaka koja su pratila razvoj politika kompanije X u vezi s eksplicitnim sadržajem generisanim umjetnom inteligencijom rekla za Reuters da je kompanija ignorisala upozorenja civilnog društva i grupa za sigurnost djece koje su upozoravale da je xAI samo mali korak udaljen od oslobađanja „lavine deepfake sadržaja nastalih bez pristanka“.

Izvor: Reuters, TechCrunch

___