Korištenje alata umjetne inteligencije za stvaranje eksplicitnih fotografija ljudi bez pristanka može predstavljati ozbiljno kršenje privatnosti, a u nekim slučajevima i krivična djela.

foto: Salvador Rios / Unsplash

Zvaničnici Indonezije i Malezije odlučili su da privremeno blokiraju pristup Groku, chatbotu koji je ugrađen u platformi X, jer omogućava korisnicima da manipulišu fotografijama žena i djece kako bi im skinuli odjeću i stavili ih u seksualizirane položaje.

Malezija će ograničiti pristup Groku dok se ne provedu efikasne zaštitne mjere, dan nakon što je sličnu akciju poduzela Indonezija.

Indonezijska ministrica komunikacija i digitalnih tehnologija Meutya Hafid rekla je da vlada te zemlje praksu seksualiziranih deepfake sadržaja bez pristanka smatra ozbiljnim kršenjem ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru.

Guardian piše da nije jasno da li se malezijska i indonezijska zabrana odnose na Grok na X-u, Grok stranici i aplikaciji ili na oboje, budući da taj chatbot funkcioniše putem zasebne web stranice i aplikacije. Takođe, Guardian je dodao da prema nekim izvještajima ljudi iz Indonezije, Grok i dalje mogu koristiti putem aplikacije i putem X-a, dok jedan izvještaj govori da je aplikacija vrlo spora.

Reagovalo nekoliko država

Grok Elona Muska, vlasnika platforme X, našao se početkom januara pod istragama u Francuskoj, Maleziji i Indiji zbog navoda da je kreirao seksualizirane deepfake sadržaje žena i maloljetnika.

Nakon poplave fotografija gotovo golih stvarnih ljudi na tom chatbotu, reagovalo je nekoliko država. TechCrunch piše da je regulator komunikacija Ofcom u Ujedinjenom Kraljevstvu rekao da će provesti brzu procjenu kako bi utvrdio postoje li potencijalni problemi s usklađenošću koji zahtijevaju istragu. Premijer Ujedinjenog Kraljevstva Keir Starmer rekao je da Ofcom ima njegovu „punu podršku za poduzimanje mjera“.

U Sjedinjenim Američkim Državama demokratski senatori pozvali su Apple i Google da uklone X iz svojih prodavnica aplikacija.

Guardian javlja da je australijski premijer Anthony Albanese osudio korištenje generativne umjetne inteligencije za iskorištavanje ili seksualizaciju ljudi bez njihovog pristanka, a njemački ministar kulture i medija Wolfram Weimer pozvao je Evropsku komisiju da poduzme pravne korake, upozoravajući na „industrijalizaciju seksualnog uznemiravanja“.

Italijanska agencija za zaštitu podataka saopštila je da korištenje alata umjetne inteligencije za stvaranje eksplicitnih fotografija ljudi bez pristanka može predstavljati ozbiljno kršenje privatnosti, a u nekim slučajevima i krivična djela.

Većina onih koji su bili meta su mlade žene

Agencija Reuters je ranije provela analizu u kojoj su identifikovali nekoliko slučajeva u kojima je Grok kreirao seksualizirane fotografije djece. Pregled javnih zahtjeva poslatih Groku tokom samo 10 minuta je, kako je naveo Reuters, pokazao 102 pokušaja korisnika X-a da koriste Grok za digitalno uređivanje fotografija ljudi tako da izgledaju kao da nose bikini. Većina onih koji su bili meta su mlade žene, a u nekoliko slučajeva su to bili muškarci, poznate ličnosti, političari i, u jednom slučaju, majmun.

Iz Groka je nakon prvobitnih informacija uslijedilo izvinjenje. U objavi na X-u, Grok je naveo da je „ovo prekršilo etičke standarde i potencijalno američke zakone o (materijalu seksualnog zlostavljanja djece)“, dodajući da je to bio propust u zaštitnim mjerama.

Kasnije je, kako je naveo TechCrunch, ograničena funkcija generisanja fotografija pomoću umjetne inteligencije na korisnike X-a koji plaćaju pretplatu. Ipak, kako se dodaje, čini se da to ograničenje nije uticalo na samu aplikaciju Grok koja je i dalje omogućavala svima generisanje fotografija.

Izvor: TechCrunch, Guardian

___