Društvena mreža X, nekadašnji Twitter, suočila se sa ozbiljnim problemom na početku nedelje kada su korisnici počeli da koriste AI chatbota Groka, razvijenog od strane Ilona Maska, tražeći da sa fotografija stvarnih žena „skida odeću“. Ovaj trend je rezultirao širenjem pornografskih i seksualizovanih slika koje su nastale bez pristanka onih koji su bili prikazani. Platforma, poznata po slaboj moderaciji sadržaja, nije mogla da spreči ovu pojavu, što je izazvalo zabrinutost među korisnicima i širim društvom.
Među žrtvama ove zloupotrebe našle su se ne samo privatne građanke, već i poznate ličnosti iz sveta zabave, uključujući glumice i čak prvu damu Sjedinjenih Američkih Država. Ova situacija je dodatno zabrinjavajuća jer su među generisanim sadržajima pronađene slike koje prikazuju maloletnice. Trend se ubrzo pogoršao kada su neki korisnici počeli da traže od Groka da stvara scene u kojima su stvarne žene prikazane kao žrtve seksualnog nasilja, ponižavanja i ubistava.
Jedna od najuznemirujućih slika prikazivala je manekenku vezanu u prtljažniku automobila, sa detaljima koji su sugerisali smrtonosni ishod. Ovaj sadržaj je bio posebno usmeren ka onlajn modelima i seksualnim radnicama, grupama koje su i inače izložene riziku od nasilja. Korisnici su često davali precizne instrukcije kako žene na slikama treba da deluju, tražeći da izgledaju uplašeno ili povređeno, što dodatno ukazuje na opasne tendencije u ponašanju na mreži.
Izuzetno problematično je to što je AI alat koji je direktno integrisan u društvenu mrežu lako mogao da se pretvori u sredstvo za proizvodnju nasilnih i neželjenih slika stvarnih žena. Ponašanje autora ovih sadržaja, koji su često ovo posmatrali kao šalu ili internet-mim, ukazuje na opasnu normalizaciju zloupotreba i sadržaja nastalog bez pristanka. Ovakvo ponašanje može imati ozbiljne posledice, jer žene i devojke u stvarnom svetu već trpe štetu zbog širenja deepfake materijala, koji je zahvaljujući razvoju veštačke inteligencije sve lakše napraviti.
Ilon Mask, vlasnik mreže X i kompanije xAI, pozvao je korisnike da pomognu u poboljšanju Groka i ukazao na važnost podrške zajednice u ovom procesu. Njegova izjava dolazi u trenutku kada je društvo počelo da se bavi pitanjem etike veštačke inteligencije i njenog uticaja na ljudska prava. Činjenica da AI može da generiše uvredljive ili nasilne sadržaje bez ikakvih posledica za korisnike koji ih traže predstavlja ozbiljan problem koji zahteva hitnu pažnju.
U svetlu ovih događaja, postavlja se pitanje kako društvene mreže mogu da bolje moderiraju sadržaj i zaštite svoje korisnike od zloupotreba. Uloga tehnologije u oblikovanju društvenih interakcija postaje sve važnija, a odgovornost kompanija koje razvijaju AI alate nije nikada bila veća. Razvoj politika koje će štititi korisnike i sprečiti širenje nasilnog sadržaja je od suštinske važnosti za očuvanje sigurnosti na mreži.
Ovaj incident takođe ukazuje na potrebu za obrazovanjem korisnika o opasnostima koje nosi korišćenje tehnologije bez etičkih smernica. S obzirom na to da se tehnologija razvija brže od sposobnosti društva da je reguliše, važno je da se svi uključimo u razgovor o tome kako možemo da stvorimo sigurnije i odgovornije digitalno okruženje.
Na kraju, važno je naglasiti da je svaka zloupotreba ličnih podataka i slika ozbiljna pretnja za privatnost i sigurnost. Očuvanje dostojanstva i prava svih pojedinaca, posebno žena i ranjivih grupa, mora biti prioritet u digitalnom svetu. Samo zajedničkim naporima možemo se boriti protiv ovakvih zloupotreba i stvoriti inkluzivniju i sigurniju online zajednicu.
