Predsednica Evropske komisije, Ursula fon der Lajen, osudila je nedavne aktivnosti platforme društvenih mreža Iks, posebno korišćenje alata veštačke inteligencije pod imenom Grok, koji omogućava korisnicima da kreiraju seksualno eksplicitne lažne slike, poznate kao deepfake. Ona je izrazila zabrinutost zbog načina na koji ova tehnologija omogućava digitalno obnažavanje žena i dece, naglašavajući da je takvo ponašanje „nezamislivo“ i da šteta koju ove lažne slike mogu izazvati „veoma stvarna“.
Ursula fon der Lajen je izjavila da će Evropska unija biti primorana da reaguje ukoliko „Silikonska dolina“ ne preduzme potrebne mere kako bi se suprotstavila ovoj praksi. Njena izjava dolazi u trenutku kada su hiljade žena i tinejdžerki, uključujući javne ličnosti, prijavile da je alat Grok koristio njihove fotografije kako bi ih digitalno menjao, stvarajući slike u bikinijima. Ova praksa je izazvala veliku zabrinutost u društvu, posebno zbog mogućeg uticaja na mentalno zdravlje žrtava i na širu društvenu percepciju.
Britanski regulator medija Ofkom je takođe reagovao na ovu situaciju otvaranjem istrage zbog mogućih kršenja zakona o onlajn bezbednosti (Online Safety Act). Portparol Ofkoma je izjavio da su izveštaji o Groku, koji kreira i deli nelegalne intimne slike i seksualno neprimeren sadržaj, posebno onaj koji uključuje decu, „duboko zabrinjavajući“. Oni su naglasili da platforme moraju preduzeti odgovarajuće mere kako bi zaštitile korisnike, a posebno decu.
Ukoliko Ofkom utvrdi da je Iks prekršio britanske zakone, može zahtevati od platforme da se uskladi sa propisima i nadoknadi štetu, ali takođe može da izrekne kaznu do 18 miliona funti ili 10% globalnog prihoda kompanije. Ova situacija je izazvala slične reakcije i u drugim evropskim zemljama, uključujući Belgiju, Irsku i Francusku, gde su takođe pokrenute istrage.
Fenomen deepfake tehnologije i njene zloupotrebe predstavlja ozbiljan izazov za društvo. Ova tehnologija, koja koristi veštačku inteligenciju za kreiranje lažnih video sadržaja koji izgledaju kao stvarni, može imati dalekosežne posledice po privatnost, reputaciju i mentalno zdravlje pojedinaca. Zbog lakoće s kojom se može koristiti, duboko se može uticati na živote ljudi, a posebno na žene koje su često meta ovakvih zloupotreba.
U svetlu ovih dešavanja, postoji potreba za jačim regulativama i zakonima koji će zaštititi pojedince od zloupotrebe tehnologije. Evropska unija, kao i nacionalne vlade, moraju razmotriti kako da se nose sa ovim pitanjem u digitalnom dobu, gde granice između stvarnosti i fikcije postaju sve nejasnije. Takođe, važno je da platforme društvenih mreža preuzmu odgovornost za sadržaj koji se deli na njihovim platformama i da implementiraju efikasne mehanizme za prijavu i uklanjanje neprimerenog sadržaja.
U zaključku, trenutna situacija sa alatom Grok i politikom platforme Iks naglašava urgentnost potrebe za regulacijom i zaštitom korisnika, posebno žena i dece, u digitalnom svetu. Kako tehnologija napreduje, tako se i potrebe za zaštitom moraju razvijati, a društvo mora raditi na stvaranju bezbednijeg i odgovornijeg okruženja za sve korisnike interneta.
