Startup za veštačku inteligenciju Character.AI je nedavno objavio značajnu promenu u pristupu korisnicima mlađim od 18 godina. U saopštenju kompanije, naglašeno je da će ova grupa korisnika biti lišena mogućnosti da razgovara sa svojim četbotovima. Ova odluka dolazi kao deo šireg napora za obezbeđivanje bezbednosti i zaštite maloletnika na internetu.
Prema najnovijim informacijama, korisnici mlađi od 18 godina će u narednim danima imati samo dva sata „otvorenih ćaskanja“ sa AI sistemima, nakon čega će im biti potpuno onemogućeno da komuniciraju sa tim tehnologijama. Ova mera će stupiti na snagu do 25. novembra, što ukazuje na hitnost i ozbiljnost ove odluke.
Character.AI je osnovan s ciljem da omogući korisnicima interakciju sa naprednim AI modelima koji mogu simulirati ljudski razgovor. Međutim, kompanija je prepoznala potencijalne rizike povezane sa korišćenjem ovih tehnologija među maloletnicima. U mnogim slučajevima, mladi korisnici mogu biti izloženi sadržaju koji nije prikladan za njihovu starosnu grupu, ili se mogu suočiti sa situacijama koje mogu dovesti do emocionalnih ili psiholoških problema.
Ova odluka dolazi usred sve veće zabrinutosti u vezi s bezbednošću dece na internetu. Mnogi stručnjaci za mentalno zdravlje i pedagozi ističu da je važno zaštititi decu od štetnog sadržaja i interakcija koje bi mogle negativno uticati na njihov razvoj. Zbog toga je Character.AI odlučio da preduzme proaktivne mere kako bi osigurao da njihovi proizvodi budu sigurniji za mlađe korisnike.
Reakcije na ovu odluku su podeljene. Dok neki smatraju da je ovo neophodna mera za zaštitu dece, drugi se pitaju da li će ovakvo ograničenje smanjiti kreativnost i inovativnost kod mladih ljudi. Mnogi korisnici su izrazili zabrinutost da bi ovakvo ograničenje moglo otežati njihov pristup korisnim resursima i alatima koji mogu poboljšati njihovo učenje i razvoj.
Kao odgovor na kritike, predstavnici Character.AI su naglasili da je njihova primarna briga bezbednost korisnika. Oni su takođe istakli da će nastaviti da rade na razvoju i unapređenju svojih tehnologija kako bi obezbedili sigurno okruženje za sve korisnike, uključujući i mlade. U planu su i dodatne mere zaštite, kao što su filteri za sadržaj i alati za roditeljsku kontrolu, koji će omogućiti roditeljima da bolje upravljaju pristupom svojih mališana ovim tehnologijama.
Osim toga, Character.AI planira da angažuje stručnjake iz oblasti psihologije i obrazovanja kako bi stvorili smernice koje će pomoći u razvoju bezbednijih AI sistema. Očekuje se da će ove smernice biti predstavljene u narednim mesecima, a kompanija se nada da će kroz saradnju sa stručnjacima stvoriti inovativne rešenja koja će omogućiti mladima da koriste AI na konstruktivan način.
U današnjem digitalnom svetu, gde su tehnologije sve prisutnije, važno je da kompanije prepoznaju odgovornost koju imaju prema svojim korisnicima, posebno kada su u pitanju maloletnici. Odluka Character.AI da ograniči pristup četbotovima za korisnike mlađe od 18 godina može se smatrati korakom ka bezbednijem internetu, ali takođe postavlja pitanja o slobodi korišćenja tehnologija i mogućnostima za učenje i razvoj mladih.
U narednim nedeljama i mesecima, biće zanimljivo pratiti kako će se situacija razvijati i koje će dodatne mere kompanija preduzeti kako bi osigurala bezbednost svojih korisnika. U međuvremenu, roditeljima se savetuje da budu aktivni u nadzoru online aktivnosti svoje dece i da razgovaraju o potencijalnim rizicima i prednostima korišćenja veštačke inteligencije.
