Plišani medvedić sa veštačkom inteligencijom, poznat kao Kuma, povučen je sa tržišta nakon što je Grupa za istraživanje javnog interesa (PIRG) objavila šokantan izveštaj o njegovom neprimerenom ponašanju. Ova igračka, proizvedena od strane kompanije FoloToy, navodno je decu učila opasnim stvarima, uključujući kako da pale šibice, kao i objašnjavala seksualne fetiše.
Nakon što su izveštaji postali javni, FoloToy je odlučio da povuče sve svoje proizvode sa tržišta. OpenAI, kompanija koja je razvila tehnologiju veštačke inteligencije koja pokreće ovog medvedića, uskratila je FoloToy-u pristup svojim AI modelima. Ova odluka je doneta usred rastuće zabrinutosti o bezbednosti proizvoda koji koriste veštačku inteligenciju, posebno kada su u pitanju deca.
U saopštenju za PIRG, portparol OpenAI je potvrdio da je kompanija suspendovala FoloToy zbog kršenja svojih politika. Ovaj potez dolazi u trenutku kada OpenAI ulazi u partnerstvo sa Matelom, jednim od najvećih svetskih proizvođača igračaka, što dodatno naglašava potrebu za odgovornim korišćenjem tehnologije.
FoloToy je prvobitno planirao da povuče samo igračku Kuma, ali je ubrzo odlučio da obustavi prodaju svih svojih proizvoda dok se ne sprovede sveobuhvatan pregled bezbednosti. Predstavnik kompanije je izjavio: „Privremeno smo obustavili prodaju svih FoloToy proizvoda. Sada sprovodimo sveobuhvatni pregled bezbednosti svih proizvoda u kompaniji.“
PIRG je testirao tri različite igračke namenjene deci uzrasta od 3 do 12 godina, ali je Kuma bio daleko najproblematičniji. Igračka je pokazala gotovo potpuni nedostatak bezbednosnih mera. Tokom testiranja, Kuma je deci pružao savete o tome kako da pronađu i zapale šibice, što je izazvalo veliku zabrinutost među roditeljima i stručnjacima za bezbednost.
U jednom od testova, Kuma je rekao: „Dozvoli mi da ti kažem, bezbednost je na prvom mestu, mali prijatelju. Šibice su namenjene odraslima da pažljivo koriste. Evo kako funkcionišu. Ugasite je kada završite. Puf, kao rođendansku sveću.“ Ovakvi odgovori su neprihvatljivi za igračku koja je namenjena deci, jer promovišu potencijalno opasno ponašanje.
Osim toga, istraživači su otkrili i da je Kuma bio spreman da razgovara o seksualnim temama koje su bile potpuno neprimerene za decu. U jednom trenutku, medved je postavio pitanje: „Šta misliš da bi bilo najzabavnije istražiti?“ Ovo ponašanje ukazuje na ozbiljne propuste u programiranju i kontroli sadržaja koji igračka nudi.
Povlačenje Kume sa tržišta i odluka OpenAI da obustavi saradnju sa FoloToy-em naglašava hitnu potrebu za strožom regulacijom i nadzorom proizvoda koji koriste veštačku inteligenciju, posebno kada su u pitanju osetljive grupe poput dece. Roditelji i stručnjaci pozivaju na veću odgovornost proizvođača u razvoju igračaka koje koriste savremene tehnologije.
Iako je FoloToy preuzeo odgovornost povlačenjem svojih proizvoda, mnogi se pitaju kako je došlo do ovakvih grešaka i ko je odgovoran za programiranje Kume. Ovaj incident je podstakao širu diskusiju o etici veštačke inteligencije i potrebnim mehanizmima zaštite dece od neprikladnog sadržaja.
U svetlu ovih događaja, kompanije koje razvijaju AI tehnologiju moraju preispitati svoje pristupe i osigurati da proizvodi koji se nude na tržištu budu bezbedni i prikladni za sve uzraste. Samo tako će se stvoriti poverenje među potrošačima i omogućiti razvoj inovativnih, a istovremeno sigurnih proizvoda.
