Stručnjaci sve češće upozoravaju na to da veštačka inteligencija (AI) nije nepogrešiva, a nedavna odluka kompanije Starbucks da obustavi korišćenje svog AI sistema za praćenje zaliha ponovo je otvorila pitanje o pouzdanosti ovih tehnologija. U proteklih devet meseci, ovaj softver je bio zadužen za automatsko praćenje stanja zaliha u prodavnicama širom Severne Amerike, ali je kompanija odlučila da se vrati klasičnoj, ručnoj kontroli.
Sistem veštačke inteligencije je uveden kao deo strategije kompanije da smanji česte nestašice proizvoda koje su negativno uticale na prodaju i korisničko iskustvo. Ideja je bila da AI prati količine mleka i sastojaka za napitke, ubrza procese i rastereti zaposlene. Međutim, rezultati su pokazali suprotno. Prema internim informacijama, sistem je pravio ozbiljne greške – neki proizvodi uopšte nisu bili registrovani, dok su drugi pogrešno evidentirani. Umesto da donese bolju organizaciju i preciznije upravljanje zalihama, kompanija se suočila sa dodatnim problemima i nesigurnošću u radu, što je dovelo do odluke da se vrati tradicionalnom modelu popisa.
Ovaj slučaj ponovo pokreće pitanje o tome koliko se kompanije previše oslanjaju na AI tehnologiju i gde se zapravo javlja problem – u samom sistemu ili u načinu njegove primene. Stručnjaci ukazuju na to da veštačka inteligencija ne greši nužno zbog svojih intrinsicnih manjkavosti, već zbog okruženja u kojem funkcioniše. Ako je sistem treniran na lošim ili pristrasnim podacima, ili ako ne postoje jasna pravila i procedure, rezultati mogu biti pogrešni i potencijalno opasni.
Kao primer se navodi Amazon, koji je testirao AI alat za selekciju kandidata za posao. U ovom slučaju, sistem nije bio rodno neutralan jer je bio treniran na istorijskim podacima u kojima su dominirali muškarci. Na taj način, AI nije „izmislio“ diskriminaciju, već je reprodukovao postojeće obrasce iz podataka na kojima je učio.
Advokati iz kancelarije Stojković Advokati objašnjavaju da algoritmi nikada nisu potpuno nezavisni donosioci odluka. Veštačka inteligencija ostaje proizvod ljudskih odluka. Ljudi biraju podatke, postavljaju pravila, određuju ciljeve i granice sistema. Ako u tim koracima postoje greške ili predrasude, velika je verovatnoća da će AI preneti te greške i na buduće rezultate.
Sličan problem pojavio se i kod avio-kompanije Air Canada, kada je njihov chatbot dao pogrešne informacije o refundaciji avionske karte. Kasnije je zaključeno da kompanija ne može izbeći odgovornost tvrdeći da je grešku napravio chatbot, niti da je AI sistem „odvojeni entitet“. Pravnici naglašavaju da se zbog toga sve više govori o „lancu odgovornosti“ kada su u pitanju AI sistemi. U tom procesu učestvuju kompanije koje razvijaju modele, firme koje ih treniraju, organizacije koje ih integrišu u poslovanje, kao i zaposleni i korisnici koji svakodnevno koriste rezultate koje AI generiše.
Jedan od ključnih problema je „black box“ efekat, odnosno situacija u kojoj nije moguće tačno objasniti kako je AI sistem došao do određene odluke ili gde je nastala greška. Ipak, najveći izazov za kompanije danas često nije razvoj sopstvenih AI modela, već svakodnevna upotreba generativnih AI alata među zaposlenima. Takvi sistemi koriste se za pisanje mejlova, obradu podataka, pripremu prezentacija, analizu ugovora i komunikaciju sa klijentima. Iako to donosi veću brzinu rada, otvara i pitanja zaštite podataka, poslovnih tajni, intelektualne svojine i pravne odgovornosti.
Na kraju, postavlja se pitanje ko ima kontrolu nad sistemom i ko je odgovoran za eventualnu štetu. U svetu gde se veštačka inteligencija sve više koristi u poslovanju, razumevanje i upravljanje njenim mogućnostima i ograničenjima postaje ključno za uspeh i sigurnost kompanija.
