Jedan obaveštajni izveštaj je ovog proleća, usred tenzija sa Iranom, izazvao uzbunu u američkoj vojsci kada je prijavljeno da kineski brod na Bliskom istoku prevozi komponente za razvoj nuklearnog oružja. Ova situacija je dovela do hitnih vojnih akcija, kako bi se brod presreo i istražio njegov teret. Četiri izvora upoznata sa situacijom izjavila su za CNN da je vojska odmah reagovala, a naoružani pripadnici američke vojske su se pripremali za ulazak na brod, dok su vojni avioni već bili u vazduhu.
Međutim, neposredno pre nego što je operacija trebala da počne, zvaničnici su odlučili da detaljnije analiziraju izveštaj. Utvrđeno je da je izveštaj kreiran uz pomoć veštačke inteligencije, a da je analitičar koristio čet-bota koji je pogrešno identifikovao teret broda. Prema rečima jednog od izvora, izveštaj je bio „potpuno netačan“ i gotovo je izazvao rat, s obzirom na to da bi svaka vojna operacija protiv kineskog broda mogla dovesti do oružanog sukoba.
Analitičar je od čet-bota tražio analizu obaveštajnih podataka o tovarnom listu broda, koji su stigli iz Komande za specijalne operacije SAD za Pacifik, smeštene na Havajima. Nije jasno da li je korišćen komercijalno dostupan čet-bot ili neki proizvod američke vlade. Prema rečima bivšeg visokog američkog zvaničnika, „interni alati su uglavnom samo kopije komercijalnih rešenja, koja su malo ušminkana“.
Softver je povezao javno dostupne informacije sa tajnim podacima iz vladinih baza i došao do pogrešnog zaključka o teretu. Nakon toga, analitičar je koristio veštačku inteligenciju da te nalaze oblikuje u standardni obaveštajni izveštaj, koji su vojni zvaničnici uzeli zdravo za gotovo i prosledili nadležnima.
Dok političari u Vašingtonu raspravljaju o dugoročnim egzistencijalnim pretnjama koje donosi veštačka inteligencija, ovaj incident s kineskim brodom ukazuje na mnogo veću opasnost. Reč je o ljudima koji donose ključne odluke na osnovu netačnih ili zavaravajućih informacija koje generišu automatizovani sistemi. U ovom slučaju, greška u analizi mogla je da dovede do ozbiljnih posledica, što ukazuje na potrebu za rigoroznijim proverama podataka pre donošenja odluka.
Izvori upozoravaju da se vojska sve više oslanja na veštačku inteligenciju za pomoć pri odabiru meta, što nosi očigledne rizike od kobnih grešaka. „Veštačka inteligencija nam omogućava da brže dođemo do loše ideje“, ističe jedan od sagovornika CNN-a.
Ovaj incident takođe otvara pitanja o tome koliko vojska i obaveštajne agencije razumeju i kontroliraju upotrebu veštačke inteligencije. Iako tehnologija može doneti brojne prednosti, njena upotreba u vojnim operacijama predstavlja značajan izazov koji zahteva pažljiv pristup i dodatna istraživanja.
U međuvremenu, vojne i obaveštajne agencije u SAD-u suočavaju se sa potrebom da unaprede svoje procedure i obuke kako bi se minimizovao rizik od sličnih grešaka u budućnosti. U svetu gde su informacije ključne za donošenje odluka, tačnost i verodostojnost podataka postaju od suštinskog značaja.
U zaključku, ova situacija nas podseća na opasnosti koje donosi prekomerna zavisnost od tehnologije, posebno kada su u pitanju kritične odluke koje mogu uticati na međunarodne odnose i bezbednost. Kako se svet suočava sa sve većim izazovima, važno je zadržati ljudski faktor u procesu donošenja odluka, kako bi se izbegle katastrofalne greške koje mogu proizaći iz automatizovanih sistema.
