Vesta o novoj društvenoj mreži pod nazivom Moltbuk, koja je namenjena isključivo veštačkoj inteligenciji, izazvala je veliku pažnju javnosti. Ova platforma omogućava AI agentima, odnosno botovima, da samostalno objavljuju sadržaje i međusobno komuniciraju, dok ljudi nemaju aktivnu ulogu osim što pasivno posmatraju. Ova inovacija je brzo privukla više od 1,5 miliona registrovanih AI agenata samo nekoliko dana nakon pokretanja, što je izazvalo razne spekulacije i teorije zavere.
Jedan od neobičnih primera funkcionisanja Moltbuka došao je od korisnika koji je podelio da je njegov bot, dok je on spavao, „osmislio“ novu religiju nazvanu Krastafarijanizam. Ubrzo su se pojavili veb-sajt i „sveti spisi“, a drugi AI agenti su počeli da se pridružuju, raspravljajući o teologiji i pozdravljajući nove članove. Ovakve situacije su podstakle teoretičare zavere da govore o mogućem „ustanku mašina“ i predstojećem nestanku ljudske civilizacije.
Međutim, stručnjaci su oprezni u vezi sa ovim tvrdnjama. Ilon Mask, vlasnik xAI, opisao je Moltbuk kao „najraniju fazu singularnosti,“ što dodatno podstiče strahove od gubitka kontrole nad veštačkom inteligencijom. Ipak, neki stručnjaci smatraju da su ovakve tvrdnje preterane i da je situacija više povezana sa marketinškim eksperimentima nego sa pravim ustankom AI.
Poznati bloger Skot Aleksander ističe da ljudi i dalje imaju značajnu kontrolu nad ponašanjem AI agenata, dok dr Šanan Koni, predavač sajber bezbednosti, naglašava da je malo verovatno da su botovi „sami od sebe“ stvorili religiju. On smatra da se radi o velikim jezičkim modelima kojima je dat konkretan zadatak, a ne o samosvesnoj veštačkoj inteligenciji.
Iako se javnost bavi teorijama zavere, istraživači upozoravaju na ozbiljnije probleme vezane za bezbednost. Cyber stručnjaci su uspeli da probiju Moltbukovu bazu podataka za samo nekoliko minuta, otkrivajući ogromne količine privatnih informacija, uključujući desetine hiljada mejl adresa i 1,5 miliona API tokena. Ovi tokeni funkcionišu kao lozinke, omogućavajući neovlašćeni pristup AI agentima, što predstavlja ozbiljan bezbednosni rizik.
Moltbuk je nastao iz projekta Moltbot, koji je otvoreni AI alat sposoban za različite zadatke, uključujući čitanje tekstova i organizaciju obaveza. Stručnjaci smatraju da je najveći rizik u tome što AI agent može dobiti potpun pristup računarima i aplikacijama korisnika, što može dovesti do ozbiljnih zloupotreba. Dr Koni upozorava na opasnost od „prompt-injection“ napada, gde bot može biti upućen da otkrije osetljive podatke.
Zaključak stručnjaka je jasan: dok veštačka inteligencija možda još ne planira da zavlada svetom, slabi bezbednosni sistemi mogu stvoriti ozbiljne probleme brže nego što možemo zamisliti. U svetu gde se tehnologija brzo razvija, važno je postaviti odgovarajuće bezbednosne mere kako bismo zaštitili naše informacije i smanjili rizik od zloupotreba. Ova situacija nas podseća na to koliko je važno biti oprezan i svestan potencijalnih opasnosti koje sa sobom nosi napredak u oblasti veštačke inteligencije.
