Ovogodišnji obavještajni izvještaj koji je kružio američkom vojskom usred napetosti s Iranom umalo je izazvao ozbiljan sukob sa Kinom. Prema navodima CNN-a, izvještaj je tvrdio da kineski brod na Bliskom istoku prevozi komponente za nuklearno oružje, što je pokrenulo pripreme za vojnu akciju.
Naoružani pripadnici američke vojske pripremali su se za ukrcavanje na plovilo, dok su ratni avioni već bili u vazduhu. Tek u posljednjem trenutku otkriveno je da je izvještaj u potpunosti generisan pomoću vještačke inteligencije i da sadrži takozvane "halucinacije", odnosno netačne podatke koje je proizveo AI sistem.
Kako je došlo do greške
Analitičar komande za specijalne operacije koristio je chatbot kako bi analizirao podatke o manifestu tereta broda koji je isplovio sa Havaja. Sistem je spojio informacije iz otvorenih izvora sa tajnim podacima iz vladinih arhiva, ali je pogrešno identifikovao vrstu tereta. Analitičar je zatim iskoristio isti AI alat da rezultate pretvori u zvaničan obavještajni izvještaj koji je potom distribuiran unutar vojnih struktura.
"Izvještaj je bio u potpunosti lažan, ali je skoro započeo rat", naveo je jedan od izvora upoznatih sa slučajem za CNN.
Da je planirana operacija sprovedena, mogla je izazvati direktan sukob između Sjedinjenih Američkih Država i Kine, dvije najveće svjetske sile.
Ubrzana primjena AI u vojnim sistemima
Incident je otvorio pitanje rizika koje nosi sve veća upotreba vještačke inteligencije u obavještajnom radu i vojnim operacijama. Ministar odbrane SAD-a Pete Hegseth je početkom godine predstavio strategiju ubrzane primjene AI tehnologije u vojnim i civilnim sektorima, s ciljem da SAD ne zaostaju za rivalima poput Kine.
- Različiti dijelovi vlade koriste različite AI alate bez jedinstvenih sigurnosnih standarda
- Ne postoji centralizovan sistem provjere tačnosti podataka generisanih vještačkom inteligencijom
- Mlađi analitičari su posebno skloni bezuslovnom povjerenju u AI sisteme
Stručnjaci upozoravaju da korištenje sistema zasnovanih na nepouzdanim podacima može dovesti do katastrofalnih grešaka, posebno kada se AI koristi za odabir vojnih meta. Jedan od izvora upoznatih sa slučajem sažeo je problem riječima:
"Vještačka inteligencija vam omogućava da brže dođete do loše ideje."
Slučaj sa kineskim brodom pokazuje da najveća opasnost od primjene vještačke inteligencije u vojne svrhe možda nije u tome da tehnologija izmakne kontroli, već u tome da ljudi donose pogrešne i pogubne odluke oslanjajući se na netačne podatke koje generišu ovi sistemi.
