CNN: AI umalo izazvao rat Amerike i Kine

Obavještajni izvještaj koji je ovog proljeća stvorila vještačka inteligencija umalo je dovelo do oružanog sukoba SAD i Kine. U izvještaju je pisalo da kineski brod na Bliskom istoku prevozi komponente za nuklearni program, što je podstaklo hitnu vojnu reakciju.

Američka vojska pripremala je presrijetanje plovila, a prema tvrdnjama više izvora upućenih u događaj, naoružani vojnici bili su spremni za upad na brod dok su vojni avioni već bili u vazduhu, piše CNN.

Operacija je zaustavljena u posljednjem trenutku.

Zvaničnici su dodatnom provjerom utvrdili da je izvještaj, koji je sastavio analitičar Komande za specijalne operacije, generisan uz pomoć vještačke inteligencije.

Chatbot koji je analitičar koristio pogrešno je protumačio podatke i identifikovao teret. CNN nije uspio saznati što je brod zaista prevozio.

Jedan od izvora opisao je izvještaj kao "potpuno lažan" i dodao da je "zamalo izazvao rat". Bilo kakva američka akcija protiv kineskog plovila mogla je eskalirati u oružani sukob dviju svjetskih sila.

Rizici nekontrolisane primjene

Incident jasno pokazuje rizike koji proizlaze iz primjene nove i nedovoljno ispitane tehnologije u ratnim uslovima.

Američka vojska i obavještajna zajednica nastoje da integrišu vještačku inteligenciju u gotovo sve aspekte djelovanja, od analize podataka i odabira ciljeva do logistike i upravljanja budžetom.

Upozorenje analitičara

Analitičari već dugo upozoravaju da bi se AI, ako se oslanja na loše ili kompromitovane podatke, mogao koristiti za donošenje katastrofalnih odluka, poput napada na kineski brod na osnovu dezinformacija.

U ovom slučaju, analitičar je od chatbota zatražio analizu obavještajnih podataka s brodskog manifesta.

Podaci su stigli iz Komande za specijalne operacije SAD na Pacifiku. Nije poznato je li korišćen komercijalni chatbot ili alat koji je razvila američka vlada.

Bivši visoki američki zvaničnik upućen u sisteme vještačke inteligencije kaže da su "interni alati uglavnom samo kopije komercijalnih proizvoda čija je spoljašnjost malo ušminkana".

Softver je povezao javno dostupne informacije s tajnim podacima iz vladinih baza i izveo pogrešan zaključak o teretu.

Analitičar je potom istim AI alatom formatirao nalaze u standardni format obavještajnog izvještaja i proslijedio ga dalje unutar sistema.

Komanda za specijalne operacije na Pacifiku i Pentagon nisu odgovorili na upit za komentar.

Strateški imperativ Pentagona

Brza implementacija vještačke inteligencije zasniva se na uvjerenju da ona vojsci može omogućiti brže donošenje odluka na ratištu, od odabira ciljeva do raspoređivanja resursa.

Zvaničnici smatraju da si SAD ne smiju dopustiti zaostatak za Kinom ili drugim protivnicima koji bi mogli biti tehnološki napredniji.

Ministar odbrane Pit Hegset u januaru je predstavio "Strategiju ubrzanja primjene vještačke inteligencije".

- Podstaći ćemo eksperimentisanje, ukloniti birokratske prepreke, usmjeriti ulaganja i pokazati pristup potreban da obezbijedimo vodeću poziciju u vojnoj primjeni vještačke inteligencije - rekao je Hegset.

Strategija nalaže široku primjenu AI u cijeloj vojsci.

Cilj je "demokratizovati eksperimentisanje" i omogućiti transformaciju unutar Ministarstva. Plan predviđa da se vodeći svjetski AI modeli stave na raspolaganje za tri miliona civilnih i vojnih oficira na svim nivoima tajnosti podataka.

Problem je što je taj proces decentralizovan, navodi više američkih zvaničnika. Različiti djelovi vlade koriste različite alate, pod različitim zapovjedništvima i bezbjednosnim standardima.

Ne postoji jedinstveni sistem pravila za provjeru informacija koje ti alati generišu. Zbog toga pouzdanost i funkcionalnost brojnih AI sistema u vojsci i obavještajnoj zajednici značajno variraju, prenosi Index.

Ljudski faktor kao najveći rizik

Dok političari u Vašingtonu raspravljaju o dugoročnim egzistencijalnim prijetnjama vještačke inteligencije, podstaknuti upozorenjima tehnoloških lidera, incident s kineskim brodom ukazuje na puno neposredniju opasnost. Riječ je o ljudima koji donose kritične odluke na osnovu netačnih ili zavaravajućih informacija koje generišu automatizovani sistemi.

 "AI vam omogućava da brže dođete do loše ideje"

Izvori upozoravaju da se vojska sve više oslanja na AI za pomoć pri odabiru meta, što nosi očigledan rizik od kobnih grešaka.

- Primjena AI u odabiru meta definitivno je u porastu, a ne postoje jasne smjernice o tome kako će prisutnost čovjeka u tom procesu spriječiti civilne žrtve ili prijateljsku vatru - rekao je drugi izvor upućen u vojnu politiku.

Takozvana "halucinacija" AI alata, kakva se dogodila u ovom slučaju, nije izolovan incident otkako su se takvi sistemi proširili unutar vlade, tvrdi jedan od izvora.

Neki stariji obavještajni zvaničnici smatraju da tehnologija stvara pritisak na analitičare da brže obrađuju i šalju izvještaje, što povećava mogućnost greške. Više izvora ističe da su mlađi analitičari posebno skloni nekritički vjerovati alatima koje koriste.

Kako je sažeo jedan od sagovornika: "AI vam omogućava da brže dođete do loše ideje".