Un raport fals generat de AI a declanșat alerta: armata SUA, la un pas de a intercepta o navă chineză
Un raport de intelligence distribuit în cadrul armatei americane în această primăvară, în plin război cu Iranul, a declanșat imediat alarma: o navă chineză aflată în Orientul Mijlociu transporta componente ale unui program de arme nucleare. Armata a pregătit interceptarea navei, însă, în urma unei analize mai atente, concluzia a fost că raportul, realizat cu ajutorul inteligenței artificiale, identificase greșit încărcătura navei.
Armata americană a trecut la acțiune, pregătind planuri pentru interceptarea navei, potrivit a patru surse familiarizate cu episodul. Conform a două dintre surse, militari americani înarmați se pregăteau să urce la bordul navei. Avioane militare se aflau deja în aer, au declarat una dintre aceste surse și o altă persoană familiarizată cu incidentul.
Abia cu puțin timp înainte de operațiunea planificată, oficialii au analizat mai atent raportul întocmit de un analist al comandamentului pentru operațiuni speciale și au descoperit că acesta fusese realizat cu ajutorul inteligenței artificiale și că un chatbot folosit de analist identificase în mod eronat materialul transportat de navă. Nu se cunoaște ce reprezenta în realitate încărcătura identificată greșit.
Raportul era „complet fals”, potrivit uneia dintre surse. Dar „aproape că a declanșat un război”, a afirmat aceasta. Orice operațiune americană împotriva unei nave chineze ar fi putut risca să escaladeze într-un conflict armat între cele două țări.
În întreaga armată americană și în comunitatea de informații, oficialii încearcă să integreze inteligența artificială în aproape toate aspectele activității lor, de la analizarea volumelor uriașe de informații brute colectate de Statele Unite și selectarea țintelor pentru atacuri până la aplicații mai obișnuite, precum gestionarea bugetelor, logisticii și lanțurilor de aprovizionare. Episodul evidențiază însă riscurile majore ale utilizării acestei tehnologii puternice, noi și încă relativ puțin înțelese pentru selectarea țintelor în timpul unui război.
Analiștii se tem de mult timp că inteligența artificială ar putea conduce la o eroare de calcul catastrofală dacă statele se bazează pe date de slabă calitate sau compromise – genul de eroare care ar putea determina Statele Unite să deschidă focul asupra unei nave chineze pe baza unor informații inexacte.
În acest caz, analistul a consultat un chatbot în legătură cu informații privind documentele referitoare la încărcătura navei, provenite de la Comandamentul pentru Operațiuni Speciale al SUA din Pacific, cu sediul în Hawaii. Nu este clar dacă chatbotul era unul disponibil pe piață sau un produs al guvernului american.
„Instrumentele interne sunt, în mare parte, doar copii ale celor comerciale, cosmetizate”, a declarat un fost oficial american de rang înalt familiarizat cu sistemele de inteligență artificială utilizate de analiștii militari și de informații. Chatbotul a combinat informații din surse deschise cu informații secrete provenite din interceptarea semnalelor și aflate în bazele de date guvernamentale, ajungând la concluzia decisivă, dar eronată, privind materialul transportat de navă. Analistul a folosit apoi din nou inteligența artificială pentru a transforma constatările într-un raport standard de informații – tipul de document în care oficialii militari au încredere – și l-a distribuit.