ШІ-звіт ледь не спричинив перехоплення китайського судна військовими США

За даними чотирьох джерел, обізнаних з інцидентом, розвідувальний документ нібито засвідчував перевезення компонентів для ядерної програми. На його основі військові почали розробляти план перехоплення судна; двоє співрозмовників стверджують, що військовослужбовці вже готувалися до висадки на борт, а літаки перебували в повітрі.

Документ перевірили повторно безпосередньо перед початком операції. Тоді з'ясувалося, що аналітик Командування спеціальних операцій скористався чат-ботом зі ШІ, який помилково ідентифікував вантаж судна. Один із співрозмовників назвав звіт «повністю хибним», інший заявив, що інцидент «ледь не призвів до війни», оскільки будь-які дії США проти китайського судна могли спровокувати збройне протистояння між державами.

За наявною інформацією, аналітик звернувся до чат-бота із запитом щодо вантажної відомості судна, використовуючи дані, отримані від Командування спеціальних операцій США в Тихоокеанському регіоні. Встановити, яку саме систему застосовували для аналізу — комерційну чи урядову — не вдалося. «Внутрішні інструменти — це здебільшого ті самі комерційні продукти, яким просто надали іншого вигляду», — зазначив колишній високопосадовець США, знайомий із військовими системами ШІ.

Бот поєднав дані з відкритих джерел (OSINT) із секретною інформацією, отриманою засобами радіоелектронної розвідки (SIGINT), після чого зробив неправильний висновок про характер вантажу. Далі аналітик знову використав ШІ, щоб оформити результати у стандартний розвідувальний звіт, який поширили серед військового керівництва.

Американські військові активно впроваджують ШІ для аналізу великих масивів розвідувальної інформації, визначення цілей, логістики та управління ресурсами. Посадовці пояснюють прискорення цього процесу необхідністю не відставати від потенційних суперників, насамперед Китаю. У січні міністр війни США Піт Гегсет представив «Стратегію прискорення впровадження штучного інтелекту», заявивши: «Ми дамо зелене світло експериментам, усунемо бюрократичні перепони, зосередимо інвестиції та продемонструємо підхід до реалізації, необхідний для забезпечення нашого лідерства у сфері військового ШІ». Документ передбачає масштабне розширення доступу до моделей ШІ для приблизно трьох мільйонів цивільних і військових співробітників Міністерства війни США з різними рівнями допуску до секретної інформації.

Навесні Пентагон уклав угоди з сімома технологічними компаніями — Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection та SpaceX — щодо інтеграції інструментів ШІ в засекречені військові мережі. До переліку партнерів не увійшла Anthropic через публічний конфлікт із Білим домом щодо небажання розробника знімати етичні обмеження на використання моделей в автономній зброї та системах масового стеження.

За словами американських посадовців, впровадження ШІ відбувається децентралізовано: різні підрозділи використовують різні системи, керуються окремими інструкціями та стандартами безпеки, а єдиного механізму перевірки згенерованої ШІ інформації наразі не існує. «Використання ШІ для визначення цілей — це напрямок, що активно розвивається, однак наразі немає чітких інструкцій щодо того, як саме участь людини в процесі ухвалення рішень зможе запобігти загибелі цивільних осіб або випадкам дружнього вогню», — повідомило одне з джерел.

За словами співрозмовників, подібні «галюцинації» систем ШІ вже не є рідкістю у розвідувальному співтоваристві після масового впровадження таких інструментів. Особливе занепокоєння викликає те, що нові технології скорочують час на підготовку розвідувальних матеріалів і можуть посилювати схильність молодших аналітиків довіряти результатам ШІ без достатньої критичної перевірки. «ШІ дозволяє швидше дійти до хибного висновку», — підсумувало одне з джерел.

Тим часом на безпековому форумі «Сяншань» у Пекіні делегати з понад 100 країн назвали стрімку мілітаризацію та неконтрольований розвиток ШІ однією з ключових загроз глобальному правопорядку. Представники оборонних відомств і міжнародних організацій наголосили, що алгоритми розмивають лінії фронту, через що збереження контролю людини над застосуванням зброї стає життєво необхідним.

Раніше моделювання стратегічних криз, проведене професором Королівського коледжу Лондона, показало, що конфлікти за участю провідних моделей ШІ — Claude Sonnet 4, GPT-5.2 та Gemini 3 Flash — майже неминуче завершуються ядерною ескалацією. У 75% змодельованих сценаріїв алгоритми вдавалися до використання тактичної ядерної зброї, розглядаючи її радше як інструмент агресивного захоплення територій, аніж засіб стримування.