ШІ-звіт із хибними даними ледь не призвів до операції США проти китайського судна

Звіт поширили серед американських військових на тлі війни з Іраном. У документі йшлося про те, що китайське судно перевозить компоненти ядерної зброї. Це викликало тривогу, і військові почали підготовку до перехоплення корабля.

За даними співрозмовників, озброєні військовослужбовці готувалися висадитися на судно, а літаки вже перебували в повітрі. Ситуація змінилася лише незадовго до початку операції, коли посадовці детальніше перевірили походження інформації.

З'ясувалося, що звіт підготував аналітик командування спеціальних операцій, скориставшись чатботом зі штучним інтелектом. Саме ШІ неправильно визначив характер вантажу на китайському судні. Який саме вантаж було ідентифіковано невірно, встановити не вдалося.

Одне із джерел назвало документ "повністю неправдивим", зазначивши, що наслідки могли бути значно серйознішими. За словами співрозмовника, помилка "ледь не розпочала війну". Будь-яка американська операція проти китайського судна могла спричинити подальшу ескалацію між Вашингтоном і Пекіном.

Аналітик спершу попросив чатбот проаналізувати розвіддані щодо маніфесту судна, які надійшли від Тихоокеанського командування спеціальних операцій США. Чатбот об'єднав відкриті джерела з розвідувальними даними, отриманими засобами радіоелектронної розвідки, після чого дійшов хибного висновку про вантаж. Згодом аналітик знову використав ШІ — цього разу для оформлення висновків у стандартний розвідувальний звіт. Документ поширили серед військових посадовців, які могли сприймати його як звичайний перевірений аналітичний матеріал.

Інцидент стався на тлі масштабного впровадження ШІ в американських збройних силах. Технологію планують застосовувати для аналізу великих масивів розвідувальної інформації, вибору цілей для ударів, логістики та інших завдань. У січні міністр оборони США Піт Гегсет представив стратегію прискореного впровадження штучного інтелекту.

Водночас використання ШІ у військовій та розвідувальній сфері залишається децентралізованим: різні підрозділи застосовують різні системи та дотримуються різних правил безпеки. Єдиного стандарту перевірки інформації, яку генерують такі інструменти, немає.

За словами джерел, випадки так званих "галюцинацій" ШІ, коли система генерує неправдиву інформацію, вже траплялися в американській розвідувальній спільноті. Деякі посадовці побоюються, що прагнення прискорити підготовку розвідданих може збільшувати кількість помилок.

"ШІ дозволяє швидше дійти до поганої ідеї", - заявив один зі співрозмовників.