ШІ-звіт про китайське судно ледь не призвів до операції США — CNN

За даними CNN, яке посилається на чотирьох обізнаних співрозмовників, інцидент стався під час війни з Іраном. У документі, що поширювався серед американських військових, ішлося про те, що китайське судно транспортує компоненти ядерної зброї. Це викликало тривогу, і військові розпочали підготовку до перехоплення корабля.

Озброєні американські військовослужбовці готувалися до висадки на судно, а літаки вже перебували в повітрі. Ситуація змінилася лише перед самим початком операції, коли посадовці почали детальніше перевіряти походження інформації.

З'ясувалося, що звіт підготував аналітик командування спеціальних операцій, скориставшись чатботом зі штучним інтелектом. Саме ШІ неправильно визначив характер вантажу на китайському судні. Який саме вантаж було ідентифіковано хибно, CNN встановити не вдалося.

Одне з джерел назвало документ "повністю неправдивим", зазначивши, що наслідки могли бути значно серйознішими. За словами співрозмовника видання, помилка "ледь не розпочала війну". Будь-яка американська операція проти китайського судна могла спричинити подальшу ескалацію між Вашингтоном і Пекіном.

Як зазначає CNN, спершу аналітик попросив чатбот проаналізувати розвіддані щодо маніфесту судна, які надійшли від Тихоокеанського командування спеціальних операцій США. Чатбот поєднав відкриті джерела з даними, отриманими засобами радіоелектронної розвідки, і дійшов хибного висновку про вантаж.

Після цього аналітик удруге використав ШІ — цього разу для оформлення висновків у стандартний розвідувальний звіт. Документ поширили серед військових посадовців, які могли сприймати його як звичайний перевірений аналітичний матеріал.

Інцидент стався на тлі масштабного впровадження ШІ в американських збройних силах. Технологію планують застосовувати для аналізу великих масивів розвідувальної інформації, вибору цілей для ударів, логістики та інших завдань. У січні міністр оборони США Піт Гегсет представив стратегію прискореного впровадження штучного інтелекту.

Водночас використання ШІ у військовій та розвідувальній сфері залишається децентралізованим: різні підрозділи застосовують різні системи та дотримуються різних правил безпеки. Єдиного стандарту перевірки інформації, яку генерують такі інструменти, немає.

За словами джерел CNN, випадки так званих "галюцинацій" ШІ, коли система генерує неправдиву інформацію, вже траплялися в американській розвідувальній спільноті. Деякі посадовці побоюються, що прагнення прискорити підготовку розвідданих може збільшувати кількість помилок.

"ШІ дозволяє швидше дійти до поганої ідеї", — заявив один зі співрозмовників видання.