Китайські військові використовують американські ШІ-моделі для навчання своїх систем

Китайські військові науковці використовували метод «дистиляції моделі», за якого вихідні дані великих ШІ-систем, зокрема GPT-3.5 від OpenAI та Claude 3 Haiku від Anthropic, стають основою для навчання менших спеціалізованих моделей. Такі моделі можна розгортати локально без значних обчислювальних ресурсів.

Аналіз наукових публікацій показав широке застосування цієї техніки в установах, пов'язаних із Народно-визвольною армією Китаю. У статті, опублікованій підрозділом 96941 НВАК, який займається військовою розвідкою та кібервійною, описано використання GPT-3.5 для обробки конфіденційного військового коду. Оскільки сторонні моделі не підходять для секретних даних, дослідники використали їх для узагальнення коду, а потім навчили власну модель, що працює лише у військових мережах Китаю.

У Північному університеті Китаю, що має зв'язки з оборонною промисловістю, модель Claude 3 Haiku застосовували для генерації синтетичних даних для системи моніторингу соціальних мереж. Національний університет оборонних технологій використав дистиляцію для зменшення моделі обробки зображень, щоб її можна було розгортати на безпілотниках для аналізу відео в реальному часі.

Дослідники Китайської академії військових наук застосували дистиляцію для запуску моделі розпізнавання цілей на тактичному обладнанні під час імітованих морських операцій за участю дронів, кораблів та підводних човнів.

Представник фонду Джеймстауна Санні Ченг, який проаналізував понад 60 китайських робіт, зазначив: «Навчити модель правильної відповіді – це одне, але навчити її обґрунтуванню цієї відповіді набагато складніше. Ці статті свідчать про те, що китайські дослідники, пов'язані з військовими структурами, намагаються перенести ці дорогі запатентовані алгоритми західних моделей у менші системи, якими вони можуть керувати та розгортати на місцевому рівні».

Anthropic заявила, що не надає комерційного доступу до Claude у Китаї та використовує системи моніторингу для виявлення порушень політики. Компанія також попередила, що дистильовані моделі можуть втратити заходи безпеки оригінальних систем.

Питання дистиляції стало предметом суперечки між США та Китаєм напередодні переговорів щодо регулювання ШІ. Американські чиновники звинувачують китайські організації у вилученні можливостей з американських моделей, що підриває експортний контроль. Китай відкидає ці звинувачення, називаючи їх спробою Вашингтона зберегти «гегемонію» у сфері ШІ.

Водночас китайські військові дослідники вивчають і ризики дистиляції. У січні фахівці Інженерного університету армії опублікували статтю про загрозу «дистиляції без даних» — методу реверс-інжинірингу моделі без доступу до її параметрів. Вони запропонували захисні механізми для маскування прихованої логічної інформації, а також зазначили, що дистильовані моделі успадковують лише окремі можливості і не можуть повністю відтворити широкі інтелектуальні здібності передових систем.