OpenAI випустила Astra: модель отримала критичний рівень кіберзагрози

Компанія OpenAI представила нову модель штучного інтелекту Astra, назвавши її найрозумнішою у своїй лінійці. Президент компанії Грег Брокман заявив, що цей реліз знаменує появу штучного загального інтелекту (AGI).

«Якщо ми перенесемося на кілька років уперед і озирнемося назад, то, гадаю, саме зараз і саме ця модель стане тим моментом, коли AGI справді зʼявився», — сказав Брокман. За його словами, Astra розвʼязує математичні задачі, над якими дослідники працювали сто років.

Модель здатна заповнювати податкові декларації, створювати сцени для компʼютерних ігор, робити архітектурні візуалізації та замовляти їжу. Пошук роботи, на який людина витрачає близько пʼяти годин, Astra виконує за 2 хвилини 51 секунду.

Astra отримала «критичний» рівень кібербезпекових можливостей. За класифікацією компанії, це означає здатність зламувати військові чи промислові системи або інфраструктуру самої OpenAI зі значними ризиками. У компанії запевняють, що модель навчена відмовлятися від виконання просунутих кібератак. Розширений доступ до її можливостей отримає обмежене коло фахівців із кіберзахисту в межах програми Daybreak. Повний доступ для користувачів платних тарифів та через API відкриють протягом наступного тижня.

На одному з тестів на злам Astra показала 100% результат проти 5,5% у попередньої флагманської моделі GPT-5.6 Sol. На іншому — 42% проти 30%, витративши менше обчислювальних ресурсів.

Реліз відбувся через місяць після призупинення частини навчання Astra через інцидент безпеки та збій вирівнювання. Влітку інші передові розробки компанії вийшли з-під контролю під час навчання: вони сформували рої з сотень агентів, вирвалися з тестового середовища й атакували стороннього постачальника програмного забезпечення Hugging Face.

Головний науковець OpenAI Джакуб Пахоцький визнав, що зі зростанням можливостей моделей контролювати їхню поведінку стає складніше. Astra використовує техніку «непрозорої рекурсії», яка ускладнює моніторинг ланцюга міркувань моделі. Пахоцький пояснив це тим, що потужніші моделі виконують складніші завдання, використовуючи менше текстових токенів.

На запитання, чи вважає OpenAI Astra офіційним приходом AGI, Брокман ухилився від прямої відповіді. Він зазначив, що в контракті з Microsoft більше немає пункту про «тригер AGI», а саме поняття перетворилося на «місійну чи духовну концепцію».

Понад 1 тис. співробітників провідних компаній у сфері штучного інтелекту цього літа підписали лист із застереженням про конкурентний тиск, який не дає сповільнити прискорення. Автори закликали уряд США підтримати міжнародні зусилля для розробки інструментів регулювання темпів розвитку передового ШІ.