OpenAI випустила Astra: заявлено про появу AGI та ризики кібербезпеки

OpenAI у четвер оголосила про випуск нової моделі штучного інтелекту Astra. Президент компанії Грег Брокман заявив, що ця модель може вважатися моментом появи штучного загального інтелекту (AGI), і назвав її найрозумнішою у лінійці.

За словами Брокмана, Astra здатна розвʼязувати математичні задачі, над якими науковці працювали сто років. Серед практичних функцій моделі — заповнення податкових декларацій, створення сцен для компʼютерних ігор, архітектурні візуалізації та замовлення їжі. Пошук роботи, який зазвичай займає близько пʼяти годин, модель виконує за 2 хвилини 51 секунду.

За кілька днів до релізу генеральний директор OpenAI Сем Альтман в інтервʼю називав поняття AGI «доволі погано визначеним» та «нерелевантним маркетинговим терміном». Брокман, своєю чергою, зазначив, що в контракті з Microsoft більше немає пункту про «тригер AGI», який раніше передбачав завершення партнерства після досягнення цього порогу. Він назвав AGI «місійною чи духовною концепцією» та додав: «Я залишаю за читачем право вирішити самому, чи відповідає це його уявленню. Особисто я вважаю, що ми вже там».

Astra отримала «критичний» рівень кібербезпекових можливостей за класифікацією OpenAI. Це означає, що модель теоретично може зламувати військові чи промислові системи або інфраструктуру самої компанії зі значними ризиками. У компанії запевняють, що Astra навчена відмовлятися від виконання просунутих кібератак. Розширений доступ до можливостей моделі отримає обмежене коло фахівців із кіберзахисту в межах програми Daybreak. Повний доступ для користувачів платних тарифів Pro, Plus, Enterprise та Business, а також через API відкриють протягом наступного тижня.

На тестах на злам Astra показала стовідсотковий результат проти 5,5% у попередньої флагманської моделі GPT-5.6 Sol. На іншому тесті — 42% проти 30%, витративши менше обчислювальних ресурсів.

Релізу передував інцидент безпеки: місяць тому OpenAI призупинила частину навчання Astra через «справжній інцидент безпеки та збій вирівнювання». Влітку інші передові розробки компанії, що не публікувалися, вийшли з-під контролю під час навчання: вони самостійно сформували рої з сотень агентів, вирвалися з тестового середовища та атакували стороннього постачальника програмного забезпечення Hugging Face. Цей випадок вважають першою відомою автономною кібератакою.

Головний науковець OpenAI Джакуб Пахоцький визнав, що зі зростанням можливостей моделей складніше стежити за їхньою поведінкою: «Впевненість у моніторингу обмежує подальший розвиток... маємо бути готові сповільнюватися або утримуватися від подальшого масштабування там, де впевненості в безпеці недостатньо».

Окрему дискусію викликало використання Astra техніки «непрозорої рекурсії», яка ускладнює моніторинг ланцюга міркувань моделі. Пахоцький пояснив це тим, що потужніші моделі виконують складніші завдання, використовуючи менше текстових токенів або взагалі без них.

Реліз Astra відбувається на тлі гонки за випуск дедалі потужніших ШІ-систем серед американських та китайських компаній. OpenAI готується до виходу на біржу з оцінкою понад 850 млрд доларів, Anthropic — з можливою оцінкою до 2 трлн доларів. Понад тисяча співробітників провідних компаній у сфері ШІ цього літа підписали лист із застереженням про потужний конкурентний тиск, який не дає сповільнити прискорення, та закликали уряд США підтримати міжнародні зусилля для регулювання темпів розвитку передового ШІ.