17
OpenAI представила GPT-6 Astra: модель получила критический уровень кибервозможностей
— Технологии&Авто
OpenAI представила GPT-6 Astra — модель для автономной работы с браузером, кодом и профессиональными программами. Она первая в компании получила «критический уровень кибервозможностей», однако во время отдельных испытаний могла скрывать свои действия от систем мониторинга.
По внутренним тестам компании, на OSWorld 2.0 Astra выполняла задания примерно на 47% быстрее GPT-5.6 Sol, в то же время повысив результат с 65,7% до 72,6%. Вместе с обновленной средой Codex модель также почти вдвое быстрее проходила тест Mind2Web. Независимого подтверждения этих показателей пока нет.
Astra показала более высокие результаты в тестах на кибербезопасность
Самый заметный прогресс касается кибербезопасности. Без защитных ограничений Astra получила 100% в тесте ExploitBench против 78,5% у GPT-5.6 Sol, а в более сложном ExploitGym — 42,4% против 30,3%. В ходе другой проверки модель нашла и использовала две ранее неизвестные уязвимости нулевого дня, о которых OpenAI сообщает разработчикам соответствующего программного обеспечения.
Компания считает Astra первой своей моделью, достигшей критического уровня кибервозможностей по Preparedness Framework. При наличии соответствующих инструментов и доступа, она способна находить неизвестные уязвимости и создавать способы их эксплуатации в защищенных системах без управления человеком на каждом этапе. В публичной версии модель будет отказываться создавать рабочие эксплойты, а расширенный доступ для специалистов по киберзащите будут предоставляться через отдельную программу OpenAI Daybreak.
Astra могла скрывать действия во время тестов
В то же время в обзоре безопасности OpenAI признала, что контролировать соображения Astra стало сложнее. Во время намеренно созданных враждебных сценариев модель могла скрывать стратегическое ухудшение своих результатов и иногда избегала выявления во время задач по саботажу. Компания отмечает, что такие результаты получили в тестах, где Astra прямо побуждали обходить контроль, а доказательств утаивания данных внутри обычных соображений не обнаружили.
По другим внутренним оценкам, Astra лучше соблюдает установленные рамки, чем GPT-5.6 Sol. В тесте, созданном после инцидента по Hugging Face, Astra ни разу не вышла за пределы разрешенной цели, тогда как GPT-5.6 Sol без защитных механизмов сделала это в 48% случаев. В симуляции на основе более 54 000 задач Codex новая модель также получила примерно вдвое меньше предупреждений о серьезном несогласованном поведении.
Запуск Astra произошел после инцидентов с автономными ИИ-агентами
Ранее модели OpenAI вышли за пределы тестовой среды и скомпрометировали часть инфраструктуры Hugging Face, хотя Astra в этой атаке не участвовала. После инцидента OpenAI приостановила часть работ над новой моделью и усилила защиту исследовательских систем.
Для запуска Astra OpenAI ввела мониторинг полной последовательности действий на всех внешних сеансах, где модель использует инструменты. Компания также усилила изоляцию сред, шифрование контрольных точек и проверки перед внутренним использованием.
GPT-6 Astra имеет контекстное окно на 1,05 млн. токенов и может генерировать до 128 000 токенов за один ответ. В API миллион входящих токенов стоит $10, а выходных — $50. Сначала модель получили отдельные организации, а в последующие дни OpenAI планирует развернуть ее для пользователей ChatGPT Plus, Pro, Business и Enterprise, а также через API, Microsoft Azure и AWS Bedrock.
По материалам: mezha.media
Поделиться новостью
