29
Anthropic планирует открыть доступ к моделям уровня Mythos, но сначала компания улучшит их безопасность
— Технологии&Авто
ИИ-компания Anthropic заявила, что в будущем планирует открыть публичный доступ к моделям класса Mythos — системам искусственного интеллекта, способным автоматически находить критические уязвимости в программном коде.
Об этом сообщает Register со ссылкой на Project Glasswing.
В то же время компания признает, что в настоящее время нет достаточно надежных механизмов защиты от злоупотреблений такими инструментами.
Модель Mythos компания представила еще в апреле
В апреле Anthropic заявила, что система настолько эффективно находит баги и уязвимости, что ее открытый релиз может создать риски массового использования киберпреступниками.
В новом отчете компания сообщила, что уже проверила с помощью Mythos более тысячи open-source-проектов, «лежащих в основе значительной части интернета».
По результатам анализа система выявила 23 019 потенциальных уязвимостей, из которых 6202 классифицировали как критические или высокого уровня опасности. После ручной проверки специалисты подтвердили 1587 реальных уязвимостей. Из них 1094 действительно оказались критическими или высокорисковыми.
Одна из критических найденных проблем касалась криптографической библиотеки WolfSSL, которую используют миллиарды устройств. Уязвимость уже исправили, а компания пообещала опубликовать технический анализ в ближайшие недели.
В Anthropic также признали, что массовое обнаружение багов с помощью ИИ создает дополнительную нагрузку на экосистему кибербезопасности. Некоторые разработчики open-source-проектов уже попросили компанию замедлить темпы подачи отчетов об уязвимости, поскольку команды не успевают готовить патчи.
Несмотря на это, Anthropic заявляет, что хочет постепенно расширить доступ к Project Glasswing — в первую очередь, для правительств США и стран-союзников.
Больше о Mythos
Модель Mythos позиционируется как одна из самых «развитых» в сфере программирования и «агентного» ИИ — то есть такого, что может самостоятельно выполнять сложные задачи.
Она умеет находить уязвимости в кибербезопасности и потенциально создавать или усовершенствовать кибератаки.
Модель Mythos также использует Агентство национальной безопасности США (NSA), несмотря на то, что Пентагон ранее включил компанию в список рискованных поставщиков.
Если Вы заметили ошибку, выделите необходимый текст и нажмите Ctrl+Enter , чтобы сообщить нам об этом.Поделиться новостью
