GLM-5.3 и открытые веса для поиска уязвимостей

Z.ai показала GLM-5.3, свою самую сильную модель для задач кибербезопасности, и сразу объяснила, почему веса не выкладывают сегодня же. Сначала закрытая оценка у отобранных партнёров по безопасности, потом расширенный доступ и API, и только затем публикация полного чекпоинта.

Поводом стал инцидент, который GLM-5.2 помогала разбирать команде Hugging Face: там ИИ самостоятельно обошёл собственные ограничения. Наступательные возможности становятся доступнее почти кому угодно, а сильная защита пока остаётся привилегией компаний с большими бюджетами на security. Мейнтейнеры опенсорса и небольшие команды остаются с тем, что есть.

На этапе посттренинга в обучающую смесь добавили данные по поиску уязвимостей и авторизованные security-окружения. Модель стала лучше связывать условия возникновения бага, поведение программы, пути валидации и потенциальный ущерб на протяжении длинной цепочки шагов.

CyberGym проверяет, сможет ли модель по исходникам найти уязвимость и подтвердить её, доведя дело до срабатывания сбоя. Здесь у GLM-5.3 выходит 84,5% против 77,2% у GLM-5.2. ExploitBench требует глубокого разбора реальных уязвимостей и способов их эксплуатации: 54,4% против 24,4%. ExploitGym считает завершённые задачи эксплуатации при фиксированном бюджете: 105 задач за два часа и 130 за шесть у новой модели против 29 и 39 у предыдущей.

Закономерность простая: чем длиннее цепочка шагов, тем больше отрыв от прошлого поколения. На изолированном поиске багов разница умеренная, на многошаговой эксплуатации она становится кратной. Самые сложные end-to-end сценарии всё ещё даются тяжело.

Параллельно Z.ai вместе с университетами и профессиональными security-командами гоняла модели серии GLM по реальным кодовым базам в авторизованном скоупе. Итог: 2436 находок в 269 проектах, из них 1097 отнесены к средней и высокой критичности. Среди целей были системный софт, операционные системы, браузерные движки, опенсорсная инфраструктура, веб-приложения, сетевые протоколы и умные устройства. Часть проблем пролежала в коде десятилетиями.

Скоуп задают живые эксперты, они же проверяют вывод модели и ведут коммуникацию с владельцами кода. Модель помогает восстанавливать сложную логику программы, отсеивать сотни кандидатных путей и связывать улики из разных компонентов.

Найти баг и безопасно его закрыть это разные вещи, поэтому Z.ai завела публичный журнал раскрытий Security Disclosure Ledger: https://cvd.z.ai/ . Для уже раскрытых проблем там указывают проект, критичность, идентификатор вроде CVE и срок жизни уязвимости в коде. Для тех, что ещё на стадии согласования с мейнтейнерами, публикуется только криптографический хэш.

Кибербез неудобен для систем безопасности тем, что атака и защита говорят на одном языке и пользуются одним кодом. Запрос на разбор уязвимости может прийти от мейнтейнера с патчем, от студента на CTF, от исследователя с легальным скоупом или от того, кто прямо сейчас ломает чужой продакшен. По ключевым словам их не различить.

Поэтому в GLM-5.3 сделали три слоя. Внешний классификатор в хостинговых сервисах отсекает явно вредоносные запросы. Монитор рассуждений оценивает риск во время выполнения задачи и ловит вредоносную цель, которая собирается из нескольких безобидных шагов. Третий слой это глубокий alignment самой модели.

Для открытых весов последний слой важнее остальных. Классификаторы и мониторы остаются на стороне сервиса, а в локальный деплой уезжает только то, что зашито в чекпоинт. Сама Z.ai пишет, что после публикации весов контроль над доработками теряется, и встроенные ограничения лишь поднимают порог входа для злоупотреблений.

Вместе с моделью запускают инициативу OpenVuln: https://huggingface.co/spaces/zai-org/OpenVuln . Цель в том, чтобы аудитить важные опенсорсные проекты вместе с их мейнтейнерами и доводить находки до исправления. Подать свой проект на ревью можно через страницу инициативы.

Перед широким релизом модель пройдёт red team и оценки безопасности от внешних команд. Если план сбудется, у сообщества появится открытая модель, которая ищет баги на уровне, раньше доступном только командам с большими бюджетами. Тот же уровень получат и те, кто ищет баги совсем с другими намерениями.

Оригинальный анонс Z.ai: https://x.com/Zai_org/status/2088280509474320693