Cisco представила открытую спецификацию Foundry Security Spec для защиты агентного ИИ

В эпоху искусственного интеллекта ключевым фактором становится уже не сама большая языковая модель, а то, насколько эффективно она используется на практике. Именно поэтому Cisco открыла исходную спецификацию Foundry Security Spec — проверенный на практике проект построения системы оценки безопасности агентного ИИ. Благодаря независимости от конкретной модели и технологического стека организации могут адаптировать её под собственную инфраструктуру. Публикуя накопленный опыт, Cisco стремится помочь специалистам по кибербезопасности быстрее выявлять реальные угрозы и переходить от бесконечного потока предупреждений к подтверждённым инцидентам, действительно влияющим на уровень защиты.

Современная кибербезопасность переживает серьёзную трансформацию. Новое поколение ИИ-моделей одновременно помогает защитникам и расширяет возможности злоумышленников, которые уже способны искать уязвимости практически с машинной скоростью. На этом фоне традиционная схема «обнаружить и исправить» перестаёт справляться с растущими темпами появления угроз. В Cisco уверены, что максимальный эффект достигается не только за счёт самих моделей, но и благодаря правильно организованной архитектуре, агентам, механизмам оркестрации и работе специалистов. Именно поэтому компания публикует Foundry Security Spec, позволяющую выстроить масштабируемую систему поиска и устранения уязвимостей. Спецификация основана на многолетнем опыте внутренних подразделений Cisco, занимающихся разработкой современных средств защиты.

Foundry Security Spec предназначена для совместного использования с GitHub spec-kit — отраслевым набором процессов разработки на основе спецификаций, совместимых с различными ИИ-агентами.
Проект включает два основных компонента и комплект вспомогательной документации:

• Спецификация (Spec) — описывает восемь базовых ролей агентов, пять дополнительных ролей, полный жизненный цикл обработки найденных проблем, систему координации и около 130 функциональных требований с пояснениями назначения каждого из них.
• Конституция (Constitution) — содержит одиннадцать обязательных принципов, каждый из которых основан на реальных ошибках, выявленных и исправленных инженерами Cisco в процессе эксплуатации.

Какую проблему решает Foundry

Практически каждая команда информационной безопасности хотя бы однажды пыталась загрузить программный код в современную языковую модель и просто попросить её найти уязвимости. Обычно результатом становится огромный объём непроверенных выводов, в котором действительно полезные замечания перемешаны с ошибочными предположениями. При этом невозможно определить, что осталось незамеченным и когда проверку можно считать завершённой.

Foundry Security Spec устраняет этот недостаток, добавляя поверх модели полноценную систему ролей, оркестрации и ограничений. Вместо хаотичных запросов появляется структурированный процесс поиска, проверки и оценки полноты анализа. В результате организация получает не демонстрационный эксперимент, а полноценную систему оценки безопасности, результаты которой можно представить руководству и аудиторам.

Спецификация позволяет получать:

• ограниченный и приоритизированный перечень подтверждённых проблем;
• понятный критерий завершения проверки с заданным уровнем покрытия и экономической эффективности;
• полностью отслеживаемую историю прохождения каждой найденной проблемы — от обнаружения до публикации;
• встроенные механизмы защиты, рассчитанные на возможные ошибки самой модели и ограничивающие их не только инструкциями, но и архитектурой системы.

При наличии современной языковой модели и программного обеспечения, которое разрешено анализировать, Foundry предоставляет готовую архитектурную основу для создания собственной системы проверки безопасности.

Как использовать Foundry Security Spec

Спецификация задумана как отправная точка для создания собственного решения, а не как готовый продукт.

Рабочий процесс выглядит следующим образом:

1. Constitution.md используется ИИ-агентом (например Claude Code, Codex и др.) при построении архитектуры системы. Документ также написан для инженеров: каждый принцип сопровождается пояснением, какую реальную проблему он предотвращает, помогая избежать ошибочных упрощений.
2. Далее исходная спецификация загружается в spec-kit, который подготавливает минимальную рабочую структуру проекта для дальнейшей автоматизированной разработки.
3. После этого ИИ-агенты создают архитектуру системы. Восемь основных ролей (Orchestrator, Indexer, Cartographer, Detector, Triager, Validator, Coverage Guide и Reporter) имеют чётко определённые задачи, входные и выходные данные, а также набор обязательных требований. Реализация может использовать процессы, графовые конвейеры, бессерверные функции или любую другую архитектуру — спецификация задаёт лишь общую структуру.
4. Для максимальной эффективности Foundry рекомендуется использовать совместно с Project CodeGuard. Детектор Foundry работает с набором правил обнаружения, созданных в рамках CodeGuard — проекта Cisco с открытым исходным кодом, позже переданного коалиции CoSAI. Изначально CodeGuard предназначался для внедрения безопасных практик программирования в работу ИИ-агентов, однако впоследствии оказался полезным и для анализа кода, автономного поиска уязвимостей и тестирования безопасности.

Самообучающийся цикл защиты

Работа двух проектов формирует непрерывный цикл совершенствования безопасности:

• правила CodeGuard автоматически проверяют весь программный код и выявляют уже известные типы ошибок;
• исследовательские агенты Foundry параллельно ищут новые, ранее неизвестные уязвимости;
• если обнаруживается новый тип проблемы, система фиксирует недостаток существующих правил;
• затем создаётся новое правило CodeGuard либо обновляется существующее;
• при следующем анализе аналогичные ошибки выявляются автоматически уже на первом этапе проверки.

Поскольку правила CodeGuard универсальны, они могут использоваться не только при аудите безопасности, но и непосредственно в ИИ-помощниках программистов. В результате класс ошибок, найденный во время последнего анализа, начинает предотвращаться ещё на этапе написания кода.

Каждый новый цикл одновременно улучшает средства обнаружения и предотвращения уязвимостей.

Отправная точка, а не готовое решение

Cisco подчёркивает, что Foundry Security Spec представляет собой основу и архитектурный шаблон, а не готовый сканер безопасности или законченный программный продукт. Каждая организация адаптирует его под собственную инфраструктуру, модель угроз и внутренние процессы. Там, где возможны разные варианты реализации, авторы сознательно оставили выбор пользователю, подробно описав преимущества и недостатки каждого подхода.

Спецификация распространяется как открытый проект и не является облачным сервисом. Как и при использовании любого инструмента информационной безопасности, ответственность за внедрение, сопровождение и окончательные решения остаётся за самой организацией. Cisco предоставляет архитектуру защитных механизмов, однако ключевые решения по-прежнему должны принимать специалисты — принцип human-in-the-loop остаётся обязательным элементом всей системы.

Нередко возникает вопрос, не устареет ли спецификация с появлением новых поколений языковых моделей. В Cisco считают, что нет. Foundry Security Spec строится вокруг ролей и функциональных требований, а не особенностей конкретной модели. Независимо от того, какие ИИ-системы будут использоваться в будущем, всегда потребуются координатор, детектор, валидатор и другие ключевые элементы архитектуры. Именно поэтому спецификация рассчитана на долгосрочное применение независимо от развития самих моделей.

Почему опубликована спецификация, а не программный код

Внутренние реализации Cisco тесно связаны с собственной инфраструктурой компании: корпоративным шлюзом LLM, внутренними системами учёта задач, частным облаком и другими сервисами. Публикация такого кода принесла бы пользу лишь в аналогичной среде.

Гораздо ценнее сама архитектурная модель: какие роли необходимы системе, какие гарантии они должны обеспечивать, как организовано движение информации от обнаружения проблемы до её публикации, по каким критериям определяется завершение проверки, где располагаются контрольные точки качества и какие упрощения впоследствии приводят к серьёзным проблемам. Именно эта универсальная концепция, не зависящая ни от моделей ИИ, ни от конкретной инфраструктуры, и стала основой Foundry Security Spec.