На сегодняшний день ИИ-агенты все чаще появляются в реальных процессах промышленной и финансовой отрасли. В России согласно отчетам с ЦИПР 2026, финансовый эффект от внедрения генеративного искусственного интеллекта за 2025 год составил 50 миллиардов рублей. Следующий шаг развития ИИ – внедрение ИИ-агентов, что подтверждают прогнозы Банка РФ, промышленного энергетического форума.
ИИ-агент — это интеллектуальная система, способная отвечать на запросы, ставить цели, планировать действия и адаптироваться в процессе.
В 2026 году есть данные о внедрении агентов в ряде нефтяных компаний. Начинается разработка языковых моделей и агентных технологий, таких как агенты-«эксперты» — геолог, буровик, «добытчик», которые взаимодействуют и вырабатывают согласованный результат в нефтяной отрасли. Отмечается тренд на создание «облачных нефтяных компаний» с единым цифровым пространством для всех подрядчиков.
При внедрении ИИ-агентов в уже существующие системы возникают новые задачи в области кибербезопасности. В ряде зарубежных систем наряду с DLP-системами вместе работают системы контроля для автоматизированных агентов. Такой пример — продукт «Charlotte AI Agent», разработанный компанией CrowdStrike. Некоторые компании в РФ просто пробуют «отключить интернет» для агента, поместить в изолированную среду. Но это тоже опасно, так как есть возможность влиять на его работу внутри компании, если нарушитель уже внутри. Приведем несколько альтернатив, которые также используют зарубежные компании:
- Google Security Operations (SecOps) с подключением Gemini, которая создает правила детектирования с помощью естественного языка, блокноты для SOAR и получает автоматические резюме инцидентов.
- Palo Alto Networks: Cortex XSIAM и AgentiX. Использует ИИ для предсказания угроз. AgentiX интегрируется во все продукты Cortex, предлагая значительную автоматизацию процессов.
Побочным эффектом развития можно считать, что ИИ-агенты могут быть использованы при построении средств для атаки на промышленные и финансовые институты. Современные средства наступательной кибербезопасности получили развитие с применением больших языков моделей и агентных архитектур для улучшения скорости и автономности исследования потенциальных целей. С одной стороны, в РФ таких инструментов практически нет, а если и есть о них нет достоверной информации. По отчету Mozilla в тестировании с помощью Cloude Mythos смогло выявить 271 уязвимость в браузере, 1 уязвимость была критична. Ряд международных научных работ демонстрирует попытки создать агентов военного назначения, например в статье «Military AI Agents», что говорит об определенных перспективах данной технологии и получение новых стандартов.
Возможно, одна из потенциальных сложностей для рынка в РФ заключается в том, что при отставании в технических средствах больших языковых моделей в РФ многие решения уже строятся и будут строится вокруг агентных архитектур и систем, как в промышленности, так и в финансовых инструментах. Такой рост без адекватного регулирования и учетов потенциальных уязвимостей к атакам самих средств больших языковых моделей и агентных архитектур является большей проблемой, чем экономией. Но с учетом возможностей потенциально нелинейного роста отдельных технологий агентных инфраструктур при объединении с другими технологиями, бизнес будет рисковать, и эта стратегия уже активно видна как на рынке в России, так и тем более на зарубежных рынках.
Приведем простой пример. Внедрение open-source агента OpenClaw в множество процессов, от личного планировщика до удаленного управления задачами ряда пользователей компаний уже нанес ущерб (развернутые локально агенты «светились» в публичном интернете без какой-либо аутентификации). А вообще, там более 10 видов уязвимостей было обнаружено.
В США и Европейском союзе появились законодательные акты. Давайте остановимся на некоторых из них:
- Cybersecurity Risks from AI, сокр. NYDFS;
- Opinion on AI governance and risk management, сокр. EIOPA.
По определению из этих стандартов, ИИ-агент — это система ИИ, которая обладает способностью к автономному принятию решений, воспринимает свое окружение, реагирует на него, а также предпринимает действия для достижения своих целей. Мультиагентная система (MAC) — система, включающая в свой состав ИИ-агентов для решения ряда задач.
Акты регулируют текущий процесс принятия рисков от использования ИИ, в том числе агентных архитектур. Более того, активно развиваются агентные архитектуры для государственного и военного сектора. Стоит отметить следующие нормативные положения, так или иначе связанные с управлениями рисками для ИИ-систем:
- ISO/IEC 42001: Требования к документации процессов управления рисками, включая эмерджентность, и регулярному аудиту систем ИИ;
- EU AI Act: Обязательная оценка рисков для высокорисковых ИИ-систем, включая анализ возможных эмерджентных последствий, с предоставлением доказательств безопасности регуляторам;
- IEEE Standards (CPS): Рекомендации по интеграции методов обнаружения и управления эмерджентными свойствами на этапах проектирования, разработки и эксплуатации киберфизических систем.
В ГОСТ Р ISO/IEC 24029-2-2024 «Искусственный интеллект. Оценка робастности нейронных сетей» впервые приведена оценка робастности. Робастность в контексте нейросети — это способность нейросети сохранять точность, даже если входные данные искажены, зашумлены или кто-то специально пытается её обмануть (состязательные атаки). Это первая попытка перейти к оценке, и к последующей аттестации компонентов ИИ в проектируемой системе.
Тем не менее, по отчету группы промышленных экспертов, существует ряд ограничений, которые существенно снижают возможности внедрения:
- 39% компаний пробуют использовать ИИ и агентные архитектуры в документации и управление некритичными операциями.
- Доверие к ИИ системам логично снижено, так как наиболее популярные сервисы находятся в зарубежном сегменте и контролируются регламенты стран, в которых расположены.
- Для мультиагентных архитектур еще не сформировались подходы по информационной безопасности, поскольку защита систем с ИИ так и не появилось в 2026 году.
- Локальные ИИ модели при использовании обязательно используют ограничения (guardrails) для недопуска ответов, вызванных «галюцинациями» моделей, но не учитывают особенности «окружения»;
- Отечественные модели, соединяющие архитектуры KAN и Transformers могут снизить количество потребляемой мощности, но находятся на стадии beta-тестирования, поэтому сложно говорить о их скором применении и отладке;
- Текущие законодательные акты, такие как приказ ФСТЭК № 117, Указ №490 регулирует безопасность ИИ как отдельную систему без учета возможных эмерждентных эффектов, отмеченных в реальных экспериментах.
Чтобы достичь параметров безопасности, для мультиагентных систем можно выделить следующие параметры: наблюдаемость, контроль и возможность отката состояния по аналогии с обеспечивающими отказоустойчивость базами данных (Oracle). Ряд подходов к решению задач в области объяснимости мультиагентных систем. Вопросы наблюдаемости в системах агентного ИИ решаются с помощью контроля каждой операции, совершаемой агентом с возможностью «возврата состояния». Вопрос в том, что для банковской и промышленной сферы существует ряд состояний, в которых возврат состояния невозможен по определению (деньги перемещены или операция на линии запущена). Эта задача требует отдельного рассмотрения.
Поскольку мультиагентная архитектура очень пластична, тестировать ее защищенность можно с помощью агента-защитника, автоматически определяющего угрозы. Такой помощник должен непрерывно работать над выявлением уязвимостей.
В РФ существует множество тактик и техник оценки защищенности приложений, например регулируемые в стандарте ГОСТ Р 56939 — 2024 «Безопасная разработка», но отсутствует единое поле уязвимостей с примерами их детектирования и наборами входных данных, на которых они были обнаружены для систем. Это является интересной идеей и было озвучено как направление для реализации на базе ГОССОПКА, из базы уязвимостей которой можно было бы обучать средства пояска уязвимостей в том числе для агентов.
Попробуем обобщить полученную в результате анализа информацию.
Для реализации комплексной системы разработки и внедрения мультиагентых архитектур необходимо:
- Обеспечить механизмы «объяснимости» действий моделей с возможностью возврата к состоянию системы или определению момента внешнего контроля для действий, который соответствуют политике безопасности;
- Обеспечить снижение энергопотребление алгоритмов на базе больших языковых моделей за счет комбинации с другими алгоритмами;
- Обеспечить унифицированные протоколы и алгоритмы работы ИИ-агентов для их непрерывного тестирования и обеспечения доказательной наблюдаемости;
- Обеспечить формирование моделей нарушителя и модели защиты для мультиагентных систем;
- Обеспечит расширение стандарта ГОСТ Р 56939 — 2024 в части методики обеспечения защиты для мультиагентых систем.
Заключение
Поскольку использование мультиагентых архитектур финансово привлекательно, то средства информационной безопасности необходимо готовить к решению данной задачи до непосредственного выхода в «релиз» мультиагентных архитектур в отечественном бизнесе. Рынок, который формируется уже сейчас, необходимо регулировать. Также необходимо обеспечить прогнозирование рисков атак, которые могут быть проведены с помощью автоматизированных средств нападения (ИИ-агенты для поиска и эксплуатации уязвимостей в комбинации с большими языковыми моделями).
