В различных статьях, на конференциях, в целевых и общих формах всё чаще говорят про применение искусственного интеллекта (ИИ), в том числе в информационной безопасности (ИБ). При этом употребляют множество понятий, в том числе «промпт-инжиниринг». Что это? Почему промпт-инжиниринг важен для ИБ-специалиста? Об этом в статье эксперта BISA.
Почему тема в 2026 году промпт-инжиниринга критически важна для ИБ?
Искусственный интеллект стремительно проникает в процессы информационной безопасности. Он используется для анализа журналов событий, поиска уязвимостей, обработки отчётов пентестов, подготовки документации, обучения персонала и т.п. Однако, в настоящее время, все чаще в деловых процессах организации используются генеративные модели ИИ, результативность работы с которыми напрямую зависит не от самой модели, а от того, кто и как ею управляет.
Эту мысль чётко сформулировал генеральный директор NVIDIA Дженсен Хуанг, один из представителей мировой ИТ-индустрии: «Вы потеряете работу не из-за искусственного интеллекта, а из-за того, кто умеет им пользоваться».
Для специалистов по информационной безопасности эта цитата имеет прямое прикладное значение.
ИИ не заменяет эксперта по ИБ, но радикально меняет требования к его компетенциям.
Способность формулировать задачи для ИИ, контролировать результаты и безопасно встраивать такие инструменты в корпоративный контур становится новым профессиональным стандартом.
Что такое промпт-инжиниринг и почему он важен для специалиста по ИБ?
Промпт-инжиниринг — это навык постановки задач ИИ с помощью структурированных запросов (промптов) для получения предсказуемых и полезных результатов.
В отличие от специалистов по машинному обучению, которые занимаются разработкой и обучением моделей, промпт-инжиниринг ориентирован на практическое использование уже существующих ИИ-моделей (в настоящее время, прежде всего, генеративных моделей).
Как ИИ используется в задачах информационной безопасности?
Грамотно выстроенное взаимодействие с ИИ позволяет применять его практически для любых задач ИБ, например:
- анализа угроз и уязвимостей;
- обработки журналов событий (логов);
- анализа исходного кода и конфигураций;
- подготовки отчётов, аналитических записок и презентаций;
- автоматизации рутинных процессов;
- обучения сотрудников и повышения осведомлённости.
Структура эффективного промпта в задачах ИБ
Эффективный промпт обычно включает:
- роль и контекст (например, эксперт по ИБ, аналитик SOC и т.п.);
- чёткое описание задачи;
- ограничения и условия анализа;
- требуемый формат результата.
Ошибки в формулировках приводят к неточным или непригодным результатам (т.н. «галлюцинациям»), поэтому промпт-инжиниринг требует системного подхода и практики.
Human-in-the-Loop (HITL): обязательный принцип использования ИИ в ИБ
Одним из ключевых принципов применения ИИ в ИБ на современном этапе, является подход Human-in-the-Loop (HITL) — «человек в цикле» или «человек в контуре».
Суть HITL заключается в том, что искусственный интеллект не принимает окончательных решений самостоятельно. Человек остаётся ответственным за:
- постановку задачи;
- контроль процесса;
- интерпретацию результатов;
- принятие финальных решений.
Для ИБ это критично, поскольку ошибки ИИ могут приводить к инцидентам безопасности, финансовым потерям и нарушениям требований регуляторов.
ИИ-ассистенты и ИИ-агенты в информационной безопасности
В современных ИБ-решениях всё чаще появляются ИИ-ассистенты и ИИ-агенты, и эти понятия принципиально различаются:
- ИИ-ассистент — это инструмент, который помогает специалисту, но не действует самостоятельно. Он работает строго в рамках запроса пользователя. ИИ-ассистент всегда находится под контролем человека и полностью соответствует принципу Human-in-the-Loop.
- ИИ-агент — это более сложная система, способная самостоятельно выполнять цепочки действий в рамках заданных правил и целей. ИИ-агенты могут, например, предлагать или запускать сценарии реагирования. Именно ИИ-агенты требуют особенно строгого контроля, так как при неправильной настройке они могут создавать ложные срабатывания и нарушать внутренние регламенты безопасности.
Облачные модели ИИ: преимущества и риски для ИБ
Большинство коммерческих ИИ-решений используют облачную или гибридную инфраструктуру (запрос через API передается во внешнюю модель). Это упрощает внедрение, удешевляет его, позволяет пользоваться наиболее мощными генеративными моделями, но создаёт риски:
- передача конфиденциальных данных за пределы организации;
- ограниченный контроль над обработкой информации;
- сложности с соблюдением регуляторных требований;
- зависимость от внешнего провайдера.
Использование облачных моделей допустимо только для обезличенных или открытых данных, или, например, в справочных целях.
Локальные модели ИИ в контуре организации
Альтернативой облачным решениям являются локальные (on-premise) модели ИИ, развёрнутые внутри инфраструктуры компании.
Для специалистов по информационной безопасности это принципиально важно, поскольку локальные модели позволяют:
- полностью контролировать данные;
- исключить утечки информации;
- соблюдать требования регуляторов и внутренних политик;
- адаптировать ИИ под конкретные задачи ИБ.
Современные open-source модели позволяют использовать ИИ для решения задач ИБ без выхода за пределы корпоративного контура.
Ограничения и риски применения ИИ в ИБ
Как при использовании облачных, так и локальных моделей сохраняются ограничения:
- ИИ может допускать ошибки («галлюцинации»);
- Качество результатов зависит от качества промптов;
- ИИ не учитывает контекст (не знает его) без участия человека.
- Поэтому ключевым остаётся сочетание промпт-инжиниринга и подхода Human-in-the-Loop.
С чего начать специалисту по ИБ
Для практического старта могу порекомендовать следующий план действий (которому сам следую):
- изучить возможности ИИ-инструментов и локальных моделей (хотя бы в общем);
- начать с простых задач и постепенно усложнять промпты;
- внедрять ИИ в повседневные рабочие задачи с учетом требований безопасности и подхода Human-in-the-Loop;
- отслеживать развитие ИИ в контексте информационной безопасности.
