Журнал «Отинофф»
Схема: LLM как инструмент атакующих и защитников в кибербезопасности

LLM в кибербезопасности: как ИИ снижает порог атак и что делать бизнесу

ИИ-инструменты 1 июля 2026 г.

Компания Naumen опубликовала обзор, в котором специалист по информационной безопасности Евгений разбирает, как LLM меняют ландшафт кибербезопасности. Главный вывод: ИИ не создал принципиально новых типов атак, но радикально снизил порог входа для злоумышленников и увеличил масштаб угроз. То, что раньше требовало часов ручной работы и глубоких технических знаний, теперь можно сделать за несколько минут с помощью языковой модели.

Источник: Habr

Для бизнеса это означает, что старые методы защиты — проверка на грамматические ошибки в фишинговых письмах, доверие к голосу знакомого человека по телефону, ручной анализ подозрительных сообщений — перестают работать. Руководителю и владельцу компании нужно пересмотреть, как обучают сотрудников, как проверяют входящие коммуникации и как защищают сами модели, если они используются в инфраструктуре.

Первое, что стоит сделать на этой неделе: проверить, есть ли в компании процедура верификации запросов от руководства через альтернативный канал связи, и предупредить ключевых сотрудников о новой волне персонализированного фишинга.

Что именно изменилось: не новые атаки, а новый масштаб

Ключевое изменение, которое описывает автор, — это не появление неизвестных ранее методов взлома, а резкое снижение стоимости и сложности атак. Раньше злоумышленнику нужно было самостоятельно писать текст фишингового письма, продумывать легенду, адаптировать сообщение под конкретную компанию или человека. Теперь значительную часть этой работы можно переложить на нейросеть.

Современные модели способны:

  • писать грамотные письма без характерных ошибок, которые раньше выдавали мошенников;
  • адаптировать текст под конкретную отрасль, используя профессиональную терминологию;
  • генерировать десятки вариаций одного сценария для массовой рассылки.

Особенно опасным становится сочетание LLM и открытых данных. Чем больше информации злоумышленник собирает о потенциальной жертве, тем более персонализированное сообщение может быть создано. Это уже не массовый фишинг с «нигерийскими письмами», а точечные удары, которые сложно отличить от настоящей деловой переписки.

Дипфейки: когда голос и видео перестают быть доказательством

Один из самых наглядных примеров использования ИИ злоумышленниками — дипфейки. Технология генерации или подмены голоса, изображения или видео при помощи нейросетей позволяет создавать реалистичные цифровые копии человека на основе нескольких записей его голоса.

Автор приводит два сценария, которые выглядят вполне правдоподобно:

  • звонок родственникам от имени близкого человека с просьбой срочно перевести деньги;
  • видеозвонок от имени руководителя компании с просьбой передать конфиденциальную информацию.

Для бизнеса это означает, что доверие к голосовым и видеозвонкам как к способу верификации личности больше не работает. Если раньше мошенникам приходилось использовать примитивные схемы социальной инженерии, то теперь достаточно нескольких минут записи голоса руководителя, чтобы получить его реалистичную копию.

Фишинг нового поколения: персонализация и скорость

Фишинг существовал задолго до появления LLM, но сейчас изменилось качество и скорость подготовки атак. Автор перечисляет конкретные сценарии, которые уже используются или могут быть использованы:

  • приглашение на вакансию с учетом профиля специалиста;
  • письмо о премии от имени бухгалтерии;
  • письма от службы безопасности с убедительной инструкцией перейти по ссылке и проверить безопасность аккаунта;
  • обращение к автору статьи или доклада с просьбой ознакомиться с вложенным файлом — «видел вашу статью на Хабре, обсуждаем похожий вопрос, нужна ваша экспертная оценка, ознакомьтесь с файл.pdf»;
  • автоматическое создание диалогов в мессенджерах с имитацией стиля общения жертвы или ее близкого окружения;
  • поздравление от коллеги со ссылкой на презентацию.

Каждый из этих сценариев использует открытые данные о компании и сотрудниках, которые злоумышленник может собрать за несколько минут. LLM позволяет не только написать убедительный текст, но и адаптировать его под конкретного получателя.

Автоматизация разведки: что теперь может сделать новичок

Перед проведением атаки злоумышленнику необходимо собрать информацию о целевом сайте или сервере: используемые технологии, версии программного обеспечения, точки входа, потенциальные уязвимости. Раньше такая работа требовала технических знаний и ручной работы. Современные LLM способны автоматизировать и упростить процесс, делая разведку доступной даже новичкам.

Модели могут анализировать публичные данные, определять стек технологий, находить типовые уязвимости и предлагать векторы атаки. Это означает, что количество потенциальных атакующих растет не за счет появления новых хакерских групп, а за счет снижения барьера входа для обычных мошенников.

Чем LLM помогает защитникам: обратная сторона технологии

Несмотря на все риски, LLM становятся мощным инструментом и для специалистов по информационной безопасности. Модели могут использоваться для:

  • автоматизации анализа логов и выявления аномалий;
  • генерации тестовых сценариев для проверки защищенности инфраструктуры;
  • быстрого поиска уязвимостей в коде;
  • создания обучающих материалов для сотрудников.

Однако важно понимать: те же самые модели, которые помогают защитникам, доступны и атакующим. Это создает ситуацию, когда скорость реакции должна быть выше, чем раньше, а методы защиты — более изощренными.

Угрозы для самих моделей: когда LLM становится мишенью

Автор отмечает, что сами языковые модели уже становятся целью для новых типов атак. Речь идет о промпт-инъекциях, когда злоумышленник специальными запросами заставляет модель выдать конфиденциальные данные или выполнить нежелательные действия. Также существуют атаки на цепочки поставок, когда вредоносный код внедряется в модель через открытые датасеты или публичные веса.

Для компаний, которые используют LLM в своей инфраструктуре — для обработки запросов клиентов, анализа документов или генерации контента, — это означает необходимость внедрения дополнительных мер защиты: валидации входных данных, ограничения доступа модели к чувствительной информации, регулярного тестирования на уязвимости.

Практический чек-лист: что проверить на этой неделе

На основе описанных угроз можно составить список конкретных действий, которые не требуют перестройки всей компании, но снижают риски:

  1. Проверьте процедуру верификации запросов от руководства. Если в компании принято выполнять распоряжения, полученные по телефону или в мессенджере, введите правило подтверждения через второй канал связи (личная встреча, корпоративная почта с известного адреса).
  2. Предупредите ключевых сотрудников о новой волне фишинга. Особенно тех, кто работает с финансами, кадровыми данными или конфиденциальной информацией. Объясните, что письма от HR, бухгалтерии и службы безопасности теперь могут быть написаны без ошибок и с использованием профессиональной терминологии.
  3. Проверьте, какие открытые данные о компании и сотрудниках доступны в публичном доступе. Чем больше информации о структуре компании, ролях сотрудников и внутренних процессах можно найти, тем выше риск персонализированной атаки.
  4. Оцените, используете ли вы LLM в инфраструктуре. Если да, проверьте, есть ли ограничения на доступ модели к конфиденциальным данным, настроена ли валидация входных запросов, проводится ли тестирование на промпт-инъекции.
  5. Обновите сценарии обучения сотрудников. Включите в программу кибербезопасности примеры атак с использованием LLM: дипфейки, персонализированный фишинг, поддельные голосовые звонки.
  6. Проверьте, как в компании обрабатываются входящие файлы. Если сотрудники регулярно получают PDF, презентации или документы от внешних отправителей, убедитесь, что используется изолированная среда для открытия таких файлов.

Что может пойти не так: ограничения и риски

Важно понимать, что описанные методы защиты не являются панацеей. Во-первых, LLM развиваются быстрее, чем методы защиты от них. То, что работает сегодня, может оказаться неэффективным через месяц. Во-вторых, внедрение дополнительных мер безопасности требует времени и ресурсов, которые есть не у каждой компании.

Кроме того, сами инструменты защиты на основе LLM могут содержать уязвимости. Если компания использует модель для анализа логов или выявления аномалий, атакующий может попытаться обмануть эту модель, подавая специально сформированные запросы.

Наконец, человеческий фактор остается ключевым. Даже самая совершенная система защиты не поможет, если сотрудник по привычке перейдет по ссылке из письма, которое выглядит как официальное обращение от руководства.

Источники

  • Habr: Двойная жизнь LLM (Naumen) — основной источник: подробный обзор угроз и методов защиты с примерами от специалиста по информационной безопасности.

Генерация изображения

  • Модель: flux-schnell
  • Провайдер: replicate

Что почитать дальше

Теги

Андрей Отинов

Рекомендуем