ИИ и безопасность: как защититься от мошенничества

Как ИИ изменил ландшафт мошенничества

Ещё пять лет назад мошенничество в отношении бизнеса было ручным и дорогим: злоумышленник тратил часы на разведку, писал письма с ошибками и полагался на массовую рассылку «на дурака». Генеративный ИИ снял оба ограничения — стоимость и качество. Теперь одну и ту же атаку можно персонализировать под сотни компаний за минуты, а качество текста, голоса и даже видео таково, что отличить подделку от оригинала без инструментов становится невозможно.

Для компании это меняет саму постановку вопроса. Раньше защита сводилась к фильтрации спама и обучению сотрудников «не открывать вложения». Сегодня атака выглядит как легитимное письмо от контрагента, звонок от руководителя или платёжное поручение с корректными реквизитами. Правило «проверяй по голосу и по деталям» больше не работает — голос и детали теперь подделываются.

При этом та же технология, которую используют мошенники, работает и на стороне защиты. Модели машинного обучения умеют находить аномалии в потоках данных быстрее человека: отклонения в поведении пользователя, нехарактерные суммы переводов, подозрительную частоту запросов. Именно на этом пересечении — внедрение ИИ в бизнес как инструмент обороны — и строится современная система безопасности.

Важно разделять два разных класса угроз, потому что меры против них не совпадают. Первый — атаки на людей: deepfake, фишинг, социальная инженерия, где ИИ повышает убедительность обмана. Второй — атаки на системы: перебор учётных записей, подбор кодов, автоматизированное сканирование уязвимостей, где ИИ ускоряет поиск слабого места. Дальше разберём оба направления с конкретными сценариями и контрмерами.

Deepfake: подмена голоса и видео

Самый резонансный сценарий — звонок, в котором сотрудник слышит голос руководителя с просьбой срочно оплатить счёт или перевести средства. Для синтеза убедительной копии голоса достаточно короткой записи: фрагмент из выступления, видео с корпоратива или автоответчик. Современные системы клонирования воспроизводят интонацию, темп речи и характерные паузы, а в реальном времени — ещё и реагируют на реплики собеседника.

Второй сценарий — видеозвонок. Здесь пока сложнее: качественный deepfake в реальном времени требует больше вычислительных ресурсов, но технология развивается быстро, и в ближайшие годы «живая» видеоподмена станет массовой. Уже сегодня фиксируются случаи, когда на коротких созвонах с включённой камерой собеседником оказывался не тот, за кого себя выдавал.

Ключевая уязвимость в этих сценариях — не технология, а процесс. В большинстве компаний нет процедуры, которая обязала бы сотрудника подтвердить нестандартную финансовую операцию по второму независимому каналу. Пока такое правило не закреплено, любой инструмент обнаружения будет лишь рекомендацией.

Что реально снижает риск:

• Правило двух каналов. Любая срочная платёжная просьба, полученная голосом или по видеосвязи, подтверждается письменно через корпоративный мессенджер или CRM, а не в том же канале, где поступила.
• Кодовое слово. Для чувствительных операций — заранее оговорённая фраза, известная только участникам. Примитивно, но эффективно против заранее записанной подделки.
• Задержка платежа. «Срочно» — главный триггер мошенничества. Правило «платёж уходит не раньше чем через час после письменного подтверждения» снимает большую часть давления.
• Детекторы синтеза. Программные анализаторы, которые оценивают микропризнаки подделки в аудио- и видеопотоке. Полезны как вспомогательный слой, но не как единственная защита.

Практический вывод: закрывать нужно в первую очередь процедуру, а не гоняться за детекторами. Подмена голоса перестаёт быть угрозой, когда платёж невозможно провести по одному голосовому распоряжению.

ИИ-фишинг: письма и звонки нового поколения

Классический фишинг выдавал себя ошибками: корявый язык, странный адрес отправителя, обращение «Уважаемый клиент». Генеративные модели устранили эти признаки. Письмо теперь написано грамотно, в стиле конкретного человека, с упоминанием реальных деталей — имён, сумм, названий проектов, которые злоумышленник собрал из открытых источников или утёкших баз.

Типичный сценарий BEC-атаки (компрометация деловой переписки): мошенник получает доступ к переписке или имитирует её, а затем в нужный момент вставляет поддельное письмо с изменёнными платёжными реквизитами. Счёт при этом выглядит легитимным, подпись и шапка письма совпадают, а сумма не вызывает подозрений, потому что взята из реальной сделки.

Звонковый фишинг эволюционировал симметрично: вместо оператора из колл-центра — синтезированный голос, который умеет держать диалог, отвечать на вопросы и обходить возражения. Такие звонки дешевле живых в разы, поэтому злоумышленники массово «прощупывают» сотрудников на предмет выдачи кодов, паролей или доступа к системам.

Контрмеры здесь двухуровневые. На уровне человека — обучение, но не абстрактное, а на реальных сценариях компании с регулярными тестовыми рассылками. На уровне техники:

• Проверка отправителя по заголовкам письма, а не по отображаемому имени — SPF, DKIM и DMARC отсекают подделку домена.
• Верификация реквизитов по второму каналу при любом изменении платёжных данных, даже если письмо выглядит безупречно.
• Изоляция подозрительных вложений — запуск в «песочнице» до открытия пользователем.
• Ограничение доступа по принципу наименьших привилегий, чтобы компрометация одного ящика не давала доступ ко всей сети.

Отдельно стоит отметить фишинг через поддельные страницы входа. ИИ ускоряет создание клонов корпоративных порталов — от вёрстки до подбора домена, отличающегося одной буквой. Здесь работает связка из менеджера паролей, который не подставит пароль на чужой домен, и обязательной двухфакторной аутентификации.

Аномалии в транзакциях

Финансовое мошенничество внутри компании редко бывает громким и одномоментным. Чаще это серия мелких отклонений: платёж в нехарактерное время, сумма чуть выше обычной, новый получатель с реквизитами, похожими на известного контрагента, повторяющиеся операции с малым интервалом. По отдельности такие события выглядят безобидно — человек их пропускает, алгоритм замечает.

Модели выявления аномалий работают по двум принципам. Первый — сравнение с историческим профилем: система знает, как «обычно» ведёт себя конкретный пользователь, отдел или контрагент, и подсвечивает отклонения. Второй — сравнение с популяцией: операция, редкая для всех компаний похожего профиля, получает повышенный балл подозрительности.

Что именно детектируют такие системы:

• платежи в нерабочее время или из нехарактерной геолокации;
• изменение реквизитов получателя незадолго до оплаты — классический маркер подмены счёта;
• «дробление» крупной суммы на несколько транзакций ниже порога контроля;
• аномальную частоту операций по одной учётной записи;
• расхождение между заявленной и фактической суммой в связанных документах.

Ключевое преимущество ИИ перед правилами — адаптивность. Жёсткое правило «блокировать переводы свыше 100 тысяч рублей» обходится дроблением. Модель, обученная на поведении компании, замечает само дробление, а не сумму. При этом ложные срабатывания — отдельная проблема, о которой ниже.

Технологии защиты, которые реально работают

За маркетинговым шумом «ИИ-безопасности» стоит ограниченный набор технологий, которые доказали практическую пользу. Перечислим их без преувеличения возможностей.

Анализ поведения пользователей и сущностей (UEBA). Система строит профили «нормального» поведения для каждого сотрудника, устройства и сервиса, а затем отмечает отклонения: вход в нерабочее время, доступ к нетипичным файлам, скачивание большого объёма данных. Это ранний сигнал компрометации учётной записи — ещё до того, как злоумышленник нанесёт ущерб.

Детекция аномалий в платежах. Описанные выше модели, которые встраиваются в контур согласования счетов. В простейшем виде работают как «вторые глаза» бухгалтерии, в продвинутом — автоматически блокируют или ставят на паузу подозрительные операции.

Антифишинговые шлюзы с машинным обучением. В отличие от статичных фильтров, переобучаются на новых образцах атак и умеют распознавать «нулевую» угрозу — письмо, которого ещё нет в базах сигнатур. Важный слой на границе почтового домена.

Детекторы синтеза речи и видео. Программы, оценивающие артефакты генерации: неравномерность дыхания в голосе, несоответствие артикуляции, аномалии в отражениях и микромимике. Полезны для проверки ключевых звонков и видеопереговоров, но быстро устаревают — идёт гонка вооружений с генераторами.

Управление доступом на основе риска. Вход оценивается по совокупности признаков — устройство, геолокация, время, поведение — и при высоком риске запрашивает дополнительный фактор или блокирует сессию. Это эффективнее статичных паролей и дешевле, чем кажется.

Общее у всех перечисленных технологий одно: они не работают в вакууме. Без наведённого порядка в процессах, базовой гигиены учётных записей и дисциплины согласования платежей любая из них даст лишь видимость защиты. Инструменты — усилитель процессов, а не их замена.

Что внедрять в первую очередь

Порядок внедрения важнее набора инструментов. Сначала — бесплатные или дешёвые меры с максимальным эффектом, затем — технологии по мере роста зрелости процессов. Практический чек-лист для компании, которая начинает с нуля:

1. Настроить почтовую аутентификацию. SPF, DKIM и DMARC на корпоративном домене — это часы работы и снятие целого класса подделок писем. Часто уже покрывается ИТ-аутсорсингом как типовая задача.
2. Включить двухфакторную аутентификацию на почте, банке, облачных сервисах и удалённом доступе. Это самый дешёвый барьер против перебора учётных записей.
3. Закрепить правило двух каналов для платежей. Письменное правило и контроль его исполнения стоят дороже организационно, чем технически, но закрывают самые дорогие инциденты.
4. Ограничить привилегии. Административные права — узкому кругу, доступ к платёжным системам — только тем, кому положен. Компрометация рядового аккаунта не должна открывать путь к деньгам.
5. Ввести тестовые фишинговые рассылки для сотрудников с разбором результатов. Не как карательный инструмент, а как метрику уязвимости.
6. Подключить мониторинг аномалий в платежах — как минимум правила по времени, сумме и изменению реквизитов, как максимум — модель на исторических данных.
7. Составить план реагирования на инцидент: кто, что и в какой последовательности делает при подозрении на мошенничество. План, написанный заранее, экономит часы в момент атаки.

Эта последовательность даёт наибольший прирост безопасности на каждый вложенный рубль. Дорогие системы детекции на незрелых процессах, как правило, тонут в ложных срабатываниях и быстро отключаются пользователями.

Типичные ошибки при внедрении

Опыт внедрений показывает повторяющийся набор ошибок, которые сводят эффект от ИИ-защиты к нулю или создают новые риски.

Ставка на один инструмент. Компания покупает «коробочную ИИ-систему» и считает вопрос закрытым. Но ни один детектор не заменит правило двух каналов, а ни одна модель — базовую гигиену паролей. Защита работает как слои, а не как панацея.

Игнорирование ложных срабатываний. Модель, которая блокирует каждую десятую легитимную операцию, быстро учит сотрудников обходить систему или отключать предупреждения. Точность настройки — часть внедрения, а не опция после него.

Обучение сотрудников «для галочки». Разовый вебинар не меняет поведение. Без регулярных симуляций и разбора реальных инцидентов сотрудник в момент стресса всё равно выполнит просьбу «руководителя».

Слепое доверие моделям. Модель обучается на исторических данных и может как пропустить новую схему, так и выдать предвзятое решение. Нужен человек, который трактует сигналы, и регулярная переоценка качества детекции.

Защита только периметра. Фокус на внешних атаках при игнорировании инсайдеров и скомпрометированных внутренних аккаунтов. Значительная часть финансового ущерба исходит изнутри — случайно или умышленно.

Внедрение без владельца. ИИ-защита — не проект «поставили и забыли». Нужен ответственный, который следит за качеством сигналов, обновляет сценарии и координирует реагирование. Иначе система деградирует за полгода.

Как выбрать подрядчика и что спросить

Если компания не готова строить ИИ-защиту собственными силами, разумно привлечь подрядчика. Важно отличить интегратора, который понимает процессы безопасности, от продавца «коробки». Вопросы, которые стоит задать до подписания договора:

• Покажите, как ваше решение детектирует подмену реквизитов и аномальные платежи на реальных данных нашей отрасли, а не на демо-сценариях.
• Каков процент ложных срабатываний и как вы его измеряете на проектах сопоставимого размера?
• Кто в нашей команде будет владельцем системы и сколько времени это займёт после запуска?
• Как решение встраивается в существующий контур — почту, ERP, банк, — и что потребуется менять в процессах?
• Какова полная стоимость владения за три года, включая настройку, поддержку и дообучение моделей?
• Что происходит при инциденте: есть ли регламент реагирования и кто отвечает за разбор?

Ориентиры по бюджету: настройка почтовой аутентификации и базовая гигиена учётных записей — это десятки тысяч рублей разово или в рамках абонентского ИТ-обслуживания. Внедрение мониторинга аномалий и антифишинговых шлюзов — сотни тысяч рублей с ежегодной поддержкой. Полноценные платформы поведенческого анализа и детекции deepfake — от нескольких сотен тысяч рублей в год и выше, в зависимости от масштаба. Это диапазоны для ориентира: точную стоимость определяет только обследование инфраструктуры.

Оценить надёжность подрядчика помогает опыт: отзывы клиентов показывают, как компания ведёт проекты после запуска, а не только на этапе продажи. Стоимость типовых работ удобно сверять с прайсом на услуги, чтобы понимать, за что именно вы платите. А для обсуждения конкретной задачи — связаться с инженерами и проговорить сценарий под вашу компанию.

Частые вопросы

Полезно на сайте: внедрение ИИ в бизнес, ИТ-аутсорсинг, цены, отзывы клиентов.