Естественная защита искусственного интеллекта

Какие риски возникают при внедрении сервисов и продуктов на основе ИИ

фото Kaspersky GReAT

С ростом проникновения ИИ масштаб киберугроз усиливается, но им можно противостоять с помощью классических средств многослойной защиты 

Сервисы и продукты на основе искусственного интеллекта в будущем кардинально изменят экономический ландшафт. Но при этом бизнес станет еще более уязвим перед злоумышленниками. О том, как меняется характер кибератак под влиянием ИИ, «Эксперт-Уралу» рассказал директор Глобального центра исследований и анализа угроз Kaspersky GReAT Игорь Кузнецов.

Обширный фон угроз

—  О чем говорит статистика кибератак прошлого года?

— В 2025 году число DDoS-атак в России увеличилось на 42% по сравнению с 2024 годом. Также заметно увеличилось число группировок, использующих программы-вымогатели. Злоумышленники шифруют инфраструктуру организаций и затем требуют выкуп. Так, осенью 2025 года был зафиксирован крупнейший за последние два года всплеск атак программ-вымогателей на российские организации, включая финсектор. В целом число атак на финтех за прошлый год выросло на 43%.

Некоторые группировки, ранее занимавшиеся кибершпионажем, переходят к саботажу. Если раньше злоумышленники могли годами скрытно находиться в инфраструктуре и похищать данные, то теперь все чаще используются инструменты, направленные на полное уничтожение систем. Это уже иной уровень киберугроз.

— А бизнес все активнее внедряет сервисы и продукты на основе ИИ. Какие риски с точки зрения информационной безопасности возникают в ходе этого процесса?

— Угрозы для систем с использованием искусственного интеллекта носят многослойный характер. При традиционном подходе целью атакующих остаются программные комплексы, которые обрабатывают данные и взаимодействуют с ИИ: скомпрометировав такую систему, злоумышленники могут получить доступ к огромным потокам информации.

Однако сегодня формируется новый слой — атаки, направленные непосредственно на сами ИИ-системы. Злоумышленники могут манипулировать и заставить систему выдать документы, которые она не должна выдавать. Подобная манипуляция с агентским ИИ может потенциально нанести намного больший вред.

— Какие типы компаний подвержены наибольшим рискам? 

— Сегодня в зоне риска находится практически любая организация. Атаковать стало проще: злоумышленники активно используют готовые инструменты на базе ИИ, экспериментируют без ограничений и создают все более убедительные дипфейки и фишинговые схемы.

Распространено заблуждение, что атаки всегда целенаправленные. На практике это не совсем так: злоумышленники часто получают первоначальный доступ к разным организациям, а уже затем оценивают, насколько им выгодно развивать атаку дальше.

В целом угрозный фон сегодня расширяется — давление на бизнес растет, поскольку увеличивается количество желающих использовать бреши.

— Как бизнесу снизить риски этих угроз?

— Даже продвинутый агентский ИИ не способен придумывать принципиально новые методы атак — он, скорее, эффективно воспроизводит уже известные подходы. Поэтому актуальными остаются базовые меры защиты: выстраивание многоуровневой безопасности с использованием классических средств — защиты рабочих станций, сетевой защиты, SIEM-решений.

Важно уделять внимание защите ИТ-инфраст­рук­туры с помощью инструментов, которые собирают, анализируют и коррелируют события безопасности из различных источников — логов, серверов, сетевых устройств и приложений — в режиме реального времени. Эти меры противостоят атакам с использованием ИИ так же, как и традиционным угрозам.

Ключевое правило — последовательно соблюдать эти подходы и внедрять технологии ИИ взвешенно.

С опорой на практику

— На какой стадии создания технологичных сервисов или продуктов компании стоит заняться вопросом безопасности?

— О защите продукта важно задумываться уже на этапе проектирования архитектуры.

—  Это понимание есть в бизнес-среде? 

— Индустрия информационной безопасности в России достаточно зрелая, и уровень понимания рисков сегодня значительно выше, чем, например, на этапе активного внедрения облачных технологий. Накопленный опыт и анализ предыдущих инцидентов позволили бизнесу лучше понять, какие последствия могут возникать для данных и самих организаций.

— Будут ли меняться средства защиты под влиянием проникновения ИИ?

— Конечно, ведется разработка новых продуктов и совершенствование уже существующих. Но здесь важно действовать осторожно: сейчас сама технология ИИ находится на пике хайпа, и понимание ее реальных возможностей придет чуть позже — именно они и лягут в основу конечных продуктов.

В сфере кибербезопасности уже есть стремление идти на опережение — например, создавать SOC, или центры мониторинга кибербезопасности, с использованием ИИ. Однако на практике многие сталкиваются с тем, что для этого не хватает данных или ресурсов.

Организациям, которые не специализируются на кибербезопасности, воспроизвести уровень экспертизы и технологий, которыми обладают вендоры ИБ, будет достаточно сложно.

— Что можно порекомендовать бизнесу?

— Опираться на уже проверенные практики кибербезопасности: большинство базовых мер защиты хорошо отработаны и доказали свою эффективность.