Как лучше защититься от угроз ИИ?
Компании Keysight и NSS решили
это выяснить
Независимая методология тестирования систем защиты ИИ способна оценить их реальную эффективность
Бурное развитие ИИ в корне меняет ландшафт угроз ИБ, а также породило новые, ранее невиданные угрозы, которые можно подразделить на две большие категории:
- Угрозы, которые создает сам ИИ (использование возможностей ИИ для атак)74 284 вредоносных комбинации из наиболее распространенных векторов атак
- Угрозы для самих систем ИИ (атаки на модели, данные и инфраструктуру ИИ)
В первом случае злоумышленники используют ИИ как «усилитель» традиционных атак, делая их быстрее, масштабнее и сложнее для обнаружения.
Пример: если корпоративный ассистент на базе ИИ подключен к почте и CRM, атаки типа prompt injection (внедрение обманных запросов) могут заставить его раскрыть записи в базах данных предприятия, а атаки типа data poisoning (отравление данных) – заставить ИИ ошибочно классифицировать обращения или выдавать опасные ответы.
В 2025 году был зафиксирован рост таких атак с «ИИ-усилителем» на 89 %. Причем, многие атаки стали «безфайловыми» (fileless), то есть не содержащими сами по себе зловредного кода, но нацеленные на вредный результат.
Ко второй категории можно отнести атаки на уникальные уязвимости ИИ, которых нет у обычного ПО. ФСТЭК России в декабре 2025 года впервые выделила риски ИИ в качестве угрозы информационной безопасности1.
Понятно, что принципиально новые векторы атак ИИ требуют и новых технологий защиты. Это порождает необходимость в независимом тестировании таких технологий.
Ко второй категории можно отнести атаки на уникальные уязвимости ИИ, которых нет у обычного ПО. ФСТЭК России в декабре 2025 года впервые выделила риски ИИ в качестве угрозы информационной безопасности1.
Понятно, что принципиально новые векторы атак ИИ требуют и новых технологий защиты. Это порождает необходимость в независимом тестировании таких технологий.
Сделайте шаг к профессиональному
и удобному тестированию!
и удобному тестированию!
Поэтому всемирно известный производитель систем тестирования Keysight Technologies разработал решение тестирования систем защиты AIPS (AI Protection System). Аналитическая компания NSS Labs со своей стороны разработала независимую программу оценки и тестирования технологий защиты от угроз на основе ИИ на базе решения Keysight.
Методология AIPS оценивает продукты по семи параметрам безопасности ИИ, включая атаки c использованием «обманных» данных (prompt injection) для ИИ, риски выдачи ИИ неверной информации и утечку конфиденциальных данных, устойчивость системы в условиях злонамеренных воздействий и безопасность тех или иных инструментов защиты, возможности наблюдения и аудита работы ИИ. Кроме того, AIPS от Keysight позволяет оценить влияние систем защиты на производительность и масштабируемость ИИ.
Методология AIPS оценивает продукты по семи параметрам безопасности ИИ, включая атаки c использованием «обманных» данных (prompt injection) для ИИ, риски выдачи ИИ неверной информации и утечку конфиденциальных данных, устойчивость системы в условиях злонамеренных воздействий и безопасность тех или иных инструментов защиты, возможности наблюдения и аудита работы ИИ. Кроме того, AIPS от Keysight позволяет оценить влияние систем защиты на производительность и масштабируемость ИИ.
Методология включает сотни тысяч тестовых сценариев эмуляции обхода, манипулирования, эксплуатации или перегрузки систем защиты ИИ. Каждый сценарий выполняется с использованием множества примеров атак и их вариаций, включая prompt injection, обфусцированные (замаскированные) промпты, попытки незаконного извлечения конфиденциальных данных, запросы на генерацию эксплойтов, сценарии злоупотребления инструментами агентов ИИ и многие другие виды атак.
Объединение инновационных тестовых решений Keysight с опытом NSS позволило появиться уникальной методике прозрачной и независимой оценки защищенности систем ИИ. Методика позволяет понять, насколько хорошо системы защиты ИИ работают против реальных угроз и насколько они заслуживают доверия.
Программа тестирования AIPS от Keysight и NSS будет представлена в апреле 2026. Следите за публикациями на сайте https://rutest.zone/, где можно ознакомиться с обширным арсеналом решений тестирования сетей и устройств.
В настоящее время уже доступны решения для тестирования сетевых фабрик ИИ, с которыми можно ознакомиться здесь.
Программа тестирования AIPS от Keysight и NSS будет представлена в апреле 2026. Следите за публикациями на сайте https://rutest.zone/, где можно ознакомиться с обширным арсеналом решений тестирования сетей и устройств.
В настоящее время уже доступны решения для тестирования сетевых фабрик ИИ, с которыми можно ознакомиться здесь.
В продолжение темы:
Чем сети AI / ML отличаются от сетей традиционных дата-центров
Распространение искусственного интеллекта (AI) и машинного обучения (ML) стимулирует рост производительности и эффективности сетей дата-центров. В статье рассмотрены новые требования к AI сетям, отличия трафика AI / ML от трафика традиционных сетей дата-центров, а также технологии адаптации сети Ethernet для высоконагруженного AI трафика, и то, как наши решения помогают оптимизировать AI сети.
Оставить заявку
на консультацию
Решение IXIA
Тестирование сетевой фабрики AI
(RoCEv2)
(RoCEv2)
IXIA Network Emulator 3
Тестирование приложений и решений ИБ в масштабах предприятия
Решение IXIA UHD100T32
Тестирование приложений и решений ИБ в масштабах предприятия
Решение IXIA UHD400T
Ultra-high Density
Тестирование приложений и решений ИБ в масштабах предприятия
Решение IXIA AresONE-M 800GE
Тестирование приложений и решений ИБ в масштабах предприятия
РУТЕСТ
Почему стоит выбрать РУТЕСТ для тестирования
-
Комплексный подход
Мы охватываем все аспекты тестирования, включая методологии, аренду решений и автоматизацию -
Опыт и профессионализм
Мы работаем с передовыми технологиями и знаем, как внедрить их в ваш бизнес -
Экономия времени и ресурсов
Наши услуги позволяют снизить затраты на тестирование, сохраняя высокое качество
