Большой куш: баги в MLOps и моделях машинного обучения, которые приводят к тем самым последствиям

Разработчик «Четыре Пальца» должен был безопасно переправить модели из стадии разработки в production. Однако из-за ряда непродуманных действий — отсутствия проверки кода моделей на уязвимости и безопасной настройки пайплайна —  он оказывается втянут в цепь непредвиденных событий: adversarial-атаки, кража модели и ее модификации. Это, в свою очередь, приводит к образованию сложной «интриги» с множеством уязвимостей.

В докладе продемонстрирую методологию проведения пентеста и анализа защищенности для выстроенного MLOps pipeline. Проведу анализ типичных недостатков конфигурации, а также рассмотрю уязвимости моделей машинного обучения, при помощи которых пентестер или злоумышленник может получить «большой куш» — тот самый критический риск, который может причинить большой вред компании. Помимо самих атак рассмотрим рекомендации по защите от атак на MLOps.

Доклад может быть интересен специалистам по тестированию на проникновение, AppSec-инженерам и DevSecOps.