Защити помощника. Или как ML стал заботой DevSecOps’ов?
Доклад принят в программу конференции
Целевая аудитория
Тезисы
Сейчас использование ML и AI стало практически обязательным пунктом любой программы цифровизации. Компании промышленного сектора экономики одни из самых активных «юзеров» машинного обучения в своих продуктах.
Предсказать лучшее месторождение? Предугадать, когда оборудование выйдет из строя? Все это и не только нам помогает делать искусственный интеллект и машинное обучение.
А что, если злоумышленник уже использует уязвимости в моделях, чтобы «жить» в вашей инфраструктуре? Или подменяет их так, что вы не видите?
Поговорим о том, как современный DevSecOps работает с уязвимостями в моделях и куда движется отрасль защиты именно от этого типа проблем.
Расскажу про «идеальные» конвейеры MLOps и внедрение практик безопасности в них. Покажу, что делаем мы и поделюсь подходами, которые не могут не сработать.
Работаю в Positive Technologies. Несколько лет занимаюсь консалтингом и аудитом в области безопасной разработки. До этого поработала в роли системного аналитика и заместителя ИТ-директора. В информационную безопасность пришла через разработку, поэтому есть понимание, что, как и почему происходит. Опыт в технологиях и консалтинге больше 6 лет. Собирала команды, учила аппсеков, придумывала подходы. Люблю и стараюсь развиваться внутри безопасности приложений во всех направлениях:) Есть понимание, как надо делать, а как - лучше не стоит. Вхожу в рабочие группы по разработке безопасного ПО и помогаю делать наш аппсечий мир лучше. Часто рассказываю полезности на конференциях и веду телеграм-канал по AppSec.
Positive Technologies
Видео
Другие доклады секции
ML и AI в производственных компаниях
