Защити помощника, или Как ML стал заботой DevSecOps’ов?

DevOps в производственной компании

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Из доклада узнаем, зачем нужен MLSecOps, какие угрозы бывают, почему нужно уделять внимание безопасности при его организации и как построить идеальный ML-репозиторий с CI/CD-процессами.

Целевая аудитория

CDTO, CISO, CTO, DevOps, DevSecOps, специалисты по безопасной разработке, специалисты по безопасности.

Тезисы

Сейчас использование ML и AI стало практически обязательным пунктом любой программы цифровизации. Компании промышленного сектора экономики — одни из самых активных «юзеров» машинного обучения в своих продуктах.
Предсказать лучшее месторождение? Предугадать, когда оборудование выйдет из строя? Все это и не только нам помогает делать искусственный интеллект и машинное обучение.

А что, если злоумышленник уже использует уязвимости в моделях, чтобы «жить» в вашей инфраструктуре? Или подменяет их так, что вы не видите?

Поговорим о том, как современный DevSecOps работает с уязвимостями в моделях и куда движется отрасль защиты именно от этого типа проблем. Расскажу про «идеальные» конвейеры MLOps и внедрение практик безопасности в них. Покажу, что делаем мы, и поделюсь подходами, которые не могут не сработать.

Александр Кузьмин

Positive Technologies

По образованию специалист по информационной безопасности, но судьба привела Александра в мир машинного обучения, где он долгое время проработал инженером. По счастливой случайности попал в AppSec и понял: вот где можно применить свой ML-опыт и страсть к безопасности. Теперь его цель — сделать ML-разработку более защищенной и эффективной. Активно делится своими знаниями и идеями, рассказывает о своем опыте на конференциях.

Positive Technologies

Positive Technologies — лидер рынка результативной кибербезопасности. Компания является ведущим разработчиком продуктов, решений и сервисов, позволяющих выявлять и предотвращать кибератаки до того, как они причинят неприемлемый ущерб бизнесу и целым отраслям экономики. Технологии компании используют более 3300 организаций по всему миру, в том числе 80% компаний из рейтинга «Эксперт-400». Positive Technologies — первая и единственная компания из сферы кибербезопасности на Московской бирже (MOEX: POSI), у нее более 180 тысяч акционеров.

Видео