Сейчас использование Computer Vision систем в промышленном секторе является стандартом для многих программ перспективного развития. Поиск брака, разведка местности, отбор образцов – эти и многие другие задачи сегодня всё больше доверяют искусственному интеллекту. Но можно ли доверять его решениям и может ли злоумышленник вмешаться в процесс работы, не внедряясь в инфраструктуру?
Обсудим основные подходы к атакам на системы компьютерного зрения, продемонстрируем как провести атаку уклонения на модель, архитектура которой злоумышленнику неизвестна (“blackbox атака”), а также поговорим об основных и самых распространённых ошибках, которых нужно избегать при проектировании и внедрении систем компьютерного зрения.