КОНФИДЕНЦИАЛЬНОСТЬ МОДЕЛЕЙ МАШИННОГО ОБУЧЕНИЯ

2023/09/01 by Рудницкая, Е. А., Полтавцева, М. А.
#Computer and information sciences #FOS: Computer and information sciences

paper · doi:10.48612/jisp/e9tz-1ge5-ke25

Abstract

Работа посвящена задаче обеспечения конфиденциальности моделей при использовании систем машинного обучения. Целью работы является обеспечение конфиденциальности проприетарных моделей систем машинного обучения. В ходе работы был проведен анализ атак, направленных на нарушение конфиденциальности моделей систем машинного обучения, а также способов защиты от данного типа атак, в результате чего задача защиты от таких атак поставлена как поиск аномалий во входных данных. Предложен способ выявления аномалий во входных данных на основе статистических данных с учетом возобновления атаки под другой учетной записью злоумышленника. Полученные результаты могут быть использованы в качестве основы для проектирования компонентов систем защиты машинного обучения.

Related

• ЗАЩИТА ОТ АТАК НА СИСТЕМЫ МАШИННОГО ОБУЧЕНИЯ НА ПРИМЕРЕ АТАК УКЛОНЕНИЯ ПРИ АНАЛИЗЕ МЕДИЦИНСКИХ ИЗОБРАЖЕНИЙ
• ЗАЩИТА ОТ УГРОЗЫ ИЗВЛЕЧЕНИЯ ВЫЧИСЛИТЕЛЬНЫХ МОДЕЛЕЙ МАШИННОГО ОБУЧЕНИЯ
• ЗАЩИТА МОДЕЛЕЙ МАШИННОГО ОБУЧЕНИЯ ОТ ИЗВЛЕЧЕНИЯ ОБУЧАЮЩЕГО НАБОРА ДАННЫХ
• Некоторые аспекты унификации рифоздания
• ОСОБЕННОСТИ ОБНАРУЖЕНИЯ ВРЕДОНОСНЫХ УСТАНОВОЧНЫХ ФАЙЛОВ С ИСПОЛЬЗОВАНИЕМ АЛГОРИТМОВ МАШИНОГО ОБУЧЕНИЯ