2023/09/01 by Сошнев, М. Д., Калинин, М. О.
#Computer and information sciences #FOS: Computer and information sciences
paper · doi:10.48612/jisp/9tn6-451b-dz2t
Рассмотрена угроза извлечения моделей машинного обучения. Большинство современных методов защиты от извлечения вычислительных моделей машинного обучения основано на применении механизма защитного зашумления. Основным недостатком механизма зашумления является снижение точности выходных результатов модели. Сформулированы требования к эффективным методам защиты моделей машинного обучения от извлечения и представлен новый метод предотвращения данной угрозы, дополняющий зашумление механизмом дистилляции. Экспериментально показано, что разработанный метод обеспечивает устойчивость моделей машинного обучения к угрозе извлечения с сохранением качества результатов их работы за счет трансформации защищаемых моделей в другие, упрощенные, но эквивалентные исходным, модели.