ЗАЩИТА МОДЕЛЕЙ МАШИННОГО ОБУЧЕНИЯ ОТ ИЗВЛЕЧЕНИЯ ОБУЧАЮЩЕГО НАБОРА ДАННЫХ

2024/03/11 by Мурылева, А. А., Калинин, М. О., Лаврова, Д. С.
#Computer and information sciences #FOS: Computer and information sciences

paper · doi:10.48612/jisp/en1z-upfz-u3p7

Abstract

Рассмотрена проблема защиты моделей машинного обучения от угрозы нарушения конфиденциальности данных, реализующей определение членства в обучающих наборах данных. Предложен метод защитного зашумления обучающего набора. Экспериментально показано, что гуассово зашумление обучающих данных с масштабом 0,2 является наиболее простым и эффективным способом защиты моделей машинного обучения от определения членства в обучающем наборе. В сравнении с альтернативами данный метод прост в реализации, универсален по отношению к видам моделей и позволяет снизить результативность определения членства до 26 %-ных пунктов.

Related

• ЗАЩИТА ОТ УГРОЗЫ ИЗВЛЕЧЕНИЯ ВЫЧИСЛИТЕЛЬНЫХ МОДЕЛЕЙ МАШИННОГО ОБУЧЕНИЯ
• КОНФИДЕНЦИАЛЬНОСТЬ МОДЕЛЕЙ МАШИННОГО ОБУЧЕНИЯ
• Выявление искажающих данных в системах обнаружения вторжений, использующих вычислительные модели машинного обучения
• ОТ ЭКСПЛУАТАЦИИ К ЗАЩИТЕ: АНАЛИЗ МЕТОДОВ ЗАЩИТЫ ОТ АТАК НА ЯЗЫКОВЫЕ МОДЕЛИ
• ПРОБЛЕМЫ ОЦЕНКИ ДОВЕРИЯ ПРИ АНАЛИЗЕ БОЛЬШИХ ДАННЫХ