АЛГОРИТМ ЗАЩИТЫ СИСТЕМ МАШИННОГО ОБУЧЕНИЯ ОТ УГРОЗЫ МОДИФИКАЦИИ МОДЕЛИ ПУТЕМ ВЫЯВЛЕНИЯ ВНЕДРЕННЫХ ВРЕДОНОСНЫХ ДАННЫХ

Чекмарев Максим Алексеевич

В работе рассмотрены основные угрозы безопасности для систем машинного обучения и, в частности, угрозы модификации модели путем внедрения вредоносных данных. Предложен алгоритм защиты, основанный на применении технологии развертывающихся искусственных нейронных сетей. Проведено тестирование работы алгоритма с использованием разработанной программы для ЭВМ и получен набор низкоуровневых признаков объекта обучения, позволяющий выявить внедренные вредоносные данные. Сделаны выводы о необходимости проведения дальнейших исследований по данному направлению.

Ключевые слова:машинное обучение, искусственный интеллект, нарушение безопасности, атака отравления, искусственные нейронные сети, низкоуровневые признаки