"Записки научных семинаров ПОМИ"
Том 530, стр. 38-50
Фаззинг Python для надежных фреймворков машинного обучения
И. Егоров, Э. Кобрин, Д. Парыгина, А. Вишняков, А. Федотов
Ivannikov Institute for System Programming
of the RAS, Lomonosov Moscow State University
Yegorov_Ilya@ispras.ru
kobrineli@ispras.ru
pa_darochek@ispras.ru
vishnya@ispras.ru
fedotoff@ispras.ru
- Аннотация:
Обеспечение безопасности и надежности сред машинного обучения имеет решающее значение для
создания надежных систем на базе искусственного интеллекта. Фаззинг -- популярная техника в
жизненном цикле разработки безопасного программного обеспечения (SSDLC), которая может
использоваться для разработки безопасного и надежного программного обеспечения.
Популярные платформы машинного обучения, такие как PyTorch и TensorFlow, сложны и написаны
на нескольких языках программирования, включая C/С++ и Python. Мы предлагаем конвейер динамического
анализа для проектов Python с помощью набора инструментов Sydr-Fuzz. В нашем конвейере есть фаззинг,
минимизация корпуса, сортировка сбоев и сбор покрытия. Классификация сбоев и оценка их
серьезности являются важными шагами, гарантирующими, что наиболее критические уязвимости
будут устранены оперативно. Кроме того, предлагаемый конвейер интегрирован в GitLab CI.
Чтобы выявить наиболее уязвимые части фреймворков машинного обучения, мы проанализировали
их потенциальные поверхности атаки и разработали цели фаззинга для PyTorch, TensorFlow и связанных
с ними проектов, таких как h5py. Применяя наш пайплайна динамического анализа к этим целям,
мы смогли обнаружить 3 новые ошибки и предложить исправления для них.
Библ. -- 35 назв.
- Ключевые слова: фаззинг, доверенный ИИ, фреймворки машинного обучения,
TensorFlow, PyTorch, Python, искусственный интеллект, анализ ошибок,
динамический анализ, жизненный цикл разработки надёжного ПО, SSDLC,
компьютерная безопасность
[fuzzing, trustworthy AI, machine learning framework,
TensorFlow, PyTorch, Python, artificial intelligence, crash
triage, dynamic analysis, secure software development lifecycle,
SSDLC, computer security]
Полный текст(.pdf)