ОБЗОР ПРИМЕНЕНИЯ НЕЙРОННЫХ СЕТЕЙ В ОБЛАСТИ ИНФОРМАЦИОННОЙ БЕЗОПАСНОСТИ

Резюме: Нейронные сети – активно развивающаяся технология, часто применяющаяся в целях повышения защищённости компьютерных систем на различных предприятиях. Однако данная технология не лишена уязвимостей и недостатков. В статье представлен обзор работ, посвящённых решению проблем информационной и компьютерной безопасности с помощью методов машинного обучения, при этом исследование сосредоточено преимущественно на технологии нейронных сетей. Также рассматривается проблема обеспечения безопасности обучения и применения нейросетевых моделей. В работе приведена обобщённая классификация проблем безопасности, решаемых с помощью нейронных сетей, на основе выявленных работ. Также предлагается классификация проблем безопасности самих нейронных сетей, которая позволит составить представление об основных угрозах безопасности нейросетевых моделей.

Ключевые слова: Информационная безопасность; Искусственный интеллект; Нейронные сети; Поиск аномалий; Поиск уязвимостей.

K.N. Zhernova

REVIEW OF APPLICATION OF NEURAL NETWORKS IN THE FIELD OF INFORMATION SECURITY

Summary: Neural networks are an actively developing technology, often used to improve the security of computer systems at various enterprises. However, this effective technology contains vulnerabilities and disadvantages. The paper provides an overview of studies dedicated to solving problems of information and computer security using machine learning methods, while this study is focused mainly on neural network technology. The problem of ensuring the security of training and ap- plication of neural network models is also considered. The paper provides a generalized classification of security problems solved using neural networks, based on the identified studies. It also proposes a classification of security problems of neural networks themselves, which will allow one to get an idea of the main threats to the security of neural network models.

Keywords: Information security; Artificial intelligence; Neural networks; Anomaly detection; Vulnerability detection.

DOI: 10.34219/2078-8320-2024-15-109-122