РИСКИ БЕЗОПАСНОСТИ ПРИ ИСПОЛЬЗОВАНИИ БОЛЬШИХ ЯЗЫКОВЫХ МОДЕЛЕЙ (LLM) В СИСТЕМАХ

Резюме: Стремительное развитие моделей искусственного интеллекта, в частности, больших языковых моделей, подарили индустрии возможность высококачественного выполнения целого ряда задач в различных отраслях деятельности, начиная от машинного перевода и заканчивая построением сложных вопросо-ответных систем. Однако, бурный рост использования данных моделей помимо очевидных достоинств несет за собой и целый ряд рисков с точки зрения безопасности информационных систем. В статье предоставляется анализ уязвимостей систем, использующих в своей работе большие языковые модели, как с точки зрения правового урегулирования, так и с инженерно-прикладной. Помимо этого представлен подробный разбор возможных путей атак системы, использующей LLM, построенной по OWASP. 

Ключевые слова: искусственный интеллект, большие языковые модели, информационная безопасность, конфиденциальность данных, OWASP

 O.A. Panina, D.A. Yurin, I.Yu. Sykhov

SECURITY RISKS OF USING LARGE LANGUAGE MODELS (LLM) IN SYSTEMS

Summary: The rapid development of artificial intelligence models, in particular large language models, has given the industry the opportunity to perform a wide range of tasks in various fields of activity, from machine translation to the construction of complex question-answering systems. However, the rapid growth in the use of these models, in addition to the obvious advantages, also carries a number of risks in terms of information system security. The paper analyzes the vulnerabilities of systems that use large language models in their work, both from the point of view of legal regulation and from the point of view of engineering-application. In addition, a detailed analysis of the possible attack paths of a system using LLM built by OWASP is presented.

Keywords: Artificial intelligence, large language models, information security, data privacy, OWASP

 DOI: 10.34219/2078-8320-2024-15-6-65-72