Поскольку компоненты искусственного интеллекта стали неотъемлемой частью различных информационных инфраструктур, потребность в адаптированных к этим системам отечественных средствах безопасности становится первостепенной. В работе представлен программный комплекс исследования защищенности прикладных систем искусственного интеллекта от перспективных киберугроз. Комплекс обеспечивает необходимый базис для формирования новых сценариев тестирования алгоритмов искусственного интеллекта, а также позволяет определить потенциальные угрозы целостности моделей машинного обучения и сформировать рекомендации по недопущению потерь.
< ... >
Since artificial intelligence components began to be connected to parts of various information infrastructures, the need for domestic security tools adapted to these systems becomes paramount. The paper presents a software package for ensuring the security of applied artificial intelligence systems from promising cyber threats. This package provides a basis for the formation of new approaches to testing artificial intelligence algorithms, and also allows identifying potential threats using machine learning methods and giving recommendations for software modification.
Keywords:
artificial intelligence, machine learning models, reliability, information security, diagnostic testing, test environment
Полную версию статьи смотрите на страницах журнала «Защита информации. Инсайд»
