В настоящее время наблюдается беспрецедентный рост угроз безопасности в отношении известных систем машинного обучения, в том числе Yandex SpeechKit, Yandex Vision, «Видеоинтеллект», Logi Predict и др., получивших широкое применение в цифровой экономике Российской Федерации. Для своевременного обнаружения и нейтрализации упомянутых угроз безопасности необходимо исследовать известные приемы (тактики и техники) нападения злоумышленников. В настоящей статье представлены возможные классификации атак злоумышленников на системы машинного обучения на основе модели угроз безопасности ФСТЭК России, а также на основе развития первой известной матрицы угроз MITRE2.
< ... >
Currently, there is an unprecedented increase in security threats against well-known machine learning systems, including Yandex SpeechKit, Yandex Vision, Videointellect, Logi Predict, etc., which are widely used in the Digital Economy of the Russian Federation. For the timely detection and neutralization of the mentioned security threats it is necessary to investigate the known methods (tactics and techniques) of attack by intruders. This article presents possible classifications of attacks by intruders on machine learning systems based on the security threat model of the FSTEC of Russia, as well as based on the development of the first known threat matrix MITRE.
Keywords:
artificial intelligence, machine learning, machine learning systems, attacker tactics and techniques, attacker attacks, attack classification
Полную версию статьи смотрите на страницах журнала «Защита информации. Инсайд»
