Разглядываем MITRE ATLAS

MITRE ATT&CK — хорошо известный фреймворк для классификации угроз безопасности ПО. А вот его специфичный для ML вариант под названием ATLAS известен гораздо меньше.

Cчитаю, что вероятность появления в системах каких-либо элементов машинного обучения будет со временем только возрастать. А следовательно, их разработчикам стоит на ранних стадиях задуматься об обеспечении безопасности ML-based решений.

Рассмотрим конкретные примеры уязвимостей из избранных элементов ATLAS-матрицы. В том числе кейс, к добавлению которого я приложил свои усилия.