ИСП РАН

Максим Рындин, сотрудник отдела "Информационные системы" ИСП РАН

Разработка ML моделей связана с проведением большого количества экспериментов и для них все чаще используются специализированные инструменты и средства. Эти инструменты версионируют модели, эксперименты, планируют ресурсы и многое другое, что в целом называется MLOps методологией. Большинство угроз, специфичных для моделей ИИ тоже имеют экспериментальную природу и естественным выглядит наделение MLOps-инструмента возможностью проводить проверки на доверие, по аналогии со встраиванием чего-то вроде статанлиза в CI. Поэтому поговорим о том, какие есть MLOps-инструменты, что должна уметь и как должна быть устроена современная MLOps платформа, как убедиться, что ваша модель безопасно локально, и как объединить использование MLOps платформы и отдельных инструментов в MLSecOps платформу, чтобы построить что-то вроде CI для безопасности моделей.