В целях масштабирования и совершенствования аналитических решений ведущие игроки используют концепцию MLOps:
- Цифровой двойник. Классические BI инструменты для более точного управления бизнес-процессами, напр., создание виртуального прототипа реального объекта.
- Big Data технологии. Повышение эффекта от классических BI инструментов - становится все более значимым потенциал монетизации данных с использованием технологий BigData, продвинутой аналитики, машинного обучения.
- Сервисная модель - MLOps. Лавинообразный рост количества задач бизнеса к использованию решений с ИИ.
Ключевые преимущества MLOps:
- Сокращение TTM (time-to-market);
- Масштабируемость.
Компоненты DevOps + модели:
- Репозиторий (контроль версий) → Модель + Витрина. Алгоритмы, обучающий датасет.
- Развертывание (управление конфигурациями) → Модель + Контейнер + ETL. Библиотеки, среда исполнения.
- Автотесты (модули, скрипты, микросервисы) → Модель + Витрина. Тестовый датасет, метрики, скрипты для тестирования.
- Мониторинг (модули, скрипты, микросервисы) → Расписание. Метрики, скрипты мониторинга. Дэшборды, алерты.
- Обратная связь (сбой - разработчик - команда) → Группа реагирования. Data Scientist, MLOps Engineer, Data Engineer.
Роли в рамках процесса создания Моделей.
Бизнес / Функция
А → Бизнес-заказчик - формирует требования для разрабатываемого решения, ответственен за интеграцию о реализацию бизнес-эффекта.
В → Предметные эксперты (частичное вовлечение) формируют бизнес-гипотезы и проверяют результаты аналитики со стороны бизнес-опыта.
С → Конечные пользователи (частичное вовлечение) предоставляют вводные по бизнес-процессу.
D → Бизнес-партнер - проводит синтез выводов, ответственен за постановку задач для Data Scientist и Инженеров Данных на основании требований бизнес-заказчика.
E → Data Scientist - разрабатывает продвинутые статические модели и алгоритмы.
F → Data Engineer - собирает, структурирует и фильтрует данные для обеспечения их качества и доступности.
ModelOps - адаптирует и интегрирует модели для применения.
Способы сокращения среднего времени разработки и внедрения решений.
Инструменты
→ Конвейер MLOps с автоматизацией
→ Надлежащий процесс разработки моделей машинного обучения, соответствующий agile-принципам и существующим ролям
→ Обучение Data scientist-ов эффективным методам разработки ПО
Потенциальный эффект
→ Производительность рабочей группы по машинному обучению - 50%
→ Сроки вывода новой модели на рынок - 25%
→ Срок вывода нового релиза на рынок - 50%
Выводы:
- Продуктом, создающим ценность для бизнеса является не только модель, но и технологическое решение по ее применению в бизнес процессе;
- Сервисная модель MLOps появляется в ответ на рост аппетита к ИИ;
- Ключевые цели MLOps для решения возрастающего потока задач - сокращение TTM (time-to-market), повышение эффективности команд, масштабируемость;
- Сервисная модель (MLOps) определяет ключевые компетенции, участвующие в разработке моделей и типовой процесс взаимодействия между ними;
- Инструментарий для моделирования работает в связке с CI/CD инфраструктурой, адаптированной для внедрения моделей.