MLOps, часть III: критерии выбора инструментов и возможности Open Source

Машинное обучение так или иначе уже применяется в компаниях самых разных масштабов и направлений деятельности. Однако для выстраивания зрелой ML-инфраструктуры и перехода к эффективным MLOps-практикам требуется понимание: с чего начать, на какие платформы обратить внимание, к каким инструментам присмотреться внимательнее, а какие подойдут лишь для разовых экспериментов. 

К инструментам MLOps для больших исследовательских и бизнес-задач предъявляются три базовых требования: интерпретируемость, воспроизводимость, надёжность. Как среди десятков Open-Source-инструментов выбрать правильные, что могут или не могут использовать компании, к которым предъявляются высокие требования стандартизации, на чем должен основываться выбор между облаками и InHouse для ML, — в третьем выпуске серии MLOps подкаста «Деньги любят техно» обсудили Юрий Карев, руководитель управления процессов и стандартов моделирования и машинного обучения ВТБ, и Алексей Незнанов, к.т.н, старший научный сотрудник международной лаборатории интеллектуальных систем и структурного анализа НИУ ВШЭ.

Полезные материалы к эпизоду:
1. Interpretability and Reproducability
a. A Guide for Making Black Box Models Explainable by Christoph Molnar
b. Papers with Code
c. How to Solve Reproducibility in ML by Ejiro Onose
d. A Quick Guide to Design Rigorous Machine Learning Experiments by Joris Guerin
2. Interoperability
a. Three Levels of ML Software
b. Open Neural Network Exchange (ONNX)
c. MLeap
d. Introducing Keras 3.0
3. AI Landscape and open source
a. LF AI & Data Foundation Interactive Landscape
b. MLOps Landscape in 2023: Top Tools and Platforms by Stephen Oladele
c. State of Open Source AI Book — 2023 Edition
4. Illustrative tools
a. mlflow — open source platform for the machine learning lifecycle
b. ClearML — Better AI At Any Scale, Faster
c. CML — CI/CD for Machine Learning Projects
d. DVC — (Not Just) Data Version Control
e. Microsoft Azure Machine Learning Studio (classic)
f. Google Dataplex
g. Project and Product Names Using “Apache Arrow”
h. Polars vs pandas: What’s the Difference? By Jodie Burchell
5. Additional resources
a. Building a Machine Learning Platform [Definitive Guide] by Stephen Oladele
b. Top 7 Layers of MLOps Security | Advanced Guide by Navdeep Singh Gill
c. Speed up your data science and scientific computing code