MLOps : marché

Offre

une offre ouverte ayant passé le contrôle qualité et citant au moins deux technologies

Candidat observé

un candidat dont la stack contient cette technologie ; un agrégat — aucune fiche individuelle ne sort du périmètre

Candidat correspondant

pas encore compté

Fenêtre

offres ouvertes au moment de la création de l'instantané

MLOps Junior — entrée typique : 1) DevOps / SRE Middle + intérêt pour le ML, 2) ML Engineer Middle + intérêt pour l'infrastructure, 3) Backend Senior + connaissances ML (via des formations). Le saut Junior → Middle — après le premier déploiement de bout en bout d'une plateforme ML (Feature Store + Model Registry + stack de serving + supervision). Middle → Senior — responsabilité de plateforme multi-équipes + optimisation des coûts (mandat typique : réduction de 30-50 % des coûts de calcul via la quantification + le cache + les instances spot). Senior → Staff / Principal — architecture de la plateforme ML pour une organisation multi-produits + stratégie d'intégration avec les équipes DevOps / SRE / Data Platform. Parcours de carrière : DevOps Middle / ML Engineer Middle → MLOps Junior (1-2 ans) → Middle (2-3 ans) → Senior → soit MLOps Staff / Principal (profondeur), soit MLOps Tech Lead (management), soit fondateur d'une startup de plateforme ML.

Top 5 : mlops, ci/cd, aws, cloud, docker. Python (en premier — pour l'infrastructure sur mesure), Go en bonus (pour les composants d'infra critiques en performance — p. ex. proxys de serving). Maîtrise de Docker (builds multi-étapes pour des images ML optimisées, conteneurs GPU). Maîtrise de Kubernetes (standard de production pour le serving ML — Deployment / StatefulSet / DaemonSet / Job / CronJob, RBAC, Network Policies, Resource Quotas, HPA / VPA / Cluster Autoscaler). GPU operator (NVIDIA GPU Operator pour l'ordonnancement GPU dans K8s). Opérateurs K8s pour le ML : Kubeflow Training Operator + Spark Operator + Argo Workflows. Helm + Kustomize + ArgoCD / FluxCD — standard GitOps. Terraform / Pulumi / CloudFormation (IaC pour le ML managé dans le cloud — ressources AWS / GCP / Azure). Maîtrise de MLflow (standard open source pour le registre de modèles + le suivi — le Senior gère la personnalisation des plugins MLflow). Kubeflow + Kubeflow Pipelines (orchestration ML native K8s — souvent exigée dans les grandes entreprises). Orchestrateurs de workflows : Airflow + Prefect + Dagster (l'un en profondeur — Dagster en hausse en 2026). Feature stores : Feast (open source) ou Tecton (managé) — indispensable pour un MLOps Senior. Serving de modèles : Triton Inference Server (NVIDIA — multi-framework + batching dynamique) + BentoML (adapté à Python) + TorchServe + KServe (serving natif K8s). Serving spécifique aux LLM : vLLM (PagedAttention — record pour le serving de LLM à haut débit), Text Generation Inference (TGI) de Hugging Face, SGLang (modèle de programmation pour le serving de LLM + mise en cache), Ollama (serving de LLM en local). Observabilité : Prometheus + Grafana + Loki + OpenTelemetry. Supervision ML + détection de dérive : Evidently AI + WhyLabs + Arize AI + Fiddler (l'un en profondeur). Versionnage des données : DVC + LakeFS. ML managé dans le cloud : l'un d'AWS SageMaker / GCP Vertex AI / Azure ML / Databricks en profondeur. Plateformes de calcul distribué : maîtrise de Spark + Ray. Optimisation des coûts : stratégie d'instances spot, partage de GPU (NVIDIA MIG), intégration de la quantification, stratégies de cache (Redis pour les résultats d'inférence), analyse des coûts de l'inférence batch vs temps réel.

Ingénieur DevOps — axé sur l'infrastructure applicative générale (CI/CD + monitoring + cloud + Kubernetes + IaC). Stack : Docker / K8s / Terraform / Prometheus / Grafana / Ansible / Jenkins / GitHub Actions / cloud (AWS / GCP / Azure). Voir Ingénieur DevOps (général) (quand la page sera publiée). Platform Engineer — DevOps + orientation outillage interne. Construit une plateforme pour les développeurs (gestion des clusters K8s + ArgoCD + IDP — Internal Developer Platform — Backstage / Port / Cortex). Ingénieur MLOps (cette page) — DevOps + orientation ML. Construit une plateforme ML pour les équipes DS / ML Engineer / Recherche. En plus de la stack DevOps : MLflow / Kubeflow / Feature Stores / Model Serving (Triton / vLLM) / ML Monitoring (Evidently / WhyLabs) / ML managé dans le cloud (SageMaker / Vertex AI). Ingénieur ML Platform — MLOps Senior orienté plateforme réutilisable en tant que produit (pour toute l'organisation, pas une seule équipe). Recoupements de carrière : DevOps Middle → MLOps Junior — 6-12 mois (apprendre la stack ML + Kubeflow / MLflow + ML managé dans le cloud). MLOps Senior ↔ Platform Engineer Senior — mobilité horizontale facile (beaucoup de stack commune). ML Engineer Middle → MLOps Junior — 4-8 mois (connaît déjà la stack ML, doit approfondir Kubernetes + Terraform + observabilité). DevOps → MLOps — plus éloigné que la reconversion vers Platform Engineer (lacune en ML).

Arbre de décision pour le choix d'une plateforme ML 2026 : 1) MLflow (open source, neutre vis-à-vis des fournisseurs) — idéal pour le suivi des expériences + le model registry + un déploiement simple. Léger. Auto-hébergé ou managé (Databricks). Cas d'usage : socle de la plateforme ML pour la plupart des organisations. Choix par défaut 2026 pour le suivi ML au niveau d'une équipe. 2) Kubeflow + Kubeflow Pipelines (open source, natif Kubernetes) — idéal pour les grandes organisations K8s-first qui veulent une stack de plateforme ML complète sans dépendance à un fournisseur. Mise en place plus lourde. Comprend : Pipelines (workflow) + Training Operator (entraînement distribué) + Serving (KFServing → KServe) + Notebooks. Cas d'usage : grande entreprise + équipe mature sur Kubernetes + exigence multi-cloud / on-prem. 3) AWS SageMaker (managé) — idéal pour les organisations natives AWS. Complet : SageMaker Studio (IDE) + Training Jobs + Hyperparameter Tuning + Pipelines + Endpoints (temps réel + batch) + Model Registry + Feature Store + Clarify (détection des biais). Dépendance à AWS. Cas d'usage : organisation AWS-first + petite équipe ML — rentable grâce au nombre de fonctionnalités dans une seule plateforme. Coûteux à grande échelle. 4) GCP Vertex AI (managé) — l'équivalent SageMaker de Google. Points forts : Vertex AI Workbench (Jupyter dans le cloud), Pipelines (basés sur Kubeflow — portables), AutoML, accès aux TPU (pour la recherche / les grands entraînements), Model Garden (modèles préentraînés). Cas d'usage : organisation GCP-first + la portabilité Kubeflow compte. 5) Azure ML (managé) — l'équivalent Azure. Points forts : Designer (constructeur visuel de pipelines ML), AutoML, capacités MLOps, intégration native Azure. Cas d'usage : organisation Azure / Microsoft-first. 6) Databricks (managé multi-cloud) — idéal pour les workloads ML Spark-first + le Lakehouse. Les créateurs de MLflow. Tarifs premium. Cas d'usage : organisations à forte intensité de données avec un pattern Spark / Lakehouse. 7) Plateformes spécialisées : Weights & Biases (meilleure UX pour le suivi des expériences — favori des chercheurs), Comet (alternative à W&B), Neptune, Determined AI (plateforme d'entraînement distribué), Run:AI (orchestration GPU — racheté par NVIDIA), Truefoundry + Bento (serving de modèles moderne). Par défaut 2026 pour une nouvelle équipe ML : MLflow auto-hébergé (ou Databricks managé si forte utilisation de Spark) + serving sur Kubernetes (Triton / vLLM) + Feast (feature store) + Prometheus + Grafana + Evidently AI. Par défaut pour une entreprise native AWS : SageMaker (si le coût est acceptable + petite équipe) ou MLflow sur EKS + services sur mesure (moins cher à grande échelle). Par défaut pour une entreprise mature sur Kubernetes : Kubeflow + MLflow.

Oui, 28 % des offres MLOps sont entièrement à distance ou hybrides. Le travail MLOps se fait dans le cloud (toute l'infrastructure dans K8s cloud / services managés). Les sociétés d'outsourcing (EPAM AI Platform / Luxoft / Andersen) — presque toujours à distance sur des projets IA américains. Entreprises produit russes — hybride ou à distance après la période d'essai. Banques russes (Sber AI banking / VTB) — hybride/bureau pour des raisons de conformité de sécurité. Entreprises internationales de plateformes ML (Truefoundry / Bento / Weights & Biases / Comet / Domino Data Lab / Determined AI / Run:AI) — tout à distance standard. Plateformes ML des Big Tech — hybride standard, en partie à distance. Pôles d'expatriation pour le MLOps : Pologne (Varsovie / Cracovie — favorables aux plateformes IA), Allemagne (Berlin / Munich), Canada (Toronto), Serbie, Géorgie, Émirats arabes unis. L'anglais pour le télétravail MLOps international — indispensable (prime de +30-50 %, et le MLOps implique une collaboration intensive entre équipes en anglais).

MLOps Engineer (general) — can work in any ML team (product team / research lab / AI consultancy). Stack: universal MLOps. ML Platform Engineer — Senior MLOps with focus on reusable platform-as-product for the whole organisation (not for a single team). On top of that: internal API design (for other ML Engineers / DS), self-service tools (templates / scaffolding / CLI tools — like generate-new-model-project), SLA management for platform components (uptime / latency / throughput targets), cost-chargeback systems (per-team compute usage tracking + billing), onboarding documentation + training programmes for other ML team members, backwards-compatibility management for shared platform components, open-source contribution to platform components (e.g. Feast / Kubeflow contributions). Staff / Principal MLOps — even higher, typically managing an ML platform team (3-7 MLOps engineers + integrations with DevOps / SRE / Data Platform leads). Career choice: MLOps Engineer if you like being hands-on with a new problem every day, ML Platform Engineer if you like building reusable systems and working with multiple consumer teams. All three are legitimate Senior+ paths.

Feuille de route : 1) Socle DevOps solide — maîtrise de Linux + réseau + bash, maîtrise de Docker (builds multi-étapes + optimisation des couches + scan de sécurité), maîtrise approfondie de Kubernetes (Deployment / Service / Ingress / PVC / RBAC / Network Policies / HPA + bases des CRD personnalisés). Livres : « Kubernetes in Action » de Lukša, « The Kubernetes Book » de Poulton. 2) Maîtrise de l'IaC : Terraform en profondeur (modules / gestion de l'état / workspaces) + compréhension des patterns propres à chaque fournisseur cloud. Cours HashiCorp Learn (gratuit). Patterns GitOps avec ArgoCD / FluxCD. 4) Une plateforme cloud en profondeur — choisir AWS / GCP / Azure et passer la certification Solutions Architect Associate / Professional. 5) Bases du ML — minimum : Python + pandas + scikit-learn + PyTorch (bases) + comprendre les boucles d'entraînement / d'inférence. Cours fast.ai « Practical Deep Learning » Part 1. « Designing Machine Learning Systems » de Chip Huyen — à lire absolument en MLOps 2026 (pour comprendre le workflow ML de l'entraînement au déploiement). 6) Suivi des expériences + registre de modèles : maîtrise approfondie de MLflow (Tracking + Registry + Projects + Models). Installer un MLflow auto-hébergé sur EKS / GKE / AKS. 7) Stack de service ML : Triton Inference Server (multi-framework + batching dynamique) + BentoML + KServe. Service de LLM : maîtrise de vLLM (PagedAttention + batching continu) + TGI + SGLang. 8) Feature Store : Feast (open source) — le mettre en place de bout en bout sur un projet de test (hors ligne + en ligne + récupération). 9) Orchestration : l'un de Airflow / Prefect / Dagster + bases de Kubeflow Pipelines. 10) Supervision ML : Evidently AI (détection de dérive + qualité des données) + WhyLabs, Arize AI ou Fiddler — l'un en profondeur. 11) Projet personnel : déploiement complet d'une plateforme ML (cluster K8s + MLflow + Feast + Triton + Prometheus + Grafana + Evidently AI) avec un cycle de vie de modèle simple (entraîner → enregistrer → déployer → superviser → réentraîner). Documenter dans le README GitHub. 12) Contribution open source — Feast / Kubeflow / MLflow / vLLM / Triton — augmente nettement la valeur d'un CV MLOps. Formations russes : Karpov.Courses « MLOps », Otus « MLOps », filière MLOps de SkillFactory, intensif MLOps de Slurm. International (EN) : cours MLOps « Made with ML » de Goku Mohandas (gratuit, complet), cours MLOps de Hugging Face, Coursera « MLOps Specialization » de DeepLearning.AI, Databricks Academy MLOps. Livres à lire absolument : « Designing Machine Learning Systems » de Chip Huyen, « Machine Learning Design Patterns » de Lakshmanan, « Reliable Machine Learning » de Cathy Chen. DevOps Middle / ML Engineer Middle → MLOps Junior — 4-10 mois. Backend Senior → MLOps Junior — 8-14 mois (il faut apprendre la stack ML).

207 active open MLOps positions — growing ML-infrastructure niche. Geography: the US, Poland, the UK. The real market is broader thanks to the international remote segment (ML-platform companies — Truefoundry / Bento / W&B / Comet / Determined AI / Domino Data Lab + AI-startup MLOps teams — full-remote standard). Time to close a Senior MLOps role — 5-10 weeks (faster than Research, slower than DevOps general due to rare ML-skill combination). MLOps — the most "recession-resistant" AI/ML niche (companies cut research first, MLOps continuously needed for production).

Un MLOps Senior prend en charge le cycle complet d'ingénierie de la plateforme ML + le leadership technique. Maîtrise de la programmation : Python en profondeur + Go en bonus pour l'infrastructure critique en performance. Maîtrise de Docker : builds multi-étapes, optimisation des couches, conteneurs GPU, analyse de sécurité (Trivy / Snyk). Maîtrise approfondie de Kubernetes : Deployment / Service / Ingress / PVC / RBAC / Network Policies / HPA / VPA / Cluster Autoscaler, bases des CRD personnalisés, GPU Operator + Kubeflow Training Operator + Spark Operator + Argo Workflows. Maîtrise de l'IaC : Terraform en profondeur (modules / state / workspaces), l'un de Pulumi / CloudFormation en bonus. Maîtrise du GitOps : ArgoCD / FluxCD + patterns Kustomize / Helm. Plateforme cloud en profondeur : l'un de AWS / GCP / Azure au niveau Solutions Architect Professional. Maîtrise de MLflow : personnalisation approfondie + plugins + patterns multi-tenant. Kubeflow Pipelines : déploiement à l'échelle de l'entreprise + composants personnalisés + multi-tenant. Maîtrise des Feature Stores : Feast en profondeur (offline + online + récupération + supervision + multi-tenant) ou Tecton (managé). Maîtrise du serving de modèles : Triton Inference Server en profondeur (ensembles + batching dynamique + dépôts de modèles) + BentoML + KServe. Maîtrise du serving de LLM (indispensable en 2026) : vLLM en profondeur (PagedAttention + continuous batching + speculative decoding + optimisation du KV cache) + TGI + SGLang + Ollama. Plateformes de calcul distribué : maîtrise de Spark + Ray (Spark Operator sur K8s, Ray Train + Ray Serve). Observabilité en profondeur : Prometheus + Grafana + Loki + OpenTelemetry + métriques personnalisées + stratégies d'alerte. Supervision ML : patterns d'intégration Evidently AI + WhyLabs / Arize AI / Fiddler. Maîtrise de l'optimisation des coûts : stratégie d'instances spot + partage de GPU (NVIDIA MIG) + intégration de la quantification (INT8 / FP16 / FP4) + stratégies de cache (Redis pour les résultats d'inférence) + analyse des coûts de l'inférence batch vs temps réel + planification des instances réservées. Mission typique d'un MLOps Senior : réduction de 30-50 % des coûts de calcul en combinant ces techniques. Maîtrise de la sécurité : gestion des secrets (Vault / KMS cloud), network policies, sécurité de la chaîne d'approvisionnement (images signées), confidentialité des données (traitement des DCP dans les pipelines ML). Conception de systèmes pour les plateformes ML : concevoir au tableau blanc des plateformes ML à l'échelle de 100 M+ prédictions/jour + multi-tenant + multi-région. Soft skills : rédaction d'ADR pour les décisions de plateforme, rédaction technique (documentation de la plateforme + supports d'onboarding), revue de code pour plusieurs équipes, mentorat de MLOps Middle, collaboration inter-équipes (équipes DevOps / SRE / Data Platform / ML Engineer / DS / Recherche). Anglais INDISPENSABLE pour Senior+ — le MLOps implique un travail inter-équipes intensif en anglais. Bonus facultatif : contributions open source à Feast / Kubeflow / MLflow / vLLM / Triton — augmentent fortement la valeur sur le marché pour les laboratoires d'IA de pointe + les entreprises de plateformes ML.