MLOps: Markt

Stelle

eine offene Stelle, die das Qualitäts-Gate passiert hat und mindestens zwei Technologien nennt

Beobachteter Kandidat

ein Kandidat, dessen Stack diese Technologie enthält; ein Aggregat — kein einziger Datensatz verlässt den Perimeter

Matchbarer Kandidat

noch nicht gezählt

Fenster

Stellen, die zum Zeitpunkt der Erstellung des Snapshots offen waren

Junior MLOps — typischer Einstieg: 1) DevOps / SRE Middle + Interesse an ML, 2) ML Engineer Middle + Interesse an Infrastruktur, 3) Backend Senior + ML-Kenntnisse (über Kurse). Der Sprung Junior → Middle — nach der ersten End-to-End-Einführung einer ML-Plattform (Feature Store + Model Registry + Serving-Stack + Monitoring). Middle → Senior — teamübergreifende Plattformverantwortung + Kostenoptimierung (typisches Mandat: 30-50% Senkung der Rechenkosten durch Quantisierung + Caching + Spot-Instanzen). Senior → Staff / Principal — ML-Plattformarchitektur für eine Organisation mit mehreren Produkten + Integrationsstrategie mit DevOps- / SRE- / Data-Platform-Teams. Karriereweg: DevOps Middle / ML Engineer Middle → Junior MLOps (1-2 Jahre) → Middle (2-3 Jahre) → Senior → entweder Staff / Principal MLOps (Tiefe), MLOps Tech Lead (Führung) oder Gründer eines ML-Plattform-Startups.

Top 5: mlops, ci/cd, aws, cloud, docker. Python (primär — für eigene Infrastruktur), Go als Bonus (für performancekritische Infrastrukturkomponenten — z. B. Serving-Proxys). Souveränes Docker (Multi-Stage-Builds für optimierte ML-Images, GPU-Container). Souveränes Kubernetes (Produktionsstandard für ML-Serving — Deployment / StatefulSet / DaemonSet / Job / CronJob, RBAC, Network Policies, Resource Quotas, HPA / VPA / Cluster Autoscaler). GPU Operator (NVIDIA GPU Operator für GPU-Scheduling in K8s). K8s-Operatoren für ML: Kubeflow Training Operator + Spark Operator + Argo Workflows. Helm + Kustomize + ArgoCD / FluxCD — GitOps-Standard. Terraform / Pulumi / CloudFormation (IaC für Cloud-Managed ML — Ressourcen in AWS / GCP / Azure). Souveränes MLflow (Open-Source-Standard für Model Registry + Tracking — ein Senior beherrscht die Anpassung von MLflow-Plugins). Kubeflow + Kubeflow Pipelines (K8s-native ML-Orchestrierung — große Enterprises verlangen sie oft). Workflow-Orchestratoren: Airflow + Prefect + Dagster (einen in der Tiefe — Dagster auf dem Vormarsch 2026). Feature Stores: Feast (Open Source) oder Tecton (verwaltet) — Pflicht für Senior MLOps. Model Serving: Triton Inference Server (NVIDIA — Multi-Framework + Dynamic Batching) + BentoML (Python-freundlich) + TorchServe + KServe (K8s-natives Serving). LLM-spezifisches Serving: vLLM (PagedAttention — Rekord beim LLM-Serving mit hohem Durchsatz), Text Generation Inference (TGI) von Hugging Face, SGLang (Programmiermodell für LLM-Serving + Caching), Ollama (lokales LLM-Serving). Observability: Prometheus + Grafana + Loki + OpenTelemetry. ML-Monitoring + Drift-Erkennung: Evidently AI + WhyLabs + Arize AI + Fiddler (eines in der Tiefe). Versionskontrolle für Daten: DVC + LakeFS. Cloud-Managed ML: eines von AWS SageMaker / GCP Vertex AI / Azure ML / Databricks in der Tiefe. Plattformen für verteiltes Rechnen: souveränes Spark + Ray. Kostenoptimierung: Strategie für Spot-Instanzen, GPU-Sharing (NVIDIA MIG), Integration von Quantisierung, Caching-Strategien (Redis für Inferenzergebnisse), Kostenanalyse Batch- vs. Echtzeit-Inferenz.

DevOps Engineer — Fokus auf allgemeine Anwendungsinfrastruktur (CI/CD + Monitoring + Cloud + Kubernetes + IaC). Stack: Docker / K8s / Terraform / Prometheus / Grafana / Ansible / Jenkins / GitHub Actions / Cloud (AWS / GCP / Azure). Siehe DevOps Engineer (allgemein) (sobald die Seite online ist). Platform Engineer — DevOps + Fokus auf interne Tools. Baut eine Entwicklerplattform für Engineers (Verwaltung von K8s-Clustern + ArgoCD + IDP — Internal Developer Platform — Backstage / Port / Cortex). MLOps Engineer (diese Seite) — DevOps + ML-spezifischer Fokus. Baut eine ML-Plattform für DS- / ML-Engineer- / Research-Teams. Zusätzlich zum DevOps-Stack: MLflow / Kubeflow / Feature Stores / Model Serving (Triton / vLLM) / ML-Monitoring (Evidently / WhyLabs) / verwaltetes Cloud-ML (SageMaker / Vertex AI). ML Platform Engineer — Senior MLOps mit Fokus auf eine wiederverwendbare Plattform als Produkt (für die gesamte Organisation, nicht für ein einzelnes Team). Karriereüberschneidung: DevOps Middle → MLOps Junior — 6-12 Monate (ML-Stack + Kubeflow / MLflow + verwaltetes Cloud-ML lernen). MLOps Senior ↔ Platform Engineer Senior — einfacher lateraler Wechsel (viel gemeinsamer Stack). ML Engineer Middle → MLOps Junior — 4-8 Monate (kennt den ML-Stack bereits, muss Kubernetes + Terraform + Observability vertiefen). DevOps → MLOps — ein weiterer Weg als der Wechsel zum Platform Engineer (Lücke beim ML-Wissen).

Entscheidungsbaum für die Wahl der ML-Plattform 2026: 1) MLflow (Open Source, herstellerneutral) — am besten für Experiment-Tracking + Model Registry + einfaches Deployment. Leichtgewichtig. Self-hosted oder managed (Databricks). Einsatzfall: Fundament der ML-Plattform für die meisten Organisationen. Standard 2026 für ML-Tracking auf Teamebene. 2) Kubeflow + Kubeflow Pipelines (Open Source, Kubernetes-nativ) — am besten für K8s-first-Großunternehmen, die einen vollständigen ML-Plattform-Stack ohne Vendor-Lock-in wollen. Aufwendigeres Setup. Enthält: Pipelines (Workflow) + Training Operator (verteiltes Training) + Serving (KFServing → KServe) + Notebooks. Einsatzfall: Großunternehmen + Kubernetes-erfahrenes Team + Anforderung Multi-Cloud / On-Prem. 3) AWS SageMaker (managed) — am besten für AWS-native Organisationen. Umfassend: SageMaker Studio (IDE) + Training Jobs + Hyperparameter Tuning + Pipelines + Endpoints (Echtzeit + Batch) + Model Registry + Feature Store + Clarify (Bias-Erkennung). Vendor-Lock-in bei AWS. Einsatzfall: AWS-first-Organisation + kleines ML-Team — rechnet sich dank der Funktionsvielfalt in einer Plattform. Bei großem Maßstab kostenintensiv (teuer). 4) GCP Vertex AI (managed) — Googles Pendant zu SageMaker. Stark bei: Vertex AI Workbench (Jupyter in der Cloud), Pipelines (Kubeflow-basiert — portabel), AutoML, TPU-Zugang (für Forschung / großes Training), Model Garden (vortrainierte Modelle). Einsatzfall: GCP-first-Organisation + Portabilität von Kubeflow ist wichtig. 5) Azure ML (managed) — das Azure-Pendant. Stark bei: Designer (visueller Builder für ML-Pipelines), AutoML, MLOps-Funktionen, native Azure-Integration. Einsatzfall: Azure- / Microsoft-first-Organisation. 6) Databricks (managed, Multi-Cloud) — am besten für Spark-first-ML-Workloads + Lakehouse. Schöpfer von MLflow. Premium-Preise. Einsatzfall: datenintensive Organisationen mit Spark- / Lakehouse-Pattern. 7) Spezialisierte Plattformen: Weights & Biases (beste UX für Experiment-Tracking — Favorit der Forschung), Comet (W&B-Alternative), Neptune, Determined AI (Plattform für verteiltes Training), Run:AI (GPU-Orchestrierung — von NVIDIA übernommen), Truefoundry + Bento (modernes Model Serving). Standard 2026 für ein neues ML-Team: MLflow self-hosted (oder Databricks managed bei viel Spark) + Kubernetes-Serving (Triton / vLLM) + Feast (Feature Store) + Prometheus + Grafana + Evidently AI. Standard für AWS-native Großunternehmen: SageMaker (bei akzeptablen Kosten + kleinem Team) oder MLflow auf EKS + eigene Services (günstiger bei großem Maßstab). Standard für Kubernetes-erfahrene Großunternehmen: Kubeflow + MLflow.

Ja, 28% der MLOps-Stellen sind vollständig remote oder hybrid. MLOps-Arbeit ist cloudbasiert (die gesamte Infrastruktur in Cloud-K8s / Managed Services). Outsourcing-Firmen (EPAM AI Platform / Luxoft / Andersen) — fast immer remote bei US-AI-Projekten. Russische Produktunternehmen — hybrid oder remote nach der Probezeit. Russische Banken (Sber AI Banking / VTB) — hybrid/Büro wegen Security-Compliance. Internationale ML-Plattform-Unternehmen (Truefoundry / Bento / Weights & Biases / Comet / Domino Data Lab / Determined AI / Run:AI) — vollständig remote als Standard. Big Tech ML Platform — Hybrid als Standard, teilweise remote. Relokations-Hubs für MLOps: Polen (Warschau / Krakau — AI-Platform-freundlich), Deutschland (Berlin / München), Kanada (Toronto), Serbien, Georgien, VAE. Englisch für internationale MLOps-Remote-Arbeit — Pflicht (Aufschlag +30-50%, und MLOps umfasst intensive teamübergreifende Zusammenarbeit auf Englisch).

MLOps Engineer (general) — can work in any ML team (product team / research lab / AI consultancy). Stack: universal MLOps. ML Platform Engineer — Senior MLOps with focus on reusable platform-as-product for the whole organisation (not for a single team). On top of that: internal API design (for other ML Engineers / DS), self-service tools (templates / scaffolding / CLI tools — like generate-new-model-project), SLA management for platform components (uptime / latency / throughput targets), cost-chargeback systems (per-team compute usage tracking + billing), onboarding documentation + training programmes for other ML team members, backwards-compatibility management for shared platform components, open-source contribution to platform components (e.g. Feast / Kubeflow contributions). Staff / Principal MLOps — even higher, typically managing an ML platform team (3-7 MLOps engineers + integrations with DevOps / SRE / Data Platform leads). Career choice: MLOps Engineer if you like being hands-on with a new problem every day, ML Platform Engineer if you like building reusable systems and working with multiple consumer teams. All three are legitimate Senior+ paths.

Roadmap: 1) Starke DevOps-Basis — Linux + Netzwerke + bash beherrschen, Docker beherrschen (Multi-Stage-Builds + Optimierung der Layer + Sicherheitsscans), Kubernetes in der Tiefe beherrschen (Deployment / Service / Ingress / PVC / RBAC / Network Policies / HPA + Grundlagen eigener CRDs). Bücher: „Kubernetes in Action“ von Lukša, „The Kubernetes Book“ von Poulton. 2) IaC beherrschen: Terraform in der Tiefe (Module / State-Management / Workspaces) + Verständnis der Muster der jeweiligen Cloud-Anbieter. Kurs HashiCorp Learn (kostenlos). GitOps-Muster mit ArgoCD / FluxCD. 4) Cloud-Plattform in der Tiefe — eine von AWS / GCP / Azure wählen und das Zertifikat Solutions Architect Associate / Professional ablegen. 5) ML-Grundlagen — mindestens: Python + pandas + scikit-learn + PyTorch (Grundlagen) + Trainings- / Inference-Schleifen verstehen. Kurs fast.ai „Practical Deep Learning“ Part 1. „Designing Machine Learning Systems“ von Chip Huyen — Pflichtlektüre für MLOps 2026 (um den ML-Workflow vom Training bis zum Deployment zu verstehen). 6) Experiment-Tracking + Model Registry: MLflow in der Tiefe beherrschen (Tracking + Registry + Projects + Models). Selbst gehostetes MLflow auf EKS / GKE / AKS einrichten. 7) ML-Serving-Stack: Triton Inference Server (mehrere Frameworks + dynamisches Batching) + BentoML + KServe. LLM-Serving: vLLM beherrschen (PagedAttention + Continuous Batching) + TGI + SGLang. 8) Feature Store: Feast (Open Source) — durchgängig in einem Testprojekt einrichten (Offline + Online + Abruf). 9) Orchestrierung: eines von Airflow / Prefect / Dagster + Grundlagen von Kubeflow Pipelines. 10) ML-Monitoring: Evidently AI (Drift-Erkennung + Datenqualität) + WhyLabs oder Arize AI oder Fiddler — eines in der Tiefe. 11) Pet-Projekt: Deployment einer vollständigen ML-Plattform (K8s-Cluster + MLflow + Feast + Triton + Prometheus + Grafana + Evidently AI) mit einfachem Modelllebenszyklus (trainieren → registrieren → deployen → überwachen → neu trainieren). Im GitHub-README dokumentieren. 12) Beitrag zu Open Source — Feast / Kubeflow / MLflow / vLLM / Triton — steigert den Wert des Lebenslaufs im MLOps deutlich. Russische Kurse: Karpov.Courses „MLOps“, Otus „MLOps“, SkillFactory MLOps track, Slurm MLOps intensive. International (EN): MLOps-Kurs „Made with ML“ von Goku Mohandas (kostenlos, umfassend), Hugging Face MLOps course, Coursera „MLOps Specialization“ von DeepLearning.AI, Databricks Academy MLOps. Pflichtlektüre: „Designing Machine Learning Systems“ von Chip Huyen, „Machine Learning Design Patterns“ von Lakshmanan, „Reliable Machine Learning“ von Cathy Chen. DevOps Middle / ML Engineer Middle → Junior MLOps — 4-10 Monate. Backend Senior → Junior MLOps — 8-14 Monate (der ML-Stack muss erlernt werden).

207 active open MLOps positions — growing ML-infrastructure niche. Geography: the US, Poland, the UK. The real market is broader thanks to the international remote segment (ML-platform companies — Truefoundry / Bento / W&B / Comet / Determined AI / Domino Data Lab + AI-startup MLOps teams — full-remote standard). Time to close a Senior MLOps role — 5-10 weeks (faster than Research, slower than DevOps general due to rare ML-skill combination). MLOps — the most "recession-resistant" AI/ML niche (companies cut research first, MLOps continuously needed for production).

Ein Senior MLOps verantwortet den gesamten Engineering-Zyklus der ML-Plattform + technische Führung. Beherrschung der Programmierung: Python in der Tiefe + Go als Bonus für performancekritische Infrastruktur. Beherrschung von Docker: Multi-Stage-Builds, Layer-Optimierung, GPU-Container, Sicherheitsscans (Trivy / Snyk). Beherrschung von Kubernetes in der Tiefe: Deployment / Service / Ingress / PVC / RBAC / Network Policies / HPA / VPA / Cluster Autoscaler, Grundlagen eigener CRDs, GPU Operator + Kubeflow Training Operator + Spark Operator + Argo Workflows. Beherrschung von IaC: Terraform in der Tiefe (Module / State / Workspaces), eines von Pulumi / CloudFormation als Bonus. Beherrschung von GitOps: ArgoCD / FluxCD + Muster mit Kustomize / Helm. Cloud-Plattform in der Tiefe: eine von AWS / GCP / Azure auf dem Niveau Solutions Architect Professional. Beherrschung von MLflow: tiefe Anpassung + Plugins + Muster für Mandantenfähigkeit. Kubeflow Pipelines: Deployment im Enterprise-Maßstab + eigene Komponenten + Mandantenfähigkeit. Beherrschung von Feature Stores: Feast in der Tiefe (offline + online + Retrieval + Monitoring + Mandantenfähigkeit) oder Tecton (verwaltet). Beherrschung von Model Serving: Triton Inference Server in der Tiefe (Ensembles + dynamisches Batching + Model Repositories) + BentoML + KServe. Beherrschung von LLM-Serving (2026 Pflicht): vLLM in der Tiefe (PagedAttention + Continuous Batching + Speculative Decoding + KV-Cache-Optimierung) + TGI + SGLang + Ollama. Plattformen für verteiltes Rechnen: Beherrschung von Spark + Ray (Spark Operator auf K8s, Ray Train + Ray Serve). Observability in der Tiefe: Prometheus + Grafana + Loki + OpenTelemetry + eigene Metriken + Alerting-Strategien. ML-Monitoring: Integrationsmuster für Evidently AI + WhyLabs / Arize AI / Fiddler. Beherrschung der Kostenoptimierung: Strategie für Spot-Instanzen + GPU-Sharing (NVIDIA MIG) + Integration der Quantisierung (INT8 / FP16 / FP4) + Caching-Strategien (Redis für Inferenzergebnisse) + Kostenanalyse Batch- vs. Echtzeit-Inferenz + Planung von Reserved Instances. Typischer Senior-MLOps-Auftrag: 30-50% Senkung der Rechenkosten durch eine Kombination dieser Techniken. Beherrschung der Sicherheit: Secrets-Management (Vault / Cloud-KMS), Network Policies, Supply-Chain-Sicherheit (signierte Images), Datenschutz (Umgang mit PII in ML-Pipelines). Systementwurf für ML-Plattformen: ML-Plattformen für 100M+ Vorhersagen/Tag + Mandantenfähigkeit + Multi-Region am Whiteboard entwerfen. Soft Skills: Verfassen von ADRs für Plattformentscheidungen, technisches Schreiben (Plattformdokumentation + Onboarding-Materialien), Code Review für mehrere Teams, Mentoring von Middle MLOps, teamübergreifende Zusammenarbeit (DevOps- / SRE- / Data-Platform- / ML-Engineer- / DS- / Research-Teams). Englisch ab Senior+ PFLICHT — MLOps bedeutet intensive teamübergreifende Arbeit auf Englisch. Optionaler Bonus: Open-Source-Beiträge zu Feast / Kubeflow / MLflow / vLLM / Triton — steigern den Marktwert bei Frontier-KI-Laboren + ML-Plattform-Unternehmen deutlich.