ML Engineer: Markt

Stelle

eine offene Stelle, die das Qualitäts-Gate passiert hat und mindestens zwei Technologien nennt

Beobachteter Kandidat

ein Kandidat, dessen Stack diese Technologie enthält; ein Aggregat — kein einziger Datensatz verlässt den Perimeter

Matchbarer Kandidat

noch nicht gezählt

Fenster

Stellen, die zum Zeitpunkt der Erstellung des Snapshots offen waren

Junior ML Engineer — selten (der Markt beginnt mit Data Analyst oder Backend → ML). Der Sprung Junior → Middle — nach Beherrschung der ersten produktiven ML-Pipeline von Ende zu Ende (Feature Engineering → Training → Deployment → Monitoring). Middle → Senior — Verantwortung für mehrere Pipelines + Erfahrung mit LLM/RAG + Skalierung verteilten Trainings + Kostenoptimierung. Senior → Staff/Principal — ML-Plattformarchitektur, teamübergreifende ML-Strategie. Karriereweg: Data Analyst (1-2 Jahre) → Junior ML Engineer (1-2 Jahre) → Middle (2-3 Jahre) → Senior → entweder Staff ML Engineer (technische Tiefe), ML Tech Lead (Führung), Wechsel in die Forschung (PhD-Pfad) oder ML-Gründer/CTO in einem Startup.

Top 5: python, cloud, pytorch, llm, aws. Python ist das Monopol (R sieht man in Produktions-ML 2026 kaum). Deep-Learning-Frameworks: PyTorch dominiert 2026 (70%+ der Produktion), TensorFlow Legacy + noch stark im Enterprise, JAX für Randfälle der Forschung. Klassisches ML: scikit-learn + XGBoost + LightGBM + CatBoost — Basis, Pflicht für tabellarische Daten. Datenmanipulation: pandas + NumPy + Polars (modern, auf dem Vormarsch 2026 — 10-100× schneller), PyArrow für frameworkübergreifende Daten. Computer Vision: OpenCV, torchvision, Detectron2, MMDetection, Ultralytics YOLO. Experiment-Tracking: MLflow (Open-Source-Standard) oder Weights & Biases (Premium-UI) oder Neptune. Versionskontrolle für Daten: DVC. Orchestrierung: Airflow + Prefect + Dagster (einen in der Tiefe). Deployment: souveränes Docker + Kubernetes, FastAPI + Triton Inference Server + BentoML + TorchServe (eines in der Tiefe). Frameworkübergreifende Inferenz: ONNX. Feature Stores: Feast (Open Source) oder Tecton (verwaltet). Verteiltes Rechnen: Spark + Ray + Dask. Cloud-Managed ML: AWS SageMaker / GCP Vertex AI / Azure ML (eines in der Tiefe). Senior-Extras: Quantisierung (PyTorch Quantization, bitsandbytes), Distillation, Fine-Tuning mit LoRA/QLoRA, vLLM/TGI/SGLang für LLM-Serving, Optuna für Hyperparameter-Tuning.

Data Scientist — Fokus auf Problemformulierung im Business + statistische Modellierung + A/B-Tests + Kommunikation von Erkenntnissen. Stack: pandas + sklearn + Jupyter + SQL + Tableau/Looker. Weniger infrastrukturlastig. Siehe Data Scientist. ML Engineer (diese Seite) — Fokus auf ML-Pipelines in Produktion + Deployment + Skalierung. Stack wie DS + Docker/K8s + MLflow + Airflow + Cloud-managed ML. Research Engineer / Scientist — Fokus auf neue Modelle, Paper, neuartige Architekturen. Oft PhD-Track. Stack: PyTorch in der Tiefe + JAX + experimentlastige Infrastruktur. Siehe Research Engineer / Scientist. MLOps Engineer — Fokus auf die Infrastruktur der ML-Plattform (Feature Stores, Model Registry, Monitoring, Observability, Kostenoptimierung). Stack: K8s + Terraform + MLflow/Kubeflow + Prometheus/Grafana + Cloud. Siehe MLOps Engineer. Karrierewechsel ML Engineer ↔ DS — 1-3 Monate. ML Engineer ↔ MLOps — 2-4 Monate (wenn K8s-Grundlagen vorhanden sind). Der Research-Weg erfordert einen PhD oder 3+ Jahre tiefe Spezialisierung.

Referenz-Stack für ML in Produktion 2026: 1) Datenaufnahme — Airflow/Prefect/Dagster holt Rohdaten aus Quellsystemen (DB/Kafka/S3). 2) Feature Engineering — Transformationen mit Spark/Pandas/Polars → Feature Store (Feast oder Tecton — zentrale Speicherung, Point-in-Time-Korrektheit, Online- und Offline-Bereitstellung). 3) Experimente — Jupyter + Tracking mit W&B/MLflow + DVC zur Versionierung von Daten + Optuna für die Hyperparametersuche. 4) Training — Ray Train oder PyTorch Lightning + verteilt (Multi-GPU/Multi-Node), Checkpointing in S3/GCS, Quantisierung (INT8/FP16) für geringere Inference-Kosten. 5) Model Registry — MLflow Model Registry oder SageMaker Model Registry (Versionierung + Stufen: staging/production/archived). 6) Validierung — automatisierte Tests (Data Drift, Vorhersagequalität), Shadow Deployment, Aufsetzen von A/B-Tests. 7) Serving — Triton Inference Server (NVIDIA, mehrere Frameworks + dynamisches Batching) oder BentoML oder TorchServe oder vLLM (für LLM). FastAPI-Wrapper für den API-Vertrag. 8) Deployment — Kubernetes (Produktionsstandard) + Helm + ArgoCD für GitOps. 9) Monitoring — Prometheus + Grafana (Latenz/Durchsatz/Fehlerrate) + eigene Drift-Erkennung (Evidently AI/WhyLabs) + Kosten-Dashboards. 10) Feedback-Schleife — Vorhersagen + Ground Truth protokollieren → Auslöser für erneutes Training. ML-Plattform für die gesamte Organisation — Kubeflow oder Metaflow oder SageMaker Pipelines. LLM-spezifischer Stack: vLLM/TGI/SGLang für das Serving + Prompt Engineering (LangChain/LlamaIndex) + RAG (Vektordatenbanken Pinecone/Weaviate/Qdrant) + Fine-Tuning über LoRA/QLoRA + Evaluierung (RAGAS, DeepEval, eigene Benchmarks).

Ja, 30% der Stellen als ML Engineer sind vollständig remote oder hybrid. Produktives ML ist cloudbasierte Arbeit (Training auf Cloud-GPUs, Serving in Kubernetes, Daten im Warehouse). Outsourcer (EPAM AI Practice / Luxoft AI) — fast immer remote bei US-AI-Projekten. Russische Produktunternehmen — hybrid oder remote nach der Probezeit, Ausnahmen für sicherheitssensibles ML (Sber AI Banking). Banken (Sber AI / VTB) — hybrid/Büro wegen Compliance. Internationale AI-Unternehmen — vollständig remote als Standard, Premium-Gehaltsbänder. Relokations-Hubs: Polen (Warschau/Krakau — AI-freundlich), Deutschland (AI-Cluster Berlin), Kanada (Toronto — Vector Institute), Israel (AI-Cluster Tel Aviv), Serbien, Georgien, VAE (Dubai — steuerfreundlich für AI). Englisch für internationale AI-Remote-Arbeit — Pflicht (Aufschlag +30-50%).

ML Engineer (allgemein) — kann in jeder ML-Domäne arbeiten (Recsys, NLP, CV, Betrugserkennung, Ranking). Der Stack ist universell. Applied ML Engineer — Fokus auf eine konkrete Produkt-ML-Aufgabe + Verantwortung für Geschäftskennzahlen (CTR, Konversion, Umsatzsteigerung). Der Stack ist derselbe, dazu kommen Produktdenken + Meisterschaft bei A/B-Tests + Kommunikation mit Stakeholdern. Gehalt vergleichbar (Median), aber in Produktunternehmen liegt Applied ML auf Senior-Niveau meist etwas höher — dank der Verantwortung für die Geschäftswirkung. ML Platform Engineer (eine eigene Teilnische — näher an MLOps) — baut Infrastruktur für andere ML Engineers (Feature Store, MLflow-Infrastruktur, Trainingsplattform). Karrierewahl: ML Engineer, wenn Universalität und Übertragbarkeit am wichtigsten sind, Applied ML Engineer, wenn Sie die Produktwirkung reizt, ML Platform Engineer, wenn Infrastruktur und Tools. Alle drei sind legitime Wege ab Senior, keiner ist besser/schlechter.

Roadmap: 1) Python in der Tiefe bis zum Backend-Middle-Niveau (Clean Code, Entwurfsmuster, async). Bücher: „Fluent Python“ von Ramalho, „Effective Python“ von Slatkin. 2) Mathematik — lineare Algebra + Analysis + Wahrscheinlichkeit/Statistik auf dem Niveau „verstehen, was unter der Haube von Backprop steckt“. MIT 18.06 Linear Algebra (Strang), 3Blue1Brown „Essence of Linear Algebra“. 3) Klassisches ML — scikit-learn + XGBoost + LightGBM beherrschen. Andrew Ng „Machine Learning Specialization“ (Coursera). Buch „Hands-On Machine Learning“ von Géron (Pflichtlektüre 2026). 4) Deep Learning — PyTorch in der Tiefe (Forward/Backward/Optimierer/Trainingsschleifen von Grund auf). „Deep Learning Specialization“ von Andrew Ng. „Deep Learning with PyTorch“ von Stevens. 5) Weg NLP/LLM: Hugging-Face-Kurs (kostenlos) → Fine-Tuning kleiner LLMs (Mistral 7B/Llama 3 8B) mit LoRA/QLoRA → eine RAG-Anwendung mit LangChain + Qdrant bauen. 6) Weg Computer Vision (Alternative): torchvision + Detectron2 + Ultralytics YOLO + Training auf eigenem Datensatz. 7) MLOps-Grundlagen: MLflow + DVC + Airflow + Docker + Kubernetes für das ML-Serving. „Designing Machine Learning Systems“ von Chip Huyen — Pflichtlektüre für ML in Produktion. 8) Cloud-ML: eines von AWS SageMaker / GCP Vertex AI / Azure ML — ein e2e-Tutorial durcharbeiten. 9) Verteiltes Training: Ray Train + PyTorch DDP. 10) Pet-Projekt: vollständiges e2e-ML-System (Datenpipeline + Feature Store + Training + Tracking mit MLflow + Deployment in Kubernetes + Monitoring) auf einem offenen Datensatz (Kaggle). International (EN): fast.ai „Practical Deep Learning“, Hugging Face NLP Course, DeepLearning.AI (Andrew Ng). Klassische Bücher: „Pattern Recognition and Machine Learning“ von Bishop, „The Hundred-Page Machine Learning Book“ von Burkov. Konferenzen: NeurIPS, ICML, ICLR (Paper — Pflichtlektüre für Senior). Data Analyst oder Backend Middle → ML Engineer Junior — 8-14 Monate.

2082 active open ML Engineer positions — the largest ML/AI segment. Geography: the US, the UK, Poland. Sources: hh.ru, Habr Career, getmatch, Djinni, LinkedIn (huge international AI segment), NoFluffJobs/JustJoin.it (Poland — AI-friendly), Telegram, career pages of EPAM AI / Luxoft AI / Andersen AI, specialised boards (aijobs.net, ai-jobs.net, builtin.com/jobs/ai, jobs.lever.co for AI startups), Y Combinator Work at a Startup. The real market is broader thanks to a huge international remote segment. Time to close a Senior ML Engineer role — 6-12 weeks (longer than Backend thanks to rare-skill combination).

Ein Senior ML Engineer verantwortet den gesamten Zyklus des produktiven ML + technische Führung. Beherrschung der Programmierung: Python auf Backend-Senior-Niveau (Clean Code, async, Profiling, Speicheroptimierung). Mathematische Grundlagen: lineare Algebra + Analysis + Wahrscheinlichkeitsrechnung auf dem Niveau „Papers ohne Hürden lesen“. Beherrschung des klassischen ML: Feature Engineering in der Tiefe, Begründung der Modellauswahl, Kalibrierung, Abwägungen bei Evaluierungsmetriken, am Geschäft ausgerichteter Modellentwurf. Beherrschung von Deep Learning: PyTorch in der Tiefe (eigene Layers/Modules/Optimizer), verteiltes Training (DDP, FSDP), Mixed Precision, Quantisierung (INT8/FP16), Distillation, ONNX-Export. Beherrschung von LLMs (2026 Pflicht für Senior): Fine-Tuning über LoRA/QLoRA, Prompt Engineering, RAG-Architektur (Vektordatenbanken Pinecone/Weaviate/Qdrant), Evaluierung (RAGAS, DeepEval), vLLM/TGI/SGLang für das Serving. MLOps: Beherrschung von MLflow / W&B, DVC, Airflow / Prefect / Dagster, Feature Stores (Feast / Tecton), Beherrschung von Docker + Kubernetes für ML-Serving, Helm + ArgoCD. Cloud-ML: eines von AWS SageMaker / GCP Vertex AI / Azure ML in der Tiefe. Verteiltes Rechnen: Beherrschung von Ray + Spark. Monitoring: Integration von Prometheus + Grafana + Evidently AI (Drift-Erkennung). Kostenoptimierung: GPU-Auslastung, Batch-Größen, Quantisierung von Modellen, Caching-Strategien. Systementwurf für ML: ML-Systeme für 100M+ Nutzer am Whiteboard entwerfen (Recsys / Betrugserkennung / Ranking / Chatbot). Soft Skills: Lesen von Papers (NeurIPS / ICML / ICLR), technisches Schreiben (ADRs, Design-Dokumente), Code Review für mehrere Teams, Mentoring von Middle ML Engineers, Kommunikation mit Produkt-/Daten-/Backend-Teams, Design von A/B-Tests + statistische Analyse. Englisch ab Senior+ PFLICHT — die ML/KI-Community und die Papers sind auf Englisch. Bonus: Open-Source-Beiträge (PyTorch / Hugging Face / LangChain) — steigern den Marktwert deutlich.