AI / LLM Engineer: rynek

Oferta

otwarta oferta, która przeszła kontrolę jakości i wymienia co najmniej dwie technologie

Obserwowany kandydat

kandydat, którego stack zawiera tę technologię; agregat — żaden pojedynczy rekord nie opuszcza perymetru

Kandydat do dopasowania

jeszcze nie liczone

Okno

oferty otwarte w chwili tworzenia snapshotu

Junior — typowe wejście: Backend Middle / ML Engineer Middle / Data Scientist Middle + hobbystyczne projekty LLM (udokumentowane doświadczenie z RAG + LangChain). Skok Junior → Middle — po pierwszym produkcyjnym wdrożeniu funkcji LLM (chatbot / streszczanie / Q&A w prawdziwym produkcie z prawdziwymi użytkownikami). Middle → Senior — odpowiedzialność za wiele funkcji LLM + optymalizacja kosztów (typowy mandat: redukcja kosztów API LLM o 50-70% przez cache'owanie + mniejsze modele + kompromisy RAG vs fine-tuning) + metodyka ewaluacji. Senior → Staff / Principal — strategia AI całej organizacji + architektura platformy LLM dla wielu produktów. Ścieżka kariery: Backend Senior / ML Engineer Middle (2-3 lata) + zainteresowanie LLM → AI Engineer Junior / Middle (1-2 lata) → Senior → albo Staff / Principal AI Engineer, AI Tech Lead / Engineering Manager, przejście do laboratorium frontier AI, albo założenie startupu AI.

5 najważniejszych: python, aws, llm, cloud, agile. Python dogłębnie (monopol — async / typowanie / FastAPI). Każdy dostawca ma swoje osobliwości (limity zapytań + strategie ponawiania + koszt za token + obsługa funkcji). Frameworki LLM: biegłość w LangChain — największy rynek pracy (LCEL — LangChain Expression Language, callbacki, agenci, retrievery), LlamaIndex (nastawiony na RAG — pobieranie danych + strategie indeksowania), Haystack (deepset), Semantic Kernel (Microsoft dla firm na .NET), LangGraph (orkiestracja agentów w stylu DAG — LangChain), AutoGen + CrewAI (multi-agent — rosnące), DSPy (Stanford — deklaratywne programowanie LLM, rośnie). Biegłość w bazach wektorowych: Pinecone (lider usług zarządzanych), Weaviate (modułowy open-source), Qdrant (w Rust — szybki self-hosted), Milvus (skala enterprise), Chroma (lekki do developmentu / prototypowania), pgvector (rozszerzenie Postgres — przyjazne produkcji w firmach już na Postgres), Elasticsearch dense_vector + Redis Stack (hybryda pełnotekstowa + wektorowa). Fine-tuning: LoRA + QLoRA przez bibliotekę PEFT (Hugging Face — standard 2026), Unsloth (szybszy trening LoRA), Axolotl (fine-tuning sterowany konfiguracją). Pełny fine-tuning rzadko (zaporowy koszt). RLHF / DPO / KTO: biblioteka TRL (Hugging Face — wzrost Direct Preference Optimization 2024+). Ewaluacja: RAGAS (specyficzna dla RAG — faithfulness + answer relevancy + context precision), DeepEval, lm-evaluation-harness (benchmarki akademickie), Inspect AI (UK AISI — nacisk na bezpieczeństwo), Promptfoo (testy regresji promptów), LangSmith (trace + ewaluacja LangChain — najlepszy UX). Observability + śledzenie: Helicone (APM specyficzny dla LLM), LangSmith, Langfuse (open-source), Arize Phoenix, Datadog LLM Observability (funkcja 2024+). Optymalizacja kosztów: cache’owanie promptów, kompresja promptów (LLMLingua), routing modeli (mały model do prostych zapytań, duży do złożonych — przez dostawców takich jak Martian / OpenRouter).

Data Scientist — nacisk na modelowanie statystyczne + testy A/B + formułowanie problemów biznesowych. Stack: pandas + sklearn + XGBoost + Jupyter + SQL + Tableau. Zob. Data Scientist. ML Engineer — nacisk na produkcyjne pipeline'y ML + wdrażanie + skalowanie. Stack: PyTorch + sklearn + Kubernetes + MLflow + zarządzane ML w chmurze. Generalista — pracuje z recsys / fraudem / rankingiem / klasycznym ML. Zob. ML Engineer. AI Engineer (ta strona) — nacisk na integrację LLM z produktem. NIE trenuje foundation models (to Research), NIE buduje klasycznych pipeline'ów ML (to ML Engineer). Stack: Python + dostawcy LLM + LangChain / LlamaIndex + wektorowe bazy danych + serving vLLM + wzorce RAG + fine-tuning LoRA + narzędzia do ewaluacji LLM. Kluczowa różnica 2026: AI Engineer wykorzystuje wstępnie wytrenowane LLM, ML Engineer często trenuje modele od zera. AI Engineer pracuje z API/promptami/RAG; ML Engineer — z pętlami treningowymi + feature engineeringiem. Zmiany ścieżki kariery: Backend Senior → AI Engineer Junior — 2-4 miesiące (szybki start dzięki pracy opartej na API + łatwemu do opanowania LangChainowi). ML Engineer Senior → AI Engineer Senior — 1-3 miesiące (zna już podstawy stacku, musi pogłębić wiedzę specyficzną dla LLM). DS Senior → AI Engineer Middle — 3-6 miesięcy. AI Engineer Senior → Research — wymaga głębszej matematyki + doświadczenia w pisaniu publikacji + 6-12 miesięcy przygotowań.

Drzewo decyzyjne dostosowania LLM 2026: 1) Prompt Engineering — pierwsza próba. Zastosowanie: zero-shot lub few-shot WYSTARCZA do zadania. Plusy: zerowy koszt (bez treningu), natychmiastowe iteracje, niezależność od modelu. Minusy: ograniczona kontrola, kruchość promptów, presja na okno kontekstu. 2) RAG (Retrieval-Augmented Generation) — najlepszy do zadań opartych na wiedzy. Zastosowanie: chatbot, Q&A, wyszukiwanie dokumentów, obsługa klienta, dokumentacja kodu, wewnętrzne bazy wiedzy. Architektura: zapytanie → embedding → wyszukiwanie wektorowe → top-k dokumentów → wzbogacenie promptu o znaleziony kontekst → LLM generuje odpowiedź. Plusy: oparcie na faktach (przeciw halucynacjom), aktualność (wystarczy zaktualizować indeks, bez ponownego treningu), możliwość cytowania źródeł, taniej niż fine-tuning. Minusy: jakość wyszukiwania jako wąskie gardło, rosnący rozmiar promptu. Stack RAG 2026: ingestion (document loaders z LlamaIndex / LangChain) → strategia chunkingu (semantyczny vs stały rozmiar vs rekurencyjny) → embeddingi → wektorowa baza danych (Pinecone / Qdrant / Weaviate / pgvector) → wyszukiwanie (podobieństwo + reranking przez Cohere Rerank / BGE Reranker) → wzbogacenie promptu → generacja przez LLM. Zaawansowany RAG: wyszukiwanie hybrydowe (wektorowe + BM25), HyDE (Hypothetical Document Embeddings), przepisywanie zapytań, wyszukiwanie wieloetapowe, autorefleksja (CRAG / Self-RAG). 3) Fine-tuning — stosuj, gdy prompt engineering + RAG nie wystarczają. Zastosowanie: a) styl / format specyficzny dla domeny (medycyna / prawo — specyficzne wzorce sformułowań), b) obniżenie kosztu tokenów (mniejszy dostrojony model zastępuje większy ogólny), c) zadania wymagające głębokiej specjalistycznej wiedzy (gdzie okno kontekstu RAG nie pomaga). Nowoczesny fine-tuning: LoRA / QLoRA (PEFT) — trening małego adaptera (~1% wag), pełny fine-tuning rzadko. Stack: Hugging Face Transformers + PEFT + TRL + Unsloth (szybszy) + Axolotl (sterowany konfiguracją). Sprzęt: GPU 24GB (RTX 4090 / A6000) dla modeli 7-13B, 80GB+ (A100/H100) dla 70B+. Realia kosztów 2026: prompt engineering — minuty, $0. Konfiguracja RAG — 1-2 tygodnie pracy inżynierskiej, $100-1 000/mies. kosztów API. 4) Kombinacja: realne produkcyjne funkcje AI zwykle używają WSZYSTKICH trzech. Najpierw prompt engineering (system prompty + przykłady few-shot) → RAG dla ugruntowania → opcjonalnie fine-tuning LoRA dla stylu/formatu. 5) Wzorce agentowe (rosną 2025–2026) — LLM + tool use + wieloetapowe rozumowanie. Używaj LangGraph / AutoGen / CrewAI / DSPy. Domyślnie 2026: RAG dla 80% produkcyjnych przypadków użycia + prompt engineering do prototypowania + fine-tuning LoRA tylko wtedy, gdy RAG wyraźnie nie wystarcza + agenci do złożonych wieloetapowych workflow.

Tak, 34% ofert AI Engineer to praca w pełni zdalna lub hybrydowa. Praca AI Engineer jest w pełni oparta na chmurze (API LLM + bazy wektorowe + chmurowe GPU — wszystko dostępne zdalnie). Outsourcerzy (EPAM AI / Luxoft AI / Andersen AI / DataArt AI) — prawie zawsze zdalnie przy amerykańskich projektach AI. Rosyjskie banki — hybrydowo/w biurze ze względu na zgodność w zakresie danych AI. Międzynarodowe laboratoria frontier AI — praca w pełni zdalna to standard dla wyjątkowych kandydatów. Big Tech AI — standardem jest hybryda. Startupy AI z Y Combinator — premium, w pełni zdalnie. Angielski do międzynarodowej pracy zdalnej w AI — obowiązkowo (premia +40-60%, a społeczność AI / publikacje / dokumentacja są w całości po angielsku).

Roadmapa: 1) Dogłębnie Python + podstawy backendu — async / typowanie / FastAPI / pytest. Bez umiejętności backendowych — to nie AI Engineer (tylko „żongler promptami”). Książka: „Fluent Python” Ramalho. 2) Zrozumienie podstaw LLM — podstawy architektury transformera (attention + tokenizacja + strategie dekodowania + okna kontekstu), ale nie trzeba implementować od zera. Kurs: „Building LLMs from scratch” Karpathy YouTube (za darmo — najlepszy dla intuicji). Książka: „Hands-On Large Language Models” Jay Alammar / Maarten Grootendorst (2024 — obowiązkowa lektura). 3) Opanowanie OpenAI API — chat completions + function calling + structured outputs + streaming + assistants. Zbuduj minimum 3 prawdziwe aplikacje. Darmowe kredyty + tanie eksperymenty. 4) Opanowanie Anthropic Claude API — najlepsze do kodowania + zastosowań z długim kontekstem. Tool use + prompt caching + computer use (jeśli interesuje cię ścieżka AI Agent). 5) Opanowanie LangChain — najczęstsze wymaganie na rynku pracy. LCEL (LangChain Expression Language), łańcuchy, agenci, retrievery, callbacki. Kurs: „LangChain & Vector Databases in Production” DeepLearning.AI (za darmo). 6) Dogłębnie architektura RAG — loadery dokumentów + strategie chunkingu (semantyczny / stały / rekurencyjny) + wybór embeddingów + wybór bazy wektorowej + algorytmy wyszukiwania + reranking. Zbuduj produkcyjną aplikację RAG z zaawansowanymi wzorcami (wyszukiwanie hybrydowe + reranking + HyDE). 7) Opanowanie baz wektorowych — co najmniej jedna dogłębnie (Qdrant — najlepszy do nauki w self-hostingu) + jedna zarządzana (Pinecone). Rozumienie podstaw algorytmów HNSW / IVF / PQ. 8) Praktyka fine-tuningu — LoRA / QLoRA przez bibliotekę PEFT + Unsloth (szybszy). Dostrój Llama 3.x 8B na własnym zbiorze danych. Sprzęt: Google Colab Pro+ ($50/mies.) lub RunPod / Vast.ai (tani wynajem GPU). 9) Serwowanie przez vLLM — wdróż otwarty model z vLLM + zmierz przepustowość + porównaj z OpenAI API. 10) Opanowanie ewaluacji — RAGAS + DeepEval + własny zestaw ewaluacyjny. Zbuduj test regresji dla promptów. 11) Observability w LangSmith / Langfuse — zainstrumentuj aplikację produkcyjną + analizuj trace'y + identyfikuj wąskie gardła. 12) Frameworki agentowe — podstawy LangGraph + AutoGen + CrewAI + DSPy. Zbuduj demo wieloagentowe (agent badawczy + agent piszący + agent krytyk). 13) Portfolio projektów własnych: produkcyjna funkcja AI (np. Q&A po dokumentach dla otwartego zbioru danych) z RAG + ewaluacją + observability + śledzeniem kosztów. Udokumentuj jako portfolio (GitHub + wpis na blogu + demo wideo). Kursy RU: ścieżka Karpov.Courses „AI Engineer”, Otus „LLM Engineering”, HSE School of AI, ścieżka School21 (Sber) AI Engineer. Obowiązkowe książki: „AI Engineering” Chip Huyen (2024), „Hands-On Large Language Models” Alammar / Grootendorst, „Building LLMs for Production” Bouchard / Peng. Backend Senior + zainteresowanie LLM → AI Engineer Junior — 2-4 miesięcy (najszybsze wejście do świata ML). ML Engineer Senior → AI Engineer Senior — 1-3 miesięcy. Data Scientist → AI Engineer Middle — 3-6 miesięcy.

64 active open AI Engineer positions in our sample — a young niche (split off in 2023 after the ChatGPT boom). The real market is much broader — most AI Engineer roles are classified by our matcher as general ML Engineer or Backend (because titles are often "Senior Backend Engineer (AI focus)" or "ML Engineer — LLM"). The true pool of AI-focused dev jobs across CIS + Europe is estimated at 500-2,000 active positions at any moment in 2026 (accounting for fuzzy-classified ones). Geography: the US, Poland, the UK. Time to close a Senior AI Engineer role — 4-10 weeks in Russia, 6-12 weeks international (rare-skill premium). Trend 2026: the AI Engineer pool grows fastest among all IT categories — we see 3-5× year-over-year growth in LLM-mentioning job postings.

Senior AI Engineer odpowiada za pełny cykl inżynierii produktów LLM + optymalizację kosztów + przywództwo techniczne. Dogłębny Python + poziom Senior w backendzie: biegłość w async / typowaniu / FastAPI / pytest. Znajomość otwartych LLM: Llama 3.x / Mistral / Qwen 2.5 / DeepSeek V3 + R1 / Phi 3 / Gemma 2 — kompromisy wydajność / koszt, kiedy którego używać. Biegłość w LangChain: dogłębnie LCEL, callbacki, agenty, retrievery, tworzenie własnych chainów, debugowanie przez LangSmith. Albo odpowiednik w LlamaIndex / Haystack / Semantic Kernel. Biegłość w architekturze RAG: zaawansowane wzorce (wyszukiwanie hybrydowe BM25 + wektorowe, reranking, HyDE, przepisywanie zapytań, multi-hop retrieval, wzorce autorefleksji CRAG / Self-RAG), strategie chunkingu (semantyczny + rekurencyjny + hierarchiczny), dobór modelu embeddingów. Dogłębna biegłość w bazach wektorowych: jedna z Pinecone / Qdrant / Weaviate / Milvus / pgvector dogłębnie — strojenie indeksów, sharding, replikacja, implementacja wyszukiwania hybrydowego. Biegłość w fine-tuningu: LoRA / QLoRA przez PEFT + Unsloth + Axolotl, przygotowanie danych (instruction tuning + dane DPO), dobór hiperparametrów, metodyka ewaluacji. Podstawy RLHF / DPO / KTO: biblioteka TRL do optymalizacji preferencji. Biegłość w serwowaniu: zaawansowany vLLM (PagedAttention + continuous batching + speculative decoding + optymalizacja KV cache), TGI, SGLang. Architektury agentowe: biegłość w LangGraph + AutoGen + CrewAI + DSPy, implementacja MCP (Model Context Protocol), wzorce projektowania tool use, orkiestracja wielu agentów. Biegłość w ewaluacji: RAGAS + DeepEval + projektowanie własnych zestawów ewaluacyjnych, metodyka LLM-as-judge, testy regresyjne promptów, testy A/B funkcji LLM. Observability + tracing: biegłość w LangSmith + Langfuse + Helicone + Arize Phoenix + Datadog LLM Observability. Biegłość w optymalizacji kosztów: strategie prompt caching (natywne + własne na Redisie), kompresja promptów (LLMLingua), routing modeli (mały do prostych / duży do złożonych przez OpenRouter / Martian), batch API dla zadań nie w czasie rzeczywistym. Typowe zadanie Seniora: redukcja kosztów API LLM o 50-70%. Bezpieczeństwo / guardrails: NeMo Guardrails, Llama Guard, integracja OpenAI Moderation API, obrona przed prompt injection, filtrowanie wyników. Projektowanie systemów dla produktów LLM: projektowanie produktu opartego na RAG na tablicy w skali 100M+ zapytań dziennie, aspekty multi-region, budżety opóźnień (cel P95 < 2s dla czatu). Kompetencje miękkie: pisanie ADR dla decyzji architektonicznych LLM, pisanie techniczne (dokumenty projektowe funkcji LLM), współpraca między zespołami (Product / Backend / DS / Research), mentoring AI Engineerów na poziomie Middle, dyscyplina czytania publikacji (NeurIPS / ICLR / EMNLP — obowiązkowo). Angielski dla Senior+ OBOWIĄZKOWO — społeczność AI / dokumentacja / publikacje / konferencje są w całości po angielsku. Opcjonalny bonus: wkład open source do LangChain / LlamaIndex / vLLM / Hugging Face — znacząco podnosi wartość rynkową przy rekrutacji do czołowych laboratoriów AI. Obecność na Twitterze w środowisku AI (regularne posty o eksperymentach z LLM) — ważna przy rekrutacji przez kontakty w społeczności.