AI / LLM Engineer: mercato

Posizione

un'offerta aperta che ha superato il controllo di qualità e indica almeno due tecnologie

Candidato osservato

un candidato il cui stack contiene questa tecnologia; un dato aggregato: nessun singolo record esce dal perimetro

Candidato abbinabile

non ancora conteggiato

Finestra

offerte aperte nel momento in cui è stato creato lo snapshot

Junior: ingresso tipico: Backend Middle / ML Engineer Middle / Data Scientist Middle + progetti amatoriali con LLM (esperienza dimostrabile con RAG + LangChain). Il salto Junior → Middle: dopo il primo deployment in produzione di una funzionalità LLM (chatbot / riassunti / Q&A in un prodotto reale con utenti reali). Middle → Senior: responsabilità LLM multi-funzionalità + ottimizzazione dei costi (mandato tipico: riduzione del 50-70% dei costi delle API LLM tramite caching + modelli più piccoli + compromessi RAG vs fine-tuning) + metodologia di valutazione. Senior → Staff / Principal: strategia AI a livello di organizzazione + architettura della piattaforma LLM multi-prodotto. Percorso di carriera: Backend Senior / ML Engineer Middle (2-3 anni) + interesse per gli LLM → AI Engineer Junior / Middle (1-2 anni) → Senior → oppure Staff / Principal AI Engineer, AI Tech Lead / Engineering Manager, passaggio a un laboratorio di frontier AI, o founder di una startup AI.

I principali nel 5: python, aws, llm, cloud, agile. Python a fondo (monopolio: async / typing / FastAPI). Ogni provider ha le sue particolarità (rate limit + strategie di retry + costo per token + supporto delle funzionalità). Framework LLM: padronanza di LangChain, il mercato del lavoro più ampio (LCEL: LangChain Expression Language, callback, agenti, retriever), LlamaIndex (focalizzato sul RAG: acquisizione dei dati + strategie di indicizzazione), Haystack (deepset), Semantic Kernel (Microsoft per le aziende .NET), LangGraph (orchestrazione di agenti in stile DAG: LangChain), AutoGen + CrewAI (multi-agente: in crescita), DSPy (Stanford: programmazione dichiarativa degli LLM, in crescita). Padronanza dei database vettoriali: Pinecone (leader gestito), Weaviate (open source modulare), Qdrant (basato su Rust: veloce, self-hosted), Milvus (scala enterprise), Chroma (leggero per sviluppo / prototipazione), pgvector (estensione di Postgres: adatta alla produzione per chi usa già Postgres), Elasticsearch dense_vector + Redis Stack (ibrido full-text + vettoriale). Fine-tuning: LoRA + QLoRA tramite la libreria PEFT (Hugging Face: standard nel 2026), Unsloth (addestramento LoRA più veloce), Axolotl (fine-tuning guidato dalla configurazione). Il fine-tuning completo è raro (costo proibitivo). RLHF / DPO / KTO: libreria TRL (Hugging Face: crescita della Direct Preference Optimization 2024+). Valutazione: RAGAS (specifico per il RAG: faithfulness + answer relevancy + context precision), DeepEval, lm-evaluation-harness (benchmark accademici), Inspect AI (UK AISI, focalizzato sulla sicurezza), Promptfoo (test di regressione per i prompt), LangSmith (trace + valutazione di LangChain: la migliore UX). Osservabilità + tracing: Helicone (APM specifico per LLM), LangSmith, Langfuse (open source), Arize Phoenix, Datadog LLM Observability (funzionalità 2024+). Ottimizzazione dei costi: prompt caching, compressione dei prompt (LLMLingua), routing dei modelli (un modello piccolo per le query semplici, uno grande per quelle complesse, tramite provider come Martian / OpenRouter).

Data Scientist: focus su modellazione statistica + test A/B + formulazione dei problemi di business. Stack: pandas + sklearn + XGBoost + Jupyter + SQL + Tableau. Vedi Data Scientist. ML Engineer: focus su pipeline ML in produzione + deployment + scalabilità. Stack: PyTorch + sklearn + Kubernetes + MLflow + ML gestito nel cloud. Generalista: lavora con recsys / frodi / ranking / ML classico. Vedi ML Engineer. AI Engineer (questa pagina): focus sull'integrazione degli LLM nel prodotto. NON addestra foundation model (quello è Research), NON costruisce pipeline di ML classico (quello è ML Engineer). Stack: Python + provider di LLM + LangChain / LlamaIndex + database vettoriali + serving con vLLM + pattern RAG + fine-tuning LoRA + strumenti di valutazione degli LLM. Distinzione chiave 2026: l'AI Engineer riutilizza LLM pre-addestrati, il ML Engineer spesso addestra modelli da zero. L'AI Engineer lavora con API/prompt/RAG; il ML Engineer con cicli di addestramento + feature engineering. Cambi di carriera: da Backend Senior ad AI Engineer Junior: 2-4 mesi (avvio rapido grazie al lavoro basato su API + LangChain facile da imparare). Da ML Engineer Senior ad AI Engineer Senior: 1-3 mesi (conosce già le basi dello stack, deve approfondire la parte specifica degli LLM). Da DS Senior ad AI Engineer Middle: 3-6 mesi. Da AI Engineer Senior a Research: servono matematica più approfondita + esperienza nella scrittura di paper + 6-12 mesi di preparazione.

Albero decisionale per la personalizzazione degli LLM 2026: 1) Prompt Engineering: il primo tentativo. Caso d'uso: zero-shot o few-shot SONO SUFFICIENTI per il compito. Pro: costo zero (nessun addestramento), iterazione immediata, indipendente dal modello. Contro: controllo limitato, fragilità dei prompt, pressione sulla finestra di contesto. 2) RAG (Retrieval-Augmented Generation): il migliore per i compiti basati sulla conoscenza. Caso d'uso: chatbot, domande e risposte, ricerca nei documenti, assistenza clienti, documentazione del codice, basi di conoscenza interne. Architettura: query → embedding → ricerca vettoriale → top-k documenti → arricchimento del prompt con il contesto recuperato → l'LLM genera la risposta. Pro: ancoraggio ai fatti (contro le allucinazioni), dati aggiornati (basta aggiornare l'indice, senza riaddestrare), possibilità di citare le fonti, più economico del fine-tuning. Contro: la qualità del retrieval è il collo di bottiglia, il prompt si allunga. Stack RAG 2026: ingestione (document loader di LlamaIndex / LangChain) → strategia di chunking (semantico vs dimensione fissa vs ricorsivo) → embedding → database vettoriale (Pinecone / Qdrant / Weaviate / pgvector) → retrieval (similarità + reranking con Cohere Rerank / BGE Reranker) → arricchimento del prompt → generazione dell'LLM. RAG avanzato: ricerca ibrida (vettoriale + BM25), HyDE (Hypothetical Document Embeddings), riscrittura delle query, retrieval multi-hop, auto-riflessione (CRAG / Self-RAG). 3) Fine-tuning: da usare quando prompt engineering + RAG non bastano. Caso d'uso: a) stile / formato specifico del dominio (medico / legale: formulazioni specifiche), b) ridurre il costo dei token (un modello più piccolo con fine-tuning sostituisce un modello generico più grande), c) compiti che richiedono conoscenze specialistiche approfondite (dove la finestra di contesto del RAG non aiuta). Fine-tuning moderno: LoRA / QLoRA (PEFT): si addestra un piccolo adattatore (circa il 1% dei pesi), il fine-tuning completo è raro. Stack: Hugging Face Transformers + PEFT + TRL + Unsloth (più veloce) + Axolotl (guidato da configurazione). Hardware: GPU da 24GB (RTX 4090 / A6000) per modelli da 7-13B, 80GB+ (A100/H100) per 70B+. La realtà dei costi 2026: prompt engineering: minuti, $0. Configurazione RAG: 1-2 settimane di ingegneria, $100-1.000/mese di costi API. 4) Combinazione: le funzionalità di IA reali in produzione usano di solito TUTTI e tre. Prima il prompt engineering (prompt di sistema + esempi few-shot) → RAG per l'ancoraggio → eventuale fine-tuning LoRA per stile/formato. 5) Pattern agentici (in crescita 2025–2026): LLM + uso di strumenti + ragionamento in più passaggi. Usa LangGraph / AutoGen / CrewAI / DSPy. Predefinito 2026: RAG per il 80% dei casi d'uso in produzione + prompt engineering per la prototipazione + fine-tuning LoRA solo se il RAG è esplicitamente insufficiente + agenti per flussi di lavoro complessi in più passaggi.

Sì, il 34% delle offerte AI Engineer è completamente da remoto o ibrido. Il lavoro dell'AI Engineer è interamente nel cloud (API LLM + DB vettoriali + GPU cloud: tutto accessibile da remoto). Gli outsourcer (EPAM AI / Luxoft AI / Andersen AI / DataArt AI): quasi sempre da remoto su progetti AI statunitensi. Banche russe: ibrido/in sede per la compliance sui dati AI. Laboratori internazionali di frontier AI: completamente da remoto come standard per candidati eccezionali. Big Tech AI: ibrido come standard. Startup AI di Y Combinator: completamente da remoto, premium. Inglese per il lavoro AI internazionale da remoto: indispensabile (premio +40-60%, e community / paper / documentazione AI sono interamente in inglese).

Roadmap: 1) Python a fondo + basi di Backend: async / typing / FastAPI / pytest. Senza competenze Backend non sei un AI Engineer (solo un prompt jockey). Libro: "Fluent Python" di Ramalho. 2) Comprensione dei fondamenti degli LLM: basi dell'architettura transformer (attention + tokenizzazione + strategie di decoding + finestre di contesto), ma non serve implementarli da zero. Corso: "Building LLMs from scratch" di Karpathy su YouTube (gratuito: il migliore per l'intuizione). Libro: "Hands-On Large Language Models" di Jay Alammar / Maarten Grootendorst (2024: da leggere assolutamente). 3) Padronanza dell'API OpenAI: chat completions + function calling + output strutturati + streaming + assistants. Costruisci almeno 3 app reali. Crediti gratuiti + sperimentazione economica. 4) Padronanza dell'API Anthropic Claude: la migliore per il coding + i casi d'uso a contesto lungo. Tool use + prompt caching + computer use (se ti interessa il percorso AI Agent). 5) Padronanza di LangChain: il requisito più diffuso nel mercato del lavoro. LCEL (LangChain Expression Language), chain, agent, retriever, callback. Corso: "LangChain & Vector Databases in Production" di DeepLearning.AI (gratuito). 6) Architettura RAG in profondità: document loader + strategie di chunking (semantico / fisso / ricorsivo) + scelta degli embedding + scelta del DB vettoriale + algoritmi di retrieval + reranking. Costruisci un'app RAG di produzione con pattern avanzati (ricerca ibrida + reranking + HyDE). 7) Padronanza dei DB vettoriali: almeno uno a fondo (Qdrant: il migliore per imparare in self-hosted) + uno gestito (Pinecone). Comprensione delle basi degli algoritmi HNSW / IVF / PQ. 8) Pratica di fine-tuning: LoRA / QLoRA con la libreria PEFT + Unsloth (più veloce). Fai il fine-tuning di Llama 3.x 8B sul tuo dataset. Hardware: Google Colab Pro+ ($50/mese) o RunPod / Vast.ai (noleggio economico di GPU). 9) Serving con vLLM: fai il deploy di un modello open con vLLM + misura il throughput + confronta con l'API OpenAI. 10) Padronanza della valutazione: RAGAS + DeepEval + suite di valutazione custom. Costruisci un test di regressione per i prompt. 11) Osservabilità con LangSmith / Langfuse: strumenta un'app di produzione + analizza le tracce + individua i colli di bottiglia. 12) Framework per agenti: basi di LangGraph + AutoGen + CrewAI + DSPy. Costruisci una demo multi-agente (agente di ricerca + agente di scrittura + agente critico). 13) Portfolio di progetti personali: funzionalità AI di livello produzione (ad es. Q&A su documenti per un dataset aperto) con RAG + valutazione + osservabilità + tracciamento dei costi. Documentala come portfolio (GitHub + post sul blog + video demo). Corsi russi: percorso "AI Engineer" di Karpov.Courses, Otus "LLM Engineering", HSE School of AI, percorso AI Engineer di School21 (Sber). Libri da leggere assolutamente: "AI Engineering" di Chip Huyen (2024), "Hands-On Large Language Models" di Alammar / Grootendorst, "Building LLMs for Production" di Bouchard / Peng. Backend Senior + interesse per gli LLM → AI Engineer Junior: 2-4 mesi (l'ingresso più rapido nel mondo ML). ML Engineer Senior → AI Engineer Senior: 1-3 mesi. Data Scientist → AI Engineer Middle: 3-6 mesi.

64 active open AI Engineer positions in our sample — a young niche (split off in 2023 after the ChatGPT boom). The real market is much broader — most AI Engineer roles are classified by our matcher as general ML Engineer or Backend (because titles are often "Senior Backend Engineer (AI focus)" or "ML Engineer — LLM"). The true pool of AI-focused dev jobs across CIS + Europe is estimated at 500-2,000 active positions at any moment in 2026 (accounting for fuzzy-classified ones). Geography: the US, Poland, the UK. Time to close a Senior AI Engineer role — 4-10 weeks in Russia, 6-12 weeks international (rare-skill premium). Trend 2026: the AI Engineer pool grows fastest among all IT categories — we see 3-5× year-over-year growth in LLM-mentioning job postings.

Un Senior AI Engineer gestisce l'intero ciclo di ingegneria dei prodotti LLM + ottimizzazione dei costi + leadership tecnica. Python a fondo + livello Backend Senior: padronanza di async / typing / FastAPI / pytest. Conoscenza degli LLM aperti: Llama 3.x / Mistral / Qwen 2.5 / DeepSeek V3 + R1 / Phi 3 / Gemma 2: compromessi tra prestazioni e costi, quando usare quale. Padronanza di LangChain: LCEL a fondo, callback, agent, retriever, scrittura di chain personalizzate, debug tramite LangSmith. Oppure l'equivalente in LlamaIndex / Haystack / Semantic Kernel. Padronanza dell'architettura RAG: pattern avanzati (ricerca ibrida BM25 + vettoriale, reranking, HyDE, riscrittura delle query, retrieval multi-hop, pattern di auto-riflessione CRAG / Self-RAG), strategie di chunking (semantico + ricorsivo + gerarchico), scelta del modello di embedding. Padronanza approfondita dei database vettoriali: uno tra Pinecone / Qdrant / Weaviate / Milvus / pgvector a fondo: tuning degli indici, sharding, replica, implementazione della ricerca ibrida. Padronanza del fine-tuning: LoRA / QLoRA tramite PEFT + Unsloth + Axolotl, preparazione dei dataset (instruction tuning + dati DPO), scelta degli iperparametri, metodologia di valutazione. Basi di RLHF / DPO / KTO: libreria TRL per l'ottimizzazione delle preferenze. Padronanza del serving: vLLM avanzato (PagedAttention + continuous batching + speculative decoding + ottimizzazione della KV cache), TGI, SGLang. Architetture di agent: padronanza di LangGraph + AutoGen + CrewAI + DSPy, implementazione di MCP (Model Context Protocol), pattern di progettazione per l'uso degli strumenti, orchestrazione multi-agent. Padronanza della valutazione: RAGAS + DeepEval + progettazione di suite di valutazione personalizzate, metodologia LLM-as-judge, test di regressione per i prompt, test A/B per le funzionalità LLM. Osservabilità + tracing: padronanza di LangSmith + Langfuse + Helicone + Arize Phoenix + Datadog LLM Observability. Padronanza dell'ottimizzazione dei costi: strategie di prompt caching (native + Redis personalizzato), compressione dei prompt (LLMLingua), instradamento dei modelli (piccoli per i compiti facili / grandi per quelli complessi tramite OpenRouter / Martian), batch API per ciò che non è in tempo reale. Mandato tipico di un Senior: riduzione del 50-70% dei costi delle API LLM. Sicurezza / guardrail: NeMo Guardrails, Llama Guard, integrazione dell'OpenAI Moderation API, difesa dalla prompt injection, filtraggio dell'output. System design per prodotti LLM: progettare alla lavagna un prodotto basato su RAG su scala di oltre 100M di query al giorno, considerazioni multi-regione, budget di latenza (obiettivo P95 < 2s per la chat). Soft skill: scrittura di ADR per le decisioni architetturali sugli LLM, scrittura tecnica (documenti di progettazione delle funzionalità LLM), collaborazione tra team (Product / Backend / DS / Research), mentoring degli AI Engineer Middle, disciplina nella lettura dei paper (NeurIPS / ICLR / EMNLP: da seguire per forza). Inglese OBBLIGATORIO per Senior+: community, documentazione, paper e conferenze dell'IA sono interamente in inglese. Bonus facoltativi: contributi open source a LangChain / LlamaIndex / vLLM / Hugging Face: aumentano nettamente il valore di mercato per le assunzioni nei laboratori di frontier AI. Presenza su Twitter nell'IA (post regolari sugli esperimenti con gli LLM): importante per le assunzioni tramite i contatti nella community.