Engenheiro de IA / LLM: mercado

Vaga

uma vaga aberta que passou pelo filtro de qualidade e lista pelo menos duas tecnologias

Candidato observado

um candidato cujo stack contém esta tecnologia; um agregado — nenhum registro individual sai do perímetro

Candidato compatível

ainda não contado

Janela

vagas abertas no momento em que o snapshot foi gerado

Júnior — entrada típica: Backend Pleno / ML Engineer Pleno / Data Scientist Pleno + projetos-hobby de LLM (experiência demonstrável de RAG + LangChain). O salto Júnior → Pleno — depois da primeira implantação de uma feature de LLM em produção (chatbot / sumarização / Q&A num produto real com usuários reais). Pleno → Sênior — propriedade de LLM multi-feature + otimização de custo (mandato típico: redução de 50-70% nos custos de API de LLM via cache + modelos menores + trade-offs de RAG vs fine-tuning) + metodologia de avaliação. Sênior → Staff / Principal — estratégia de IA para toda a organização + arquitetura de plataforma de LLM multiproduto. Fluxo de carreira: Backend Sênior / ML Engineer Pleno (2-3 anos) + interesse em LLM → AI Engineer Júnior / Pleno (1-2 anos) → Sênior → ou Staff / Principal AI Engineer, AI Tech Lead / Engineering Manager, um movimento para um laboratório de IA de fronteira, ou founder de startup de IA.

Top 5: python, aws, llm, cloud, agile. Python a fundo (monopólio — async / typing / FastAPI). Cada provider tem suas peculiaridades (rate limits + retry strategies + custo por token + suporte a features). Frameworks de LLM: domínio de LangChain — o maior mercado de trabalho (LCEL — LangChain Expression Language, callbacks, agents, retrievers), LlamaIndex (focado em RAG — data ingestion + estratégias de indexação), Haystack (deepset), Semantic Kernel (Microsoft para shops .NET), LangGraph (orquestração de agentes estilo DAG — LangChain), AutoGen + CrewAI (multi-agent — em ascensão), DSPy (Stanford — programação declarativa de LLM, em crescimento). Domínio de Vector DB: Pinecone (líder gerenciado), Weaviate (open-source modular), Qdrant (baseado em Rust — self-hosted rápido), Milvus (escala enterprise), Chroma (leve para dev / prototipagem), pgvector (extensão do Postgres — production-friendly para shops Postgres existentes), Elasticsearch dense_vector + Redis Stack (híbrido full-text + vector). Fine-tuning: LoRA + QLoRA via biblioteca PEFT (Hugging Face — padrão 2026), Unsloth (treino LoRA mais rápido), Axolotl (fine-tuning config-driven). Full fine-tuning raro (custo proibitivo). RLHF / DPO / KTO: biblioteca TRL (Hugging Face — crescimento de Direct Preference Optimization 2024+). Avaliação: RAGAS (específico de RAG — faithfulness + answer relevancy + context precision), DeepEval, lm-evaluation-harness (benchmarks acadêmicos), Inspect AI (UK AISI focado em safety), Promptfoo (regression testing para prompts), LangSmith (trace + eval do LangChain — melhor UX). Observabilidade + tracing: Helicone (APM específico de LLM), LangSmith, Langfuse (open-source), Arize Phoenix, Datadog LLM Observability (feature 2024+). Otimização de custo: prompt caching, prompt compression (LLMLingua), model routing (modelo pequeno para queries fáceis, grande para complexas — através de providers como Martian / OpenRouter).

Data Scientist — foco em modelagem estatística + testes A/B + formulação de problemas de negócio. Stack: pandas + sklearn + XGBoost + Jupyter + SQL + Tableau. Veja Data Scientist. ML Engineer — foco em pipelines de ML em produção + implantação + escalabilidade. Stack: PyTorch + sklearn + Kubernetes + MLflow + ML gerenciado na nuvem. Generalista — trabalha com sistemas de recomendação / fraude / ranking / ML clássico. Veja ML Engineer. AI Engineer (esta página) — foco na integração de LLMs no produto. NÃO treina foundation models (isso é Research), NÃO constrói pipelines clássicos de ML (isso é ML Engineer). Stack: Python + provedores de LLM + LangChain / LlamaIndex + bancos vetoriais + serving com vLLM + padrões RAG + fine-tuning com LoRA + ferramentas de avaliação de LLM. Distinção-chave 2026: o AI Engineer reutiliza LLMs pré-treinados, o ML Engineer muitas vezes treina modelos do zero. O AI Engineer trabalha com API/prompts/RAG; o ML Engineer — com loops de treinamento + feature engineering. Mudanças de carreira: Backend Sênior → AI Engineer Júnior — 2-4 meses (adaptação rápida graças ao trabalho baseado em APIs + LangChain fácil de aprender). ML Engineer Sênior → AI Engineer Sênior — 1-3 meses (já conhece o básico do stack, precisa se aprofundar no específico de LLM). DS Sênior → AI Engineer Pleno — 3-6 meses. AI Engineer Sênior → Research — exige matemática mais profunda + experiência em escrita de papers + 6-12 meses de preparação.

Árvore de decisão para customização de LLM 2026: 1) Prompt Engineering — primeira tentativa. Caso de uso: zero-shot ou few-shot é SUFICIENTE para a tarefa. Prós: custo zero (sem treinamento), iteração instantânea, agnóstico ao modelo. Contras: controle limitado, fragilidade dos prompts, pressão sobre a janela de contexto. 2) RAG (Retrieval-Augmented Generation) — o melhor para tarefas baseadas em conhecimento. Caso de uso: chatbot, Q&A, busca em documentos, suporte ao cliente, documentação de código, bases de conhecimento internas. Arquitetura: consulta → embedding → busca vetorial → top-k documentos → enriquecer o prompt com o contexto recuperado → o LLM gera a resposta. Prós: fundamentação factual (contra alucinações), sempre atualizado (basta atualizar o índice, sem retreinar), citação de fontes possível, mais barato que fine-tuning. Contras: a qualidade da recuperação é o gargalo, o tamanho do prompt cresce. Stack de RAG 2026: ingestão (document loaders do LlamaIndex / LangChain) → estratégia de chunking (semântico vs tamanho fixo vs recursivo) → embeddings → banco vetorial (Pinecone / Qdrant / Weaviate / pgvector) → recuperação (similaridade + reranking via Cohere Rerank / BGE Reranker) → enriquecimento do prompt → geração pelo LLM. RAG avançado: busca híbrida (vetorial + BM25), HyDE (Hypothetical Document Embeddings), reescrita de consultas, recuperação multi-hop, autorreflexão (CRAG / Self-RAG). 3) Fine-tuning — use quando prompt engineering + RAG não bastam. Caso de uso: a) estilo / formato específico de domínio (médico / jurídico — padrões de redação específicos), b) reduzir o custo de tokens (um modelo menor com fine-tuning substitui um modelo geral maior), c) tarefas que exigem conhecimento especializado profundo (em que a janela de contexto do RAG não ajuda). Fine-tuning moderno: LoRA / QLoRA (PEFT) — treina um pequeno adaptador (~1% dos pesos); fine-tuning completo é raro. Stack: Hugging Face Transformers + PEFT + TRL + Unsloth (mais rápido) + Axolotl (orientado a configuração). Hardware: GPU de 24GB (RTX 4090 / A6000) para modelos de 7-13B, 80GB+ (A100/H100) para 70B+. Realidade de custos 2026: prompt engineering — minutos, $0. Setup de RAG — 1-2 semanas de engenharia, $100-1.000/mês em custos de API. 4) Combinação: funcionalidades reais de IA em produção normalmente usam OS TRÊS. Primeiro prompt engineering (system prompts + exemplos few-shot) → RAG para fundamentação → fine-tuning com LoRA opcional para estilo/formato. 5) Padrões agênticos (em alta em 2025–2026) — LLM + uso de ferramentas + raciocínio em várias etapas. Use LangGraph / AutoGen / CrewAI / DSPy. Padrão 2026: RAG para 80% dos casos de uso em produção + prompt engineering para prototipagem + fine-tuning com LoRA só se o RAG for explicitamente insuficiente + agentes para workflows complexos de várias etapas.

Sim, 34% das vagas de AI Engineer são totalmente remotas ou híbridas. O trabalho de AI Engineer é totalmente baseado em nuvem (APIs de LLM + bancos de dados vetoriais + GPUs em nuvem — tudo acessível remotamente). Empresas de outsourcing (EPAM AI / Luxoft AI / Andersen AI / DataArt AI) — quase sempre remotas em projetos de IA dos EUA. Bancos russos — híbrido/presencial por causa de compliance de dados de IA. Laboratórios internacionais de IA de fronteira — totalmente remoto é padrão para candidatos excepcionais. Big Tech AI — híbrido padrão. Startups de IA da Y Combinator — totalmente remoto premium. Inglês para remoto internacional de IA — obrigatório (prêmio +40-60%, e a comunidade / papers / docs de IA são inteiramente em inglês).

Roadmap: 1) Python a fundo + noções de Backend — async / typing / FastAPI / pytest. Sem skill de Backend — não é um AI Engineer (apenas um prompt jockey). Livro: "Fluent Python" Ramalho. 2) Entendimento dos fundamentos de LLM — noções da arquitetura transformer (attention + tokenização + estratégias de decoding + context windows), mas você não precisa implementar do zero. Curso: "Building LLMs from scratch" Karpathy YouTube (gratuito — melhor para a intuição). Livro: "Hands-On Large Language Models" Jay Alammar / Maarten Grootendorst (2024 — leitura obrigatória). 3) Domínio da API da OpenAI — chat completions + function calling + structured outputs + streaming + assistants. Construa no mínimo 3 apps reais. Créditos gratuitos + experimentação barata. 4) Domínio da API Claude da Anthropic — melhor para casos de uso de código + long-context. Tool use + prompt caching + computer use (se o track de AI Agent te interessa). 5) Domínio de LangChain — o maior requisito do mercado de trabalho. LCEL (LangChain Expression Language), chains, agents, retrievers, callbacks. Curso: "LangChain & Vector Databases in Production" DeepLearning.AI (gratuito). 6) Arquitetura de RAG a fundo — document loaders + estratégias de chunking (semântico / fixo / recursivo) + escolha de embeddings + seleção de vector DB + algoritmos de retrieval + reranking. Construa um app de RAG em produção com padrões avançados (hybrid search + reranking + HyDE). 7) Domínio de vector DB — ao menos uma a fundo (Qdrant — melhor para aprender self-hosted) + uma gerenciada (Pinecone). Entendimento das noções de algoritmos HNSW / IVF / PQ. 8) Fine-tuning na prática — LoRA / QLoRA via biblioteca PEFT + Unsloth (mais rápido). Faça fine-tune de Llama 3.x 8B no seu próprio dataset. Hardware: Google Colab Pro+ ($50/mês) ou RunPod / Vast.ai (aluguel barato de GPU). 9) Serving com vLLM — faça deploy de um modelo aberto com vLLM + benchmark de throughput + compare com a API da OpenAI. 10) Domínio de avaliação — RAGAS + DeepEval + suíte de avaliação customizada. Construa um teste de regressão para prompts. 11) Observabilidade LangSmith / Langfuse — instrumente um app de produção + analise traces + identifique gargalos. 12) Frameworks de agentes — LangGraph + AutoGen + CrewAI + noções de DSPy. Construa uma demo multi-agente (agente de pesquisa + agente de escrita + agente crítico). 13) Portfólio de pet projects: feature de IA nível produção (ex.: Q&A de documentos para um dataset aberto) com RAG + avaliação + observabilidade + rastreamento de custo. Documente como portfólio (GitHub + post de blog + vídeo demo). Cursos RU: Karpov.Courses track "AI Engineer", Otus "LLM Engineering", HSE School of AI, School21 (Sber) track AI Engineer. Livros de leitura obrigatória: "AI Engineering" Chip Huyen (2024), "Hands-On Large Language Models" Alammar / Grootendorst, "Building LLMs for Production" Bouchard / Peng. Backend Senior + interesse em LLM → AI Engineer Junior — 2-4 meses (a entrada mais rápida no mundo do ML). ML Engineer Senior → AI Engineer Senior — 1-3 meses. Data Scientist → AI Engineer Middle — 3-6 meses.

64 active open AI Engineer positions in our sample — a young niche (split off in 2023 after the ChatGPT boom). The real market is much broader — most AI Engineer roles are classified by our matcher as general ML Engineer or Backend (because titles are often "Senior Backend Engineer (AI focus)" or "ML Engineer — LLM"). The true pool of AI-focused dev jobs across CIS + Europe is estimated at 500-2,000 active positions at any moment in 2026 (accounting for fuzzy-classified ones). Geography: the US, Poland, the UK. Time to close a Senior AI Engineer role — 4-10 weeks in Russia, 6-12 weeks international (rare-skill premium). Trend 2026: the AI Engineer pool grows fastest among all IT categories — we see 3-5× year-over-year growth in LLM-mentioning job postings.

Um AI Engineer Sênior é dono do ciclo completo de engenharia de produtos com LLM + otimização de custos + liderança técnica. Python a fundo + nível de Backend Sênior: domínio de async / typing / FastAPI / pytest. Conhecimento de LLMs abertos: Llama 3.x / Mistral / Qwen 2.5 / DeepSeek V3 + R1 / Phi 3 / Gemma 2 — trade-offs de desempenho / custo, quando usar cada um. Domínio de LangChain: LCEL a fundo, callbacks, agentes, retrievers, criação de chains personalizadas, depuração pelo LangSmith. Ou o equivalente em LlamaIndex / Haystack / Semantic Kernel. Domínio de arquitetura RAG: padrões avançados (busca híbrida BM25 + vetorial, reranking, HyDE, reescrita de consultas, recuperação multi-hop, padrões de autorreflexão CRAG / Self-RAG), estratégias de chunking (semântico + recursivo + hierárquico), escolha do modelo de embeddings. Domínio profundo de bancos vetoriais: um entre Pinecone / Qdrant / Weaviate / Milvus / pgvector a fundo — tuning de índices, sharding, replicação, implementação de busca híbrida. Domínio de fine-tuning: LoRA / QLoRA via PEFT + Unsloth + Axolotl, preparação de datasets (instruction tuning + dados para DPO), escolha de hiperparâmetros, metodologia de avaliação. Noções de RLHF / DPO / KTO: biblioteca TRL para otimização de preferências. Domínio de serving: vLLM avançado (PagedAttention + continuous batching + speculative decoding + otimização de KV cache), TGI, SGLang. Arquiteturas de agentes: domínio de LangGraph + AutoGen + CrewAI + DSPy, implementação de MCP (Model Context Protocol), padrões de design de uso de ferramentas, orquestração multiagente. Domínio de avaliação: RAGAS + DeepEval + design de suítes de avaliação personalizadas, metodologia LLM-as-judge, testes de regressão para prompts, testes A/B para funcionalidades com LLM. Observabilidade + tracing: domínio de LangSmith + Langfuse + Helicone + Arize Phoenix + Datadog LLM Observability. Domínio de otimização de custos: estratégias de cache de prompts (nativo + Redis personalizado), compressão de prompts (LLMLingua), roteamento de modelos (pequenos para tarefas fáceis / grandes para complexas via OpenRouter / Martian), batch API para o que não é em tempo real. Mandato típico de Sênior: redução de 50-70% nos custos de API de LLM. Segurança / guardrails: NeMo Guardrails, Llama Guard, integração com a OpenAI Moderation API, defesa contra prompt injection, filtragem de saídas. System design para produtos com LLM: projetar no quadro branco um produto baseado em RAG na escala de 100M+ consultas/dia, considerações multirregião, orçamentos de latência (meta P95 < 2s para chat). Soft skills: escrita de ADRs para decisões de arquitetura com LLM, redação técnica (documentos de design de funcionalidades com LLM), colaboração entre times (Produto / Backend / DS / Research), mentoria de AI Engineers Pleno, disciplina de leitura de artigos (NeurIPS / ICLR / EMNLP — é preciso acompanhar). Inglês para Sênior+ OBRIGATÓRIO — comunidade / documentação / artigos / conferências de IA são inteiramente em inglês. Bônus opcional: contribuições open-source para LangChain / LlamaIndex / vLLM / Hugging Face — aumentam muito o valor de mercado para contratação em laboratórios de IA de fronteira. Presença no Twitter de IA (posts regulares sobre experimentos com LLM) — importante para contratação por conexões na comunidade.