LLMOps Engineer

Vous souhaitez bâtir le socle opérationnel d’une plateforme agentic ambitieuse ? Nous recherchons un(e) LLMOps Engineer pour concevoir et opérer l’infrastructure, l’outillage et les pratiques qui rendent nos systèmes LLM fiables, observables, coût-efficaces et sûrs en production. 🎯 Vos missions
• Construire et opérer l’infrastructure AI : model serving, CI/CD, observabilité et gouvernance des coûts.
• Mettre en place des systèmes de gestion de prompts robustes (versioning, rollback, tests automatisés, A/B testing).
• Développer des pipelines d’évaluation et de qualité pour garantir des agents AI fiables et sécurisés.
• Assurer la scalabilité et la sécurité des déploiements via Docker, Kubernetes, Terraform et cloud providers (AWS, Azure, GCP).
• Garantir que chaque agent, pipeline RAG et intégration LLM en production est observable, reproductible et en amélioration continue. 🛠️ Compétences clés recherchées
• Expertise en prompt lifecycle management et gouvernance.
• Maîtrise du model serving (OpenAI, Anthropic, vLLM, Hugging Face, Ollama).
• Connaissance des architectures multi-modèle et optimisation coût/latence/qualité.
• Expérience en LLMOps : CI/CD, monitoring, drift detection, guardrails et Responsible AI.
• Solides compétences en observabilité et infrastructure cloud (Grafana, Prometheus, Datadog). 👉 Profil apprécié
• Expérience en fine-tuning (LoRA, QLoRA), embeddings à l’échelle et vector databases.
• Familiarité avec MLflow, Weights & Biases ou Neptune pour le suivi d’expériences ML.
• Connaissance des pratiques de Responsible AI et sécurité des infrastructures AI.
• Contribution open-source ou publications sur les pratiques LLMOps. 📌 Expérience
• Minimum 3 ans en MLOps, DevOps/SRE ou platform engineering, avec exposition aux systèmes AI/ML.
• Expérience pratique avec les défis spécifiques aux LLM : prompts, model serving, évaluation, gouvernance des coûts. Pourquoi nous rejoindre ? Ce rôle est au cœur de notre transformation agentic. Vous serez le garant de la rigueur opérationnelle qui permet à l’innovation de se déployer en production. Envie de relever le défi ? Postulez dès maintenant et devenez le pilier opérationnel de notre plateforme AI.