Expert LLM Ops Senior H/F

Avec plus de 200 collaborateurs, le Groupe ilem est une importante SSII en Suisse Romande.

ilem est spécialisée dans la gestion, la réalisation et l'optimisation des systèmes d'information des entreprises, garantit des prestations de qualité, apporte une expertise technologique, conçoit et développe des solutions innovantes implémentées en Suisse, en France et au Maroc.

Fondée sur des valeurs humaines fortes (Respect - Simplicité - Confiance - Qualité de Service - Ouverture d'Esprit) la stratégie d'ilem repose sur l'établissement d'un partenariat à long terme avec ses Clients et ses Collaborateurs.

1. Infrastructure & CI/CD

• Concevoir et mettre en place des infrastructures IA robustes et sécurisées.

• Développer et maintenir les pipelines CI/CD (GitLab CI/CD ou équivalent), gestion des environnements, secrets et Infrastructure as Code (IaC).

• Assurer l'exploitation en production avec des SLO/SLA, runbooks, gestion de la latence et des incidents.

2. Architecture & Intégration LLM

• Concevoir et opérer des stacks LLM (cloud, on‑premise, edge).

• Mettre en œuvre des mécanismes de routing, prompt caching, streaming et optimisation du temps de réponse.

• Évaluer et sélectionner les modèles (propriétaires ou open source) et services associés (ASR/TTS, traduction, vision, modération).

• Définir les patterns d'intégration mobile et API (OpenAPI, API Gateway, quotas, rate limiting).

3. Mise en production des cas d'usage IA

• Construire et maintenir une librairie de prompts/templates versionnée.

• Déployer des solutions RAG (vector DB, embeddings, reranking) et agents/function calling.

• Mettre en place des garde‑fous : modération, mitigation jailbreak, gestion des données sensibles (PII).

• Orchestrer les expérimentations : A/B testing, canary, rollback, déploiement progressif.

4. Données, Observabilité & Évaluation

• Créer des jeux de données de référence (golden datasets).

• Définir et instrumenter des métriques LLM (G‑Eval, DeepEval, RAGAS).

• Mettre en place des outils de tracing et monitoring (OpenTelemetry, Prometheus/Grafana, Langfuse).

• Versionner modèles, données et expériences (MLflow).

5. Gouvernance & Sécurité

• Conduire les analyses d'impact (DPIA), gérer consentements et data residency.

• Assurer la conformité réglementaire (RGPD et locales), chiffrement et auditabilité.

• Produire des model cards, data contracts et politiques d'accès.

6. Pilotage transverse

• Centraliser les besoins métiers et techniques, prioriser le backlog et arbitrer coût/latence/qualité.

• Gérer les fournisseurs cloud, APIs LLM, vector stores et solutions de sécurité/observabilité.

Formation : Bac+5 en informatique, télécoms ou équivalent.

Expérience : Minimum 5 ans en MLOps/LLMOps, avec des mises en production à grande échelle et contraintes temps réel.

Compétences techniques :

• Python (maîtrise avancée), Pydantic, bonnes pratiques de tests (pytest).

• Architectures event‑driven, intégration OpenAPI,  appréciés.

• LLM & RAG : prompt engineering, templating, guardrails, function calling, chunking, embeddings, reranking.

• Orchestration/agents : LangChain, LangGraph, protocoles inter‑agents.

• Kubernetes (autoscaling), Rancher, optimisation latence/throughput.

• Observabilité : MLflow, Langfuse, OpenTelemetry, Prometheus/Grafana.

• Vector stores (pgvector, Milvus/FAISS, Pinecone).

• Cloud : AWS, Azure, GCP, Terraform, Vault/KMS, IAM.

• Conformité RGPD, gestion PII, audit logs.

• Voix & multimodal : ASR/TTS (Whisper, NeMo), vision/document QA.

Soft skills :

• Excellente communication et capacité à travailler avec des décideurs techniques et métiers.

• Autonomie, esprit d'initiative et rigueur.

• Capacité à gérer plusieurs projets stratégiques en parallèle.

Langues :

• Français courant (oral et écrit).

• Anglais professionnel.

Pourquoi rejoindre ilem Group ?

• Impact direct : rôle stratégique dans le déploiement de solutions IA innovantes.

• Missions variées : équilibre entre architecture, exploitation et conseil.

• Culture entrepreneuriale : autonomie et innovation encouragées dans un environnement agile.

Type de contrat : Freelance

Durée de la mission: 3 mois renouvelable.

Localisation : Casablanca

Prise de poste : 26 Janvier 2026 (Ou date la plus proche).