Symbiose.
Ingénieur informaticien / Ingénieure informaticienne

Ingénieur LLMOps / AgentOps

SMARTPOINT GROUP Paris publiée il y a 1 mois

Le poste

Paris IDF Hybride Smartpoint en bref, qui sommes-nous et en quoi sommes-nous différents ? Smartpoint est une ESN pure player Data & IA créée en 2006 à Paris. Nous concevons, modernisons, déployons et opérons des plateformes Data/IA de bout en bout, avec une approche DataOps & IAOps 360° : du cadrage à l'industrialisation, le run et l'amélioration continue. Notre valeur ajoutée : Des architectures data production-ready, des pipelines automatisés et observables et une obsession de la valeur opérationnelle pour les métiers. Nos équipes interviennent sur l'ensemble des grands chantiers Data & IA : Architecture et modernisation des plateformes, data engineering & XOps (DataOps, MLOps/LLMOps), IA / IA générative (LLM, RAG, agents), BI & analytics (modernisation BI, reporting, dashboards) ainsi que la gouvernance des données & qualité (catalogue, lineage, data quality, data contracts). Quelques repères : +300 experts, SmartLab (R&D inshore à Paris, agrément CIR), certifications ISO 27001/27701, engagement RSE et bilan carbone. Au sein de notre équipe DataOps & IAOps , vous êtes responsable du run des applications d'IA générative et des agents de nos clients. Votre mission ? Que les IA en production restent fiables, observables, sécurisées et maîtrisées en coût. Vos principales responsabilités : - Construire les plateformes LLMOps - Mettre en place la chaîne de déploiement des applications LLM : gestion des versions de prompts, de modèles et de configurations - Déployer et exposer les modèles (API managées, passerelle LLM, modèles open source sur GPU) - Observer et superviser - Instrumenter les applications et les agents : traces, latence, taux d'erreur, qualité des réponses - Mettre en place les tableaux de bord et les alertes pour les équipes de run - Évaluer en continu - Automatiser l'évaluation à chaque changement de prompt ou de modèle (tests de non-régression) - Suivre la dérive de qualité en production et organiser les retours utilisateurs - Maîtriser les coûts (FinOps IA) - Mesurer la consommation de tokens et de GPU par cas d'usage - Proposer les optimisations : cache, routage entre modèles, choix du modèle selon la tâche - Sécuriser et documenter - Mettre en place les contrôles : gestion des secrets, filtrage, journalisation, droits d'accès - Produire la documentation technique utile à la conformité AI Act De formation supérieure (Bac+5 en informatique ou école d'ingénieurs), vous avez 4 ans d'expérience minimum en DevOps, MLOps ou SRE, et une première expérience sur des applications LLM en production. Compétences techniques requises Plateforme & Outils - Kubernetes, Docker, Terraform - CI/CD : GitLab CI, GitHub Actions ou Azure DevOps - Au moins un cloud : Azure, AWS ou GCP LLMOps & observabilité - Observabilité des LLM : Langfuse, LangSmith, Arize Phoenix, OpenTelemetry ou équivalent - MLflow ou équivalent pour le suivi des modèles - Passerelles LLM : LiteLLM, Azure API Management ou équivalent - Serving de modèles : vLLM, TGI, Ollama (apprécié) Développement - Python , scripting, API REST - Monitoring : Prometheus, Grafana, Datadog ou équivalent Un bon niveau d'anglais est requis pour évoluer dans un contexte international. - Sens du service et culture du run - Rigueur dans la documentation et la gestion des incidents - Capacité à travailler avec des équipes data, IA et sécurité Veuillez remplir les informations suivantes, notre service recrutement reviendra vers vous dans les plus brefs délais. Les champs obligatoires sont indiqués avec *. Joindre votre CV et votre message de motivation Joindre votre fichier au format pdf ou doc (taille maximale : 2Mo par fichier)