AI Platform Engineer (H/F) – Mission freelance (IT) / Freelance

Job summary

L’ingénieur plateforme IA conçoit et exploite une passerelle sécurisée donnant aux équipes un accès unifié aux modèles d’intelligence artificielle, dans un environnement retail international. Il développe une API compatible OpenAI et prend en charge le routage des fournisseurs, la gestion des accès et des coûts, l’observabilité, la sécurité et l’intégration d’agents IA, avec une approche de développement assistée par agents de code. La plateforme s’appuie notamment sur Python, FastAPI, Kubernetes et Google Cloud Platform.

Qualifications

• Au moins 6 ans d’expérience en ingénierie logicielle.
• Solides compétences backend en Python, FastAPI et programmation asynchrone, avec une bonne maîtrise de la conception d’API.
• Connaissances en machine learning, deep learning et fonctionnement des LLM, notamment tokenisation, embeddings, fenêtres de contexte, fine-tuning et quantification.
• Expérience en conception et exploitation en production de systèmes basés sur les LLM, incluant les API fournisseurs, le streaming, l’appel d’outils et la gestion des coûts et des jetons.
• Expérience du développement assisté par agents, de la spécification à la délégation et à la revue.
• Maîtrise de protocoles ou frameworks d’agents tels que MCP, A2A, LangGraph ou Google ADK, ou équivalents.
• Expérience des environnements cloud-native, notamment Docker, Kubernetes, Terraform, GitHub Actions et Google Cloud Platform.
• Connaissance de l’authentification et de l’autorisation OAuth2/OIDC, de la sécurité des API et de la gestion des secrets.
• Pratique de l’observabilité et de l’automatisation des tests.
• Une expérience des passerelles LLM ou API, du serving de modèles, de Kafka, PostgreSQL, Redis ou MongoDB est un atout.
• Anglais oral et écrit.

Responsibilities

• Concevoir et développer une API compatible OpenAI avec routage entre fournisseurs, bascule de secours, streaming et cache.
• Mettre en place le contrôle d’accès, les clés d’API, les quotas, les budgets et le suivi des coûts par équipe.
• Mettre en œuvre l’observabilité des logs, traces, latences et consommations de jetons, ainsi que les tableaux de bord et alertes.
• Sécuriser la plateforme avec des garde-fous, le filtrage des données personnelles, la protection contre l’injection de prompts et des pistes d’audit.
• Définir les SLO, effectuer des tests de charge et gérer les incidents.
• Comparer les modèles et intégrer de nouveaux modèles et fournisseurs.
• Contribuer aux analyses de solutions de passerelle à développer, acheter ou utiliser en open source.
• Préparer la plateforme aux agents IA, notamment pour l’appel d’outils, les serveurs MCP, l’identité et les permissions.
• Fournir des SDK, des modèles de projet et de la documentation.
• Déléguer l’implémentation, les tests et la documentation à des agents de code, puis relire leurs productions.

Skills

Languages

Industry

Relocation