
B2H
TunisiePublication : 18 nov. 2026
MLOps · Plateforme - Plateforme LLMOps
- Stage
- 4-6 mois
- Présentiel
- Échéance : 2 déc. 2026
- MLOps / DevOps
- LLM/Explainability
- Systèmes distribués
- Software and Cloud Engineering
Description du poste
Contexte: chaque conversation d’Ordy et de Tenjah a un coût; le modèle le plus puissant n’est pas toujours nécessaire. Headcount: 1 étudiant.
Objectifs et missions
- Routeur appris: sélectionner le modèle le moins cher capable de répondre (bandit contextuel)
- Cache sémantique avec contrôle de fraîcheur
- Évaluation automatique (LLM‑juge calibré) et détection de dérive
- Passerelle haute disponibilité: repli, limitation de débit, coûts par client
Défis techniques
- Compromis coût/qualité/latence; évaluation sans vérité terrain
Critères de réussite
- −40% de coûts à qualité égale; latence p95; disponibilité
Technologies
- LLM Gateway, Bandits, Redis, Prometheus, Docker
Profil recherché
- Ingénieur logiciel/MLOps — systèmes distribués, cloud
Candidature
- Postulez via le portail carrières; CV + lettre + sujets choisis; max 2 sujets; deadline 15/12/2026