PFE 2027 — MC09_2026 — Mise en place d'une passerelle LLM avec routage intelligent des requêtes et pilotage des coûts d'inférence

Objectif: concevoir une couche d’accès unifiée aux LLM orientant chaque requête vers le modèle le plus adapté tout en maîtrisant le coût d’inférence.

Fonctionnalités:

• API unique multi‑modèles (open source on‑premise + API externes), bascule à chaud par configuration.
• Routage selon tâche/complexité/sensibilité/coût (règles + classifieur léger).
• Mise en cache sémantique des réponses.
• Quotas par équipe/cas d’usage, alertes de dépassement, refacturation interne.
• Observabilité: latence, volumes de tokens, erreurs, traces.
• Dashboard de pilotage coûts/usage et comparaison coût/qualité par modèle.

Profil recherché: Ingénieur génie logiciel/informatique/IA; Python, API REST; notions DevOps (Docker) appréciées.

Technologies: Python, FastAPI, LiteLLM, vLLM/Ollama, Redis, PostgreSQL, Prometheus, Grafana, Langfuse, Docker.

Stagiaires: 1. Durée: 6 mois.

Candidature: joindre votre CV et indiquer la référence du sujet. Maximum 2 références par étudiant.

Candidature

Envoyez votre CV à pfe@wevioo.com en indiquant la référence MC09_2026 dans l'objet du mail. Chaque étudiant peut choisir 2 références maximum ; toute référence supplémentaire entraîne la disqualification de la candidature.

Source

PFE Book Wevioo 2026–2027