• Hi Interns
Principal
  • Mon Espace
  • Mon Espace
  • Offres
  • Profil
  • Hi Academy
  • Monthly Check-Up
  • LeaderboardNew
Outils
  • Hi Resume
  • Hi Resume
  • PDF to Hi Resume
  • AI Outreach
  • CV Sur Mesure
  • LinkedIn to Email
  • Fiche entretien
  • PDF to Hi Resume
  • AI Outreach
  • CV Sur Mesure
  • LinkedIn to Email
  • Fiche entretien
Accompagnement
  • Career Consultant
  • Hi Agent
  • Career Consultant
  • Hi Agent
  • Passer au Premium
  • Premium / Plus
  • Tarifs

 

Info session

Gratuit

La méthode pour décrocher des entretiens, en live avec l’équipe.

  1. Offres
  3. Détail de l'offre
Se connecter
WEVIOO

WEVIOO

TunisieTunisiaPublication : 12 nov. 2026

Mise en place d'une passerelle LLM avec routage intelligent des requêtes et pilotage des coûts d'inférence

  • Stage
  • 4-6 mois
  • Hybride
  • Échéance : 26 nov. 2026
  • LiteLLM
  • Software engineering
  • MLOps / DevOps
  • cloud and infrastructure automation

Description du poste

Référence

MC09_2026

Projet

Concevoir une couche d'accès unifiée aux LLM orientant chaque requête vers le modèle adapté. Mettre en place une API multi-modèles avec bascule à chaud, un routage selon tâche, complexité, sensibilité et coût, une mise en cache sémantique, des quotas, alertes et refacturation interne, ainsi que l'observabilité des latences, tokens, erreurs et traces. Créer un dashboard comparant coût et qualité par modèle.

Profil

Ingénieur en génie logiciel, informatique ou IA. Maîtrise de Python et des API REST. DevOps/Docker apprécié.

Technologies

Python, FastAPI, LiteLLM, vLLM/Ollama, Redis, PostgreSQL, Prometheus, Grafana, Langfuse, Docker. 1 stagiaire.

Offres similaires

  • Conception d'un framework d'évaluation continue et de benchmarking des LLM et des systèmes RAG (LLMOps)WEVIOO · Tunisie · Stage
  • Data storytelling : génération automatisée de commentaires de gestion à partir des dashboards BIWEVIOO · Tunisie · Stage
  • Assistant BI conversationnel (Text-to-SQL) avec couche sémantique gouvernée pour le self-service analyticsWEVIOO · Tunisie · Stage
  • Développement d'un assistant intelligent basé sur l'IA pour la génération automatisée de dashboards BI à partir de spécifications fonctionnelles (SFD)WEVIOO · Tunisie · Stage
  • Pipeline de collecte et de classification de renseignements sur les menaces (CTI)WEVIOO · Tunisie · Stage
  • Red Teaming vocal multi-tours : gateway STT/TTS et attaquant conversationnel adaptatifWEVIOO · Tunisie · Stage
  • Stages et emplois en intelligence artificielle
  • Stages en Tunisie