• Hi Interns
Principal
  • Mon Espace
  • Mon Espace
  • Offres
  • Profil
  • Hi Academy
  • Monthly Check-Up
  • LeaderboardNew
Outils
  • Hi Resume
  • Hi Resume
  • PDF to Hi Resume
  • AI Outreach
  • CV Sur Mesure
  • LinkedIn to Email
  • Fiche entretien
  • PDF to Hi Resume
  • AI Outreach
  • CV Sur Mesure
  • LinkedIn to Email
  • Fiche entretien
Accompagnement
  • Career Consultant
  • Hi Agent
  • Career Consultant
  • Hi Agent
  • Passer au Premium
  • Premium / Plus
  • Tarifs

 

Info session

Gratuit

La méthode pour décrocher des entretiens, en live avec l’équipe.

  1. Offres
  3. Détail de l'offre
Se connecter
WEVIOO

WEVIOO

TunisieTunisiaPublication : 12 nov. 2026

Mise en place d'une passerelle LLM avec routage intelligent des requêtes et pilotage des coûts d'inférence

  • Stage
  • 4-6 mois
  • Hybride
  • Échéance : 26 nov. 2026
  • LiteLLM
  • Software engineering
  • DevOps and CI/CD
  • cloud and infrastructure automation

Description du poste

Référence

MC09_2026

Objectif

Concevoir une couche d’accès unifiée aux LLM orientant chaque requête vers le modèle adapté. Fonctionnalités : API multi-modèles, bascule à chaud, routage selon tâche, complexité, sensibilité et coût, cache sémantique, quotas, alertes, refacturation interne, observabilité et dashboard coût/usage avec comparaison coût/qualité.

Profil recherché

Ingénieur en génie logiciel, informatique ou IA. Maîtrise de Python et des API REST. Des connaissances Docker/DevOps sont appréciées.

Technologies

Python, FastAPI, LiteLLM, vLLM/Ollama, Redis, PostgreSQL, Prometheus, Grafana, Langfuse, Docker. 1 stagiaire.

Offres similaires

  • Conception d'un framework d'évaluation continue et de benchmarking des LLM et des systèmes RAG (LLMOps)WEVIOO · Tunisie · Stage
  • Data storytelling : génération automatisée de commentaires de gestion à partir des dashboards BIWEVIOO · Tunisie · Stage
  • Assistant BI conversationnel (Text-to-SQL) avec couche sémantique gouvernée pour le self-service analyticsWEVIOO · Tunisie · Stage
  • Développement d'un assistant intelligent basé sur l'IA pour la génération automatisée de dashboards BI à partir de spécifications fonctionnelles (SFD)WEVIOO · Tunisie · Stage
  • IA Harness / Proxy interne : plateforme centralisée d'accès aux LLMWEVIOO · Tunisie · Stage
  • Mise en place d'une passerelle LLM avec routage intelligent des requêtes et pilotage des coûts d'inférenceWEVIOO · Tunisie · Stage
  • Stages et emplois en intelligence artificielle
  • Stages en Tunisie