• Hi Interns
Main
  • My Space
  • My Space
  • Offers
  • Profile
  • Hi Academy
  • Monthly Check-Up
  • LeaderboardNew
Tools
  • Hi Resume
  • Hi Resume
  • PDF to Hi Resume
  • AI Outreach
  • Tailored Resume
  • LinkedIn to Email
  • Interview sheet
  • PDF to Hi Resume
  • AI Outreach
  • Tailored Resume
  • LinkedIn to Email
  • Interview sheet
Coaching
  • Career Consultant
  • Hi Agent
  • Career Consultant
  • Hi Agent
  • Upgrade to Premium
  • Premium / Plus
  • Pricing

 

Info session

Free

The method that gets interviews, live with the team.

  1. Offers
  3. Offer details
Sign in
WEVIOO

WEVIOO

TunisiaTunisiaPublished: 12 Nov 2026

Mise en place d'une passerelle LLM avec routage intelligent des requêtes et pilotage des coûts d'inférence

  • Internship
  • 4-6 months
  • Hybrid
  • Deadline: 26 Nov 2026
  • LiteLLM
  • Software engineering
  • DevOps and CI/CD
  • cloud and infrastructure automation

Job description

Référence

MC09_2026

Objectif

Concevoir une couche d’accès unifiée aux LLM orientant chaque requête vers le modèle adapté. Fonctionnalités : API multi-modèles, bascule à chaud, routage selon tâche, complexité, sensibilité et coût, cache sémantique, quotas, alertes, refacturation interne, observabilité et dashboard coût/usage avec comparaison coût/qualité.

Profil recherché

Ingénieur en génie logiciel, informatique ou IA. Maîtrise de Python et des API REST. Des connaissances Docker/DevOps sont appréciées.

Technologies

Python, FastAPI, LiteLLM, vLLM/Ollama, Redis, PostgreSQL, Prometheus, Grafana, Langfuse, Docker. 1 stagiaire.

Similar offers

  • Conception d'un framework d'évaluation continue et de benchmarking des LLM et des systèmes RAG (LLMOps)WEVIOO · Tunisie · Stage
  • Data storytelling : génération automatisée de commentaires de gestion à partir des dashboards BIWEVIOO · Tunisie · Stage
  • Assistant BI conversationnel (Text-to-SQL) avec couche sémantique gouvernée pour le self-service analyticsWEVIOO · Tunisie · Stage
  • Développement d'un assistant intelligent basé sur l'IA pour la génération automatisée de dashboards BI à partir de spécifications fonctionnelles (SFD)WEVIOO · Tunisie · Stage
  • IA Harness / Proxy interne : plateforme centralisée d'accès aux LLMWEVIOO · Tunisie · Stage
  • Mise en place d'une passerelle LLM avec routage intelligent des requêtes et pilotage des coûts d'inférenceWEVIOO · Tunisie · Stage
  • Stages et emplois en intelligence artificielle
  • Stages en Tunisie