COPILOTE D’ENTREPRISE HYBRIDE AVEC ROUTAGE INTELLIGENT

Domaine

IA générative, systèmes hybrides et intégration d’entreprise.

Mission

Pour des raisons de souveraineté et de coûts, les clients refusent d’envoyer leurs secrets industriels vers des LLMs hébergés dans le cloud public. Le projet vise à concevoir un routeur sémantique sélectionnant dynamiquement le bon modèle.

Fonctionnalités

• Implémenter un routeur de requêtes basé sur la complexité et la classification de confidentialité, entre SLM local et API Cloud sécurisée.
• Intégrer la technologie Model Context Protocol (MCP) afin de permettre aux agents d’interagir nativement avec les ERP internes, GitLab et bases SQL.
• Optimiser l’inférence locale via TensorRT-LLM / vLLM pour fonctionner sur des stations de travail équipées de GPU grand public.
• Développer une interface utilisateur collaborative avec gestion des personas et historique de raisonnement (Chain-of-Thought).

Technologies

Python, vLLM, LangChain, MCP Framework, TypeScript, TailwindCSS, Redis, Docker/K8s.

Référence

PFE-IA-03