Assistant Data Scientist – Red-team IA/Sécurité des LLMs

Contexte et objectif

L'arrivée des grands modèles de langage a entraîné l'apparition de nombreux risques liés à l'intelligence artificielle. Le stage porte sur l'étude des attaques adverses visant les modèles de langage multimodaux capables de comprendre à la fois du texte et des images, également appelés VLM.

La problématique centrale consiste à déterminer s'il est possible de générer des attaques adverses sur les VLM qui se généralisent à de nombreuses architectures inconnues et, dans le cas contraire, à expliquer les raisons de cette absence de généralisation. Les travaux s'appuieront sur l'expertise interne acquise sur les attaques adverses.

Missions principales

• Établir un état de l'art en croisant les articles récents concernant les VLM et les techniques historiques d'attaques adverses.
• Implémenter des attaques innovantes en réutilisant des schémas d'attaques connus.
• Étudier le manque de généralisation à l'aide d'outils observant le fonctionnement global des modèles, notamment l'explicabilité et les activations.
• Rédiger un rapport présentant les travaux menés.
• Potentiellement publier un article scientifique.

Organisation et environnement

Le stage se déroule au sein d'une squad pluridisciplinaire, sous l'encadrement d'experts IA et avec un chef de projet IA comme référent fonctionnel, selon la méthode Projet de CA-AI, certifiée en IA de confiance et labélisée RSE.

Les étapes comprennent une veille bibliographique, la sélection et l'implémentation des approches adaptées, une étude comparative sur des données internes et externes, l'intégration des développements dans les produits et une publication scientifique éventuelle si les travaux produisent de nouvelles approches plus performantes que l'état de l'art.

Le stagiaire aura accès à des environnements d'engineering industriel en local et dans le cloud. Les modèles seront évalués sur des données internes et externes open-data et intégrés dans les produits et services IA en production. Des interactions auront lieu avec les équipes data science, engineering et les experts métier du Groupe.

Localisation

Montrouge, France.