Stage: R&D Sécurité et Défense des LLM - F/H, Alpes-Maritimes

Stage: R&D Sécurité et Défense des LLM - F/H, Alpes-Maritimes

Faites ressortir le meilleur de vous-même

Les innovations de SAP permettent à plus de quatre cent mille clients dans le monde de travailler ensemble plus efficacement et d'utiliser plus efficacement les informations commerciales. En tant que société en nuage comptant deux-cents millions d'utilisateurs et plus de cent mille employés dans le monde, nous sommes motivés et tournés vers l'avenir, avec une éthique d'équipe hautement collaborative et un engagement envers le développement personnel.

Votre mission

Ce stage a pour objectif de développer et maintenir une solution robuste de Sécurité et Défense pour les LLM. Cette solution servira d'outil essentiel pour protéger le déploiement et l'utilisation des LLM en :

• Réalisant des évaluations de sécurité complètes pour détecter les vulnérabilités telles que les biais, la toxicité et les attaques adverses.
• Mettant en œuvre des mécanismes de protection robustes pour prévenir les entrées malveillantes et protéger les informations sensibles.
• Fournissant des informations exploitables à travers des rapports clairs et informatifs.

Les objectifs et tâches spécifiques du stage incluent :

• Recherche sur les meilleures pratiques de sécurité des LLM et les méthodologies d’évaluation des vulnérabilités.
• Développement de la solution de sécurité et de défense pour les LLM en utilisant Python ou d'autres langages de programmation appropriés.
• Création d'un cadre complet pour tester les LLM contre diverses menaces de sécurité.
• Développement d'algorithmes pour identifier et classer les vulnérabilités dans les sorties des LLM.
• Implémentation de techniques de sanitation pour atténuer les risques de sécurité.
• Évaluation continue de l’efficacité de la solution.
• Création d'une documentation claire et concise pour la solution de sécurité.

Nous prévoyons que 40 % du temps sera dédié aux activités de recherche et 60 % au développement.

Votre profil

• Master 1 ou 2 en informatique, machine learning
• Connaissances en Python, bases de données SQL/noSQL, PNL et bibliothèques de Machine Learning.
• Durée: 6 mois
• Date de début: Février 2025

Conformément à la législation française, ce stage fait l'objet d'une gratification.

Votre équipe

Le « Secure Development Center of Excellence » est responsable du cycle de vie de développement et d'opérations sécurisées des logiciels SAP.

L'équipe adopte une approche assistée par l'automatisation afin de réduire les risques de sécurité émergents.