Le directeur senior de la sécurité des applications de GitLab se concentre sur la protection des clients contre les vulnérabilités logicielles, une mission renforcée par le rôle de l'IA dans le développement. Les plateformes d'IA améliorent la productivité, mais introduisent également de nouveaux défis de sécurité, tels que les attaques d'injection de prompt. Ces attaques peuvent manipuler l'IA pour qu'elle fasse des recommandations nuisibles ou prenne des actions non intentionnelles. GitLab aborde proactivement ces risques en travaillant avec des chercheurs en sécurité externes, tels que Persistent Security. Cette collaboration est cruciale pour identifier et atténuer les menaces spécifiques à l'IA.GitLab met l'accent sur la collaboration transparente, détaillant ses pratiques éthiques et de développement de l'IA dans son Centre de transparence de l'IA. Lorsque Persistent Security a identifié une importante vulnérabilité d'injection de prompt, l'équipe de réponse à la sécurité des produits de GitLab a rapidement enquêté et mis en œuvre les mesures d'atténuation nécessaires. Ces correctifs ont été déployés avant la version bêta publique de la plateforme GitLab Duo Agent. Les chercheurs externes sont essentiels pour rester à la pointe de l'évolution rapide des menaces de l'IA et fournir des insights de test du monde réel. Leur expertise diverse et leurs approches innovantes renforcent la posture de sécurité de GitLab.GitLab reste engagé pour soutenir la communauté de recherche en sécurité en offrant des conseils clairs, en maintenant des temps de réponse rapides et en partageant les apprentissages. L'avenir de la sécurité de l'IA repose sur cet effort de collaboration. GitLab encourage les chercheurs à participer par le biais de son programme HackerOne et à en savoir plus sur son Centre de transparence de l'IA. Le directeur sera disponible au Black Hat 2025 pour se connecter avec les chercheurs en sécurité de l'IA.