L'équipe de sécurité open source de Google, en partenariat avec NVIDIA et HiddenLayer, a lancé la première version stable d'une bibliothèque de signature de modèles dans le cadre de la Fondation de sécurité open source. Cette bibliothèque permet aux utilisateurs de vérifier que le modèle utilisé par une application est bien celui créé par les développeurs, en utilisant des signatures numériques comme celles de Sigstore. L'évolution rapide des grands modèles de langage (LLM) a ouvert la porte à de nouvelles menaces de sécurité, notamment la contamination de modèles et de données, l'injection de requêtes et l'évitement de requêtes. Le processus de chaîne d'approvisionnement de l'apprentissage automatique (ML) est vulnérable aux manipulations, car les modèles sont une collection non inspectable de poids qui peuvent être modifiés par les attaquants. Pour établir la confiance dans les modèles, les utilisateurs doivent vérifier leur intégrité et leur provenance, ce qui peut être fait grâce à la signature cryptographique. La chaîne d'approvisionnement de l'apprentissage automatique comprend trois étapes : la formation, l'affinage et l'intégration dans une application, chacune gérée par des équipes ou des entreprises différentes, créant des opportunités de manipulation. La signature de modèle peut prévenir la manipulation en vérifiant l'intégrité du modèle à chaque étape. La bibliothèque de signature de modèle publiée est un package Python qui prend en charge Sigstore et les méthodes de signature traditionnelles, et peut gérer l'échelle des modèles d'apprentissage automatique. L'objectif est d'étendre la signature de modèle pour inclure les jeux de données et d'autres artefacts liés à l'apprentissage automatique, et de créer des enregistrements de métadonnées anti-manipulation qui peuvent automatiser la réponse aux incidents. Le projet vise à créer un écosystème de confiance pour l'apprentissage automatique et invite la communauté open source à se joindre et à façonner son avenir.