Das Google Open Source Security Team, in Partnerschaft mit NVIDIA und HiddenLayer, hat die erste stabile Version einer Modell-Signatur-Bibliothek als Teil der Open Source Security Foundation veröffentlicht. Diese Bibliothek ermöglicht es Benutzern, zu überprüfen, ob das von einer Anwendung verwendete Modell dasselbe ist, das von den Entwicklern erstellt wurde, indem digitale Signaturen wie die von Sigstore verwendet werden. Die rasante Evolution großer Sprachmodelle (LLMs) hat neue Sicherheitsbedrohungen wie Modell- und Datenvergiftung, Prompt-Injektion und Prompt-Umgehung geöffnet. Der ML-Lieferprozess ist anfällig für Manipulationen, da Modelle eine uninspektionable Sammlung von Gewichten sind, die von Angreifern geändert werden können. Um Vertrauen in Modelle zu erlangen, müssen Benutzer ihre Integrität und Herkunft überprüfen, was durch kryptographische Signierung erreicht werden kann. Der ML-Lieferprozess umfasst drei Stufen: Training, Feinabstimmung und Einbettung in eine Anwendung, jede von verschiedenen Teams oder Unternehmen gehandhabt, was Manipulationsmöglichkeiten schafft. Modell-Signierung kann Manipulationen verhindern, indem die Integrität des Modells in jeder Stufe überprüft wird. Die veröffentlichte Modell-Signatur-Bibliothek ist ein Python-Paket, das Sigstore und traditionelle Signiermethoden unterstützt und die Skalierbarkeit von ML-Modellen handhaben kann. Das Ziel ist es, die Modell-Signierung auf Datensätze und andere ML-bezogene Artefakte auszuweiten und tamper-sichere Metadaten-Records zu erstellen, die automatisierte Reaktionen auf Vorfälle ermöglichen. Das Projekt zielt darauf ab, ein Vertrauensökosystem für ML zu schaffen und lädt die Open-Source-Community ein, sich anzuschließen und die Zukunft des Projekts mitzugestalten.