Google オープンソースセキュリティチームは、NVIDIA および HiddenLayer とパートナーシップを結んで、オープンソースセキュリティ財団の一環として、モデル署名ライブラリの初の安定版をリリースしました。このライブラリは、Sigstore などのデジタル署名を使用して、アプリケーションが使用するモデルの信頼性を検証することを可能にします。大規模言語モデルの急速な進化は、新しいセキュリティ脅威をもたらしています。例えば、モデルやデータの毒物混入、プロンプトインジェクション、プロンプト回避など。これらの脅威に対処するため、ML サプライチェーンのプロセス全体を検証する必要があります。ML サプライチェーンは、トレーニング、ファインチューニング、アプリケーションへの埋め込みの3つのステージで構成されており、各ステージで異なるチームや会社が関与しているため、改ざんの機会が生じます。モデル署名は、各ステージでモデルの整合性を検証することで、改ざんを防ぐことができます。リリースされたモデル署名ライブラリは、Python パッケージであり、Sigstore や伝統的な署名方法をサポートし、ML モデルのスケールに対応しています。将来的には、データセットや他の ML 関連アーティファクトにもモデル署名を拡張し、自動化されたインシデントレスポンスのためのタンパープルーフなメタデータレコードを構築することを目指しています。このプロジェクトは、ML の信頼エコシステムを構築することを目指し、オープンソースコミュニティに参加して将来を形づくることを呼びかけている。