구글 오픈소스 보안 팀은 엔비디아와 HiddenLayer와의 파트너십을 통해 오픈소스 보안 재단의 일환으로 모델 서명 라이브러리의 첫 번째 안정적인 버전을 출시했습니다. 이 라이브러리는 Sigstore와 같은 디지털 서명을 사용하여 애플리케이션에서 사용되는 모델이 개발자가 생성한 동일한 모델인지 사용자가 확인할 수 있도록 합니다. 대규모 언어 모델(LLM)의 빠른 발전은 모델 및 데이터 중독, 프롬프트 주입, 프롬프트 회피와 같은 새로운 보안 위협을 가져왔습니다. ML 공급망 프로세스는 공격자가 변경할 수 있는 검사할 수 없는 가중치의 모음인 모델이므로 조작에 취약합니다. 모델의 신뢰성을 얻으려면 사용자는 모델의 무결성과 출처를 확인해야 하며, 이를 암호화 서명으로 수행할 수 있습니다. ML 공급망에는 훈련, 미세 조정 및 애플리케이션에 통합하는 세 단계가 있으며, 각 단계는 다른 팀이나 회사에서 처리하므로 조작할 수 있는 기회가 생깁니다. 모델 서명은 각 단계에서 모델의 무결성을 확인하여 조작을 방지할 수 있습니다. 출시된 모델 서명 라이브러리는 Sigstore 및 전통적인 서명 방법을 지원하는 Python 패키지이며 ML 모델의 규모를 처리할 수 있습니다. 목표는 모델 서명을 데이터셋 및 기타 ML 관련 아티팩트를 포함하도록 확장하고, 자동으로 사고 대응을 자동화할 수 있는 변조 방지 메타데이터 레코드를 구축하는 것입니다. 이 프로젝트는 ML을 위한 신뢰 생태계를 만들고, 오픈소스 커뮤니티에 참여하여 미래를 형성하도록 초대합니다.