EU AI Act의 음성 워터마킹 규정은 2026년 8월 2일부터 발효되며, AI 생성 오디오에 대해 기계 판독 가능한 표시를 의무화합니다. 이를 준수하지 않을 경우 최대 1,500만 유로 또는 전 세계 매출의 3%에 달하는 벌금이 부과될 수 있습니다. 텍스트 음성 변환 및 음성 복제 등 합성 오디오를 생성하는 AI 시스템 제공업체는 생성물이 인공적임을 감지할 수 있도록 해야 합니다. 이 법은 기술적으로 가능한 경우 효과적이고 상호 운용 가능하며 견고하고 신뢰할 수 있는 표시를 요구하는 결과 기반 접근 방식을 강조합니다. 들리지 않는 워터마크와 서명된 메타데이터를 결합한 계층적 접근 방식이 일반화되고 있습니다. 인간과 상호 작용하는 AI 시스템은 AI임을 공개해야 하며, 딥페이크는 공개가 필요합니다. 유럽 위원회는 준수를 위한 지침과 행동 강령을 제공했으며, 많은 기업이 이에 서명했습니다. 기존 시스템은 워터마킹 준수를 위해 2026년 12월 2일까지 유예 기간이 있습니다. 면제는 오디오를 실질적으로 변경하지 않는 보조 편집 기능으로 제한됩니다. TTS 제공업체는 워터마킹을 위해 Google의 SynthID 및 Meta의 AudioSeal과 같은 방법을 채택하고 있습니다. OpenAI의 API는 내장된 신호를 확인할 수 있지만, 표시되지 않거나 제거된 콘텐츠는 감지할 수 없습니다. 개발자는 오디오 출력을 감사하고, 파이프라인을 통해 워터마크 생존을 확인하고, 공개 의무를 관리하며, 생성 기록을 유지해야 합니다. 이러한 규정을 무시하는 것은 상당한 재정적 및 평판상의 위험을 초래합니다.