EU AI Act のボイスウォーターマーキング規則は、2026年8月2日から施行され、AI生成音声の機械可読マーキングを義務付けています。遵守しない場合、最大1500万ユーロまたはグローバル売上高の3%の罰金が科されるリスクがあります。テキスト読み上げやボイスクローンを含む合成音声を生成するAIシステムのプロバイダーは、その出力が人工的であると検出可能であることを保証しなければなりません。この法律は、技術的に可能な限り、効果的で、相互運用可能で、堅牢で、信頼性の高いマーキングを要求する、結果ベースのアプローチを強調しています。不可聴ウォーターマークと署名付きメタデータを組み合わせた多層的なアプローチが一般的になりつつあります。人間と対話するAIシステムも、AIであることを開示する必要があり、ディープフェイクは開示が必要です。欧州委員会は、コンプライアンスのためのガイドラインと行動規範を提供しており、多くの企業が署名しています。既存のシステムには、マーキングコンプライアンスのために2026年12月2日までの猶予期間があります。免除は、音声を実質的に変更しない支援編集機能に限定されます。TTSプロバイダーは、ウォーターマーキングのためにGoogleのSynthIDやMetaのAudioSealのような方法を採用しています。OpenAIのAPIは、埋め込まれた信号の検証を可能にしますが、マークされていないコンテンツや削除されたコンテンツを検出することはできません。開発者は、音声出力を監査し、パイプライン全体でのウォーターマークの生存を確認し、開示義務を管理し、生成記録を維持する必要があります。これらの規制を無視することは、重大な財務的および評判上のリスクを伴います。