RSS DEV コミュニティ
フォロー
AIを秘密漏洩せずに使用する：AI支援開発のための脅威モデル
AIプロンプトへのシークレットの貼り付けは、ログやトレーニングデータでの永続的な露出の可能性を伴う公開共有に似ています。著者は、AIの使用において、単なるカジュアルなものではなく、脅威モデルアプローチを強調しています。プロンプトは、送信時にプライベートな会話のままではありません。無料のAIティアは、モデル改善のためにデータを保持することが多いですが、有料ティアは契約上の保証を提供しますが、絶対的なセキュリティではありません。データ漏洩は、貼り付けられたもの、ツールが自動的に添付するもの、またはモデルが出力するものから発生する可能性があります。AIプロバイダーは、信頼できるが検証不可能なサードパーティと見なされており、内部プロセスの監査は不可能です。リスクのある資産には、APIキー、データベース認証情報、および機密性の高い顧客情報が含まれます。プロンプトチャネルは、本番ネットワーク呼び出しと同様に、信頼できないエグレスとして扱われるべきです。送信禁止リストには、ライブ認証情報、機密性の高い設定ファイル、および独自のソースコードが含まれています。プレースホルダーでシークレットをマスキングすることは、送信を控えることの実行可能な代替手段です。コンテキストの衛生状態は、無視ファイルや事前プロンプトスキャンによる漏洩の構造的な防止を含みます。シークレットをソースで暗号化しておくという原則は、平文での露出を防ぎます。データの機密性をAIティアに合わせ、独自の作業には有料ティア、規制されたデータにはローカルモデルを使用することが推奨されます。トレーニングなしの保証があっても、ゼロトラストの姿勢が推奨され、コンテキストを最小限に抑え、AIの出力を検証します。AI無視ファイルの作成、シークレットのスキャン、および認証情報のマスキングのような習慣は、大幅な時間のコストなしにセキュリティを向上させます。
