RSS DEV 社区
关注
在不泄露机密的前提下使用 AI：AI 辅助开发的安全威胁模型
将秘密粘贴到 AI 提示中类似于公开分享，存在在日志和训练数据中永久暴露的风险。作者强调采用威胁模型方法来使用 AI，而不仅仅是随意使用。提示在提交后不会保持私密对话。免费 AI 层级通常保留数据以改进模型，而付费层级虽提供合同保障，但无法确保绝对安全。数据泄露可能源于粘贴的内容、工具自动附加的内容，或模型生成的内容。AI 提供商被视为可信但不可验证的第三方，使得审计其内部流程变得不可能。面临风险的资产包括 API 密钥、数据库凭据和敏感客户信息。提示通道应被视为不受信任的出站通道，类似于生产网络调用。文中提供了一份“禁止发送”清单，包括实时凭据、敏感配置文件和专有源代码。使用占位符对秘密进行掩码是替代不发送它们的可行方案。上下文卫生涉及通过忽略文件和提示前扫描实现结构化的防泄露措施。在源头保持秘密加密的原则可防止明文暴露。建议根据数据敏感度匹配 AI 层级，专有工作使用付费层级，受监管数据使用本地模型。即使在没有训练保证的情况下，也建议采取零信任姿态，最小化上下文并验证 AI 输出。诸如使用 AI 忽略文件、扫描秘密以及掩码凭据等习惯，可在不显著增加时间成本的前提下提升安全性。
