谷歌威胁情报团队正积极监控间接提示注入（Indirect Prompt Injection, IPI）攻击，这是人工智能系统面临的主要安全威胁之一。他们利用 Common Crawl（一个大型网络存档）扫描公共网页，调查了现实中 IPI 攻击的实际利用情况，旨在识别威胁行为者如何使用 IPI。该团队开发了一种多阶段方法，包括模式匹配、使用 Gemini 模型进行分类以及人工审查，以过滤误报。分析结果显示，存在多种试图操纵人工智能的行为，包括无害的恶作剧、搜索引擎优化（SEO）以及恶意活动。恶意尝试涉及数据窃取和破坏，但整体而言技术较为初级。研究结果表明，IPI 攻击的复杂程度目前较低但呈上升趋势，恶意尝试数量增加了 32%。谷歌预计未来 IPI 攻击的规模和复杂程度都将进一步提升。为此，谷歌正加大对模型加固和红队演练的投入，并通过漏洞奖励计划引入外部研究人员参与。凭借实时数据处理能力，谷歌能够识别并中和相关威胁。此外，谷歌还提供了资源，支持进一步探索其在生成式人工智能安全领域的研究成果。

Google 正在加强 Pixel 设备的安全性，重点针对调制解调器漏洞。该项目致力于将内存安全的 Rust DNS 解析器集成到调制解调器固件中，旨在缓解内存安全漏洞并缩小攻击面。团队选用了 Rust 库"hickory-proto"，并启用了"no_std"支持以兼容裸机环境。为此，团队对该库及其依赖项进行了适配，使其能够在裸机环境中运行。Rust 代码被编译为静态库，并集成到现有的构建系统中。在链接过程中出现的弱符号性能问题也得到了解决。团队通过 FFI（外部函数接口）将 Rust API 暴露给 C++，用于 DNS 解析和回调处理。此外，团队采用"cargo-gnaw"构建第三方 crate，提升了可维护性。这是将内存安全代码更广泛地应用于蜂窝基带的第一步。引入 Rust 进行 DNS 解析将提升未来 Pixel 设备的安全态势。该项目为未来的安全升级奠定了坚实基础。

Chrome 正在推出设备绑定会话凭证（DBSC），以应对会话窃取这一重大威胁——恶意软件通过窃取会话 Cookie 实施攻击。该新功能现已面向 Windows 用户开放，适用于 Chrome 146 版本，并即将扩展至 macOS。DBSC 通过加密方式将认证会话与特定设备绑定，实现了从被动检测到主动预防的转变。它利用硬件安全模块（如 TPM 和安全飞地）生成不可导出的公钥/私钥对。网站服务器在颁发短生命周期会话 Cookie 之前，可验证 Chrome 是否持有私钥。这确保任何被窃取的 Cookie 因缺少私钥而对攻击者无效。DBSC 将用户隐私作为核心原则，防止跨会话关联并避免设备指纹化。该协议由 W3C 作为开放网络标准制定，并得到了微软及行业合作伙伴的协作支持。通过起源试验以及与 Okta 等平台合作，DBSC 的有效性已针对多样化的网络需求得到优化。未来的开发将聚焦于加强联邦身份安全、提升注册能力，并探索基于软件的密钥方案以支持更广泛的设备。

Android 的受保护 KVM (pKVM) hypervisor 已获得 SESIP Level 5 认证，这是开源安全领域的一项重要里程碑。此认证使 pKVM 成为消费电子产品中首个达到如此高安全级别（high assurance level）的软件安全系统。这项成就证明了 pKVM 能够安全地支持先进的 Android 功能，包括处理敏感个人数据的设备端 AI 处理。由Dekra（一家网络安全认证实验室）根据 TrustCB SESIP 计划进行了严格评估。获得 SESIP Level 5 意味着 pKVM 已通过 ISO 15408 标准下最高级别的漏洞分析和渗透测试。这表明其能够抵御复杂且资源充足的攻击者。获得认证的 pKVM 作为 Android 不断发展的安全策略的基础要素。通过提供统一、开源且可验证的安全基础，它解决了行业内可信执行环境 (TEE) 认证不一致的问题。Android 设备制造商将很快被强制要求使用符合此安全标准的隔离技术来处理关键设备功能。这项涉及 Linux 和 KVM 社区以及 Google 工程团队的合作努力，预示着高安全移动技术新时代的到来。

Sec-Gemini 团队宣布发布 Sec-Gemini v1，这是一个实验性 AI 模型，旨在推进网络安全 AI 的前沿发展。该模型旨在通过利用 AI 驱动的网络安全工作流程，帮助防御者抵御网络威胁。目前，防御者面临着防御所有网络威胁的艰巨任务，而攻击者只需找到并利用一个漏洞即可。AI 驱动的网络安全工作流程有潜力通过增强网络安全专业人员的力量，将平衡重新倾向于防御者。Sec-Gemini v1 结合了先进的功能以及近乎实时的网络安全知识和工具，从而在关键的网络安全工作流程中实现了卓越的性能。该模型在关键的网络安全基准测试中表现优于其他模型，包括事件根本原因分析、威胁分析和漏洞影响理解。Sec-Gemini v1 免费提供给选定的组织、机构、专业人士和非政府组织，用于研究目的，以促进整个网络安全社区的合作。该模型已与 Google 威胁情报、OSV 和其他关键数据源集成，使其能够为关键的网络安全问题提供全面的答案。Sec-Gemini v1 在 CTI-MCQ 和 CTI-根本原因映射基准测试中展示了其能力，其表现优于其他模型，分别提高了至少 11% 和 10.5%。Sec-Gemini 团队邀请感兴趣的各方通过提供的表格申请早期访问 Sec-Gemini v1，从而合作推进 AI 网络安全前沿发展。

谷歌开源安全团队与英伟达和 HiddenLayer 合作，作为开源安全基金会的一部分，推出了首个稳定版本的模型签名库。该库允许用户验证应用程序使用的模型是否与开发者创建的模型相同，使用类似于 Sigstore 的数字签名。大型语言模型 (LLM) 的快速发展为新的安全威胁打开了大门，包括模型和数据投毒、提示注入和提示规避。ML 供应链流程容易受到篡改，因为模型是不可检查的权重集合，攻击者可以对其进行更改。为了实现对模型的信任，用户需要验证其完整性和来源，这可以通过密码签名来完成。ML 供应链涉及三个阶段：训练、微调和嵌入到应用程序中，每个阶段由不同的团队或公司处理，这为篡改创造了机会。模型签名可以通过验证模型在每个阶段的完整性来防止篡改。发布的模型签名库是一个 Python 包，支持 Sigstore 和传统的签名方法，并且可以处理 ML 模型的规模。目标是扩展模型签名以包括数据集和其他与 ML 相关的工件，并构建防篡改的元数据记录，以实现事件响应的自动化。该项目旨在为 ML 创建一个信任生态系统，并邀请开源社区加入并塑造其未来。