Perplexity 与 Nvidia 合作推出便携式电脑,这是一款完全本地运行的 AI 代理,零 token 成本。
Perplexity 推出了 Portable Computer,这是其 AI 代理平台的本地化版本,旨在运行在用户拥有的硬件上,首批支持 NVIDIA DGX Spark 及搭载 RTX GPU 的 Linux 机器。该举措旨在将大量 AI 代理工作负载从云端迁移至本地设备,确保用户数据和工作内容保持私密。该应用完整复刻了云端版本中的代理框架与推理能力,为文档审查和数据分析等任务提供流畅体验。对 NVIDIA 而言,此次发布标志着其对本地 AI 日益增长的实用性及其所需硬件的战略押注。Portable Computer 将整个本地 AI 栈(包括模型和工具)打包为单一、用户友好的应用程序,消除了用户手动组装和配置复杂本地 AI 系统的需要。演示表明,该系统能够在无需依赖云端的情况下,在本地处理敏感财务文档,且计费额度显示零使用量。该平台还支持混合操作,允许将本地分析结果推送至 Slack 等云服务。Perplexity 强调,协同设计模型与代理框架对于实现高效的本地 AI 至关重要,因为小型模型难以在通用框架中有效运行。该产品旨在简化在本地运行复杂 AI 代理的流程,既面向个人用户,也面向寻求更高控制权和隐私性的企业。