RSS DEV 社区
关注
我在 16 岁时构建了一个完全本地的 AI 助手——无需云端，无需 API 密钥，运行于你的 GPU 上。
来自印度浦那的 16 岁少年 Shriisoot 开发了 O-AI，一款完全本地化的桌面 AI 助手。由于对云端助手损害隐私感到不满，他打造 O-AI 以模仿《钢铁侠》中的 JARVIS，优先保障个人与私密交互。O-AI 利用 llama.cpp 或 Ollama 在本地运行大型语言模型，无需网络连接或外部 API 密钥。该助手具备自学习核心，能够记忆对话事实，并拥有用于个性化模型训练的微调流程。助手支持通过本地 Whisper 实现英语、印地语和马拉地语的语音控制，并以用户所使用的语言进行回应。O-AI 提供多种模式，包括类 JARVIS 的界面、PC 自动化以及动画桌面宠物。它具备超过 30 种自动化能力，涵盖打开应用程序、网络搜索和媒体控制等任务。多步代理系统支持复杂任务的规划、执行与验证，并辅以多种步骤类型。技术栈包括后端使用 Python 与 Flask，前端采用 Electron 与原生 JavaScript。主要挑战在于实现代理任务的成果验证以及构建鲁棒的内容验证机制以防止错误。
