Python 编程栈:2. 究竟是谁在做工作,是模型还是软件... 笔记

Python 编程栈:2. 究竟是谁在做工作,是模型还是软件?

该对话探讨了 AI 智能体的组成部分,区分了大语言模型(LLM)与其周边软件。当 AI 整理照片时,LLM 并不直接访问计算机上的文件;相反,它生成请求。该请求由“框架”(harness)接收,框架是管理智能体运行的软件。随后,框架利用特定的“工具”执行诸如列出文件或读取元数据等操作。框架将这些工具的结果返回给 LLM,使其能够处理信息并决定下一步行动。LLM 通过结构化的“工具调用”(tool calls)向框架传达其请求,框架据此解释并调用正确的工具。这种交互形成了一个智能体循环,其中模型、框架和工具反复交换信息。将模型比作“大脑”、工具比作“肌肉”、框架比作“协调者”的类比有助于阐明它们各自的角色。然而,框架还负责执行规则与限制,例如防止非预期的文件修改。该过程在模型生成最终响应,或因错误及限制导致框架终止操作时结束。智能体还必须验证任务(如将文件复制到特定文件夹)是否已准确完成,且未对原始文件造成任何更改。
CdXz5zHNQW_eyYaVLyYu6.jpeg