WorkBuddy省钱秘笈
老样子,在分享实操方法前,我习惯先理清底层逻辑。这不仅能照顾到非技术背景的用户,对我自己也是一种锻炼——将晦涩的专业知识讲得通俗易懂,本身就是一件具有挑战的事。 计费原理 WorkBuddy 是怎么计费的? WorkBuddy 采用**积分(Credits)**制进行计费。积分本质上是一种计量单位,用于衡量 AI 在执行任务过程中消耗的计算资源。 积分的消耗主要由以下两部分构成: 输入 Token:你发送给 AI 的内容(即提问请求 + 对话历史消息 + 附带的文件内容等)。 输出 Token:AI 经过思考后生成的回复内容。 同时,整体的积分消耗还受以下两个核心因素影响: 使用的模型:不同模型单价各不相同。旗舰级模型能力更强,但 Token 单价更贵,消耗的积分也相应更多。 任务复杂度:简单问答消耗极少;而复杂的任务(如超长文档分析、工具调用等)消耗会显著增加。 既然积分的消耗与 Token 息息相关,那我们接下来就必须要弄明白:到底什么是 Token? 什么是 Token? Token 是大模型的“最小信息处理单元”,它不能简单等同于字数或单词数。根据语言的差异,大致的换算经验是: 一个汉字通常 ≈ 1 Token。 在英文中,1 Token ≈ 0.75 个单词。 各类标点符号、空格及代码格式也会占用 Token。 其实你没必要记住这些换算比例。因为各家大模型使用的底层词表(Vocabulary)不同,导致最终的 Token 统计结果也会有所差异。 对于非技术用户,没必要深究 Token 的底层逻辑,只需建立一个直观的概念即可:字符越长,消耗的 Token 就越多,两者基本成正比。 明白了 Token 和字符长短的关系后,有的朋友可能会疑惑:明明每次提问文字都不多,为什么越聊到后面消耗的 Token 却越来越多?这就不得不介绍一个概念:“上下文窗口”。 理解上下文窗口 上下文窗口(Context Window) 是指大模型在单次交互中,能“装下”并处理的最大 Token 数量。 很多人容易把 AI 客户端(如 WorkBuddy)和大模型看作一个具备长期记忆的整体。但为了方便理解,今天我们需要将它们拆解来看: sequenceDiagram participant User as 用户 participant Client as WorkBuddy客户端 participant LLM as 云端大模型 User->>Client: 1. 提出新问题 Note over Client: 客户端(无大脑,负责记忆):<br/>调取本地保存的对话内历史消息 Client->>LLM: 2. 整体打包发送:历史消息 + 新问题 + 工具说明 Note over LLM: 大模型(但无持久记忆):<br/>接收数据(若超出上下文窗口限制则截断或报错) LLM-->>Client: 3. 经过思考,返回生成的回复 Note over Client: 客户端将新产生的对话更新到本地记录中 Client-->>User: 4. 向用户展示最终回复 WorkBuddy(客户端):具备本地执行能力的 AI 桌面工具。它负责保存你的对话历史和任务记录,但本身并没有“大脑”。它需要将这些信息一轮又一轮地打包发送给大模型,让大模型来做决策。 大模型(云端大脑):本身无法持久记住你们的对话记录,且面临“上下文窗口”限制(如 128K、200K 甚至 1M 的窗口上限)。客户端每次发送的内容不能超过它的窗口上限,否则它将无法处理。 客户端和大模型是通过 API 进行交互的。我们通过一段常规的 API 数据结构演示,来看看客户端发送给大模型的消息到底长什么样: ...