本文面向非技术用户,笔者尽自己最大可能表达得通俗易懂。

从 Chatbot 到 Agent

从 2022 年 11 月 OpenAI 首次向公众开放 ChatGPT 到今天,LLM(大语言模型)和相关生态的发展可谓日新月异。

最开始的时候,人们只是把它当成一个聊天机器人,用来写文案、解答问题、生成代码和翻译等。但 LLM 发展到了今天,情况已经彻底不同。我们已经从单纯的 Chatbot 时代,进入 Agent 时代。

如果你知道什么是 Agent, 请跳过这部分。

这个 Agent,国内翻译过来叫做智能体。我感觉这个翻译有点玄乎,所以特意去搜了一下其他中文区(港台)的人是怎么翻译的,人们经常直接使用英文原词 Agent,或者称之为“代理”。我认为直接叫 Agent 更让人容易理解,因为它本质上就是一个大模型和其他系统的代理,所以在本文中我们就直接叫 Agent 。

那我们经常听到大模型Agent,它们到底是什么关系?其实一句话就能说清楚:大模型是“大脑”,而 Agent 是它的“手”。

​大模型本质上是一个纯粹的“输入输出模型”。它的知识在训练完成的那一刻就被冻结了,它没有眼睛,也没有触角,无法主动连接这个世界。你给它什么输入,它就给你什么输出。

Agent 就像是一个中间代理。它可以去浏览网页、获取最新的新闻、读取你本地的文件、甚至调用各种外部工具。它把抓取到的最新信息,重新打包,源源不断地“喂”给大模型。​大模型负责思考,Agent 负责连接。

  graph TD
    User((🧑‍💻 用户)) -->|发指令| Agent{🤖 Agent}
    Agent -->|调动| Tools[🌐 网页 / 📁 文件 / 🔧 工具]
    Tools -->|返回真实世界信息| Agent
    Agent -->|整理打包并提交| LLM((🧠 大模型))
    LLM -->|思考并解答| Agent
    Agent -->|把大模型的答案交付给| User

    classDef user fill:#e1f5fe,stroke:#03a9f4,stroke-width:2px;
    classDef agent fill:#fff9c4,stroke:#fbc02d,stroke-width:2px;
    classDef llm fill:#fce4ec,stroke:#f06292,stroke-width:2px;
    class User user;
    class Agent agent;
    class LLM llm;

我们举个例子,在 ChatGPT 刚发布的时候,你问它今天有什么新闻?它会跟你说:“对不起,我的知识截止到某年某月某日”。那今天我们去问AI,今天有什么新闻?它能够回答了,因为它现在可以通过 Agent 去查询新闻网站上面的讯息。

我们需要知识库解决什么问题?

正如前面所说,大模型的知识在训练完成的那一刻就被冻结了,它的训练语料主要来自于公共领域,私有领域的数据它是没有的,比如企业的内部文档、项目经验、决策记录,个人的阅读日志、思考笔记、工作心得等。

知识库主要用于填补大模型在私有领域知识上的空白,让大模型更懂你。

  graph LR
    AI[🤖 大模型] -->|非常了解| Public(🌐 公共知识: 互联网百科、代码、通用常识)
    AI -.->|无法触达| Private(🔒 私有知识: 你的笔记、企业文档、独家经验)
    
    KB[📁 个人知识库] ===>|打通并喂给大模型| Private

比如:

  • 有了企业内部的知识库,你可以做智能AI客服,让它回答客户关于你们企业某个具体产品的参数问题。
  • 有了个人知识库,你可以维护自己的专业知识,让大模型基于你的专业知识来生成文案。

主流知识库方案对比

知识库方案Agent 时代之前Agent 时代
传统 RAG (检索增强生成)专业主流,但门槛极高涉及向量数据库、文档切片(chunking)、检索调优等,普通团队难以维护。超大规模场景强大,但个人局限明显切片致错上下文、召回不稳定、维护成本高,对小规模知识库是“杀鸡用牛刀”。
Agent + Markdown 方案简单轻量,但能力不足依赖较基础的文本检索,检索效果略显简陋。劣势被彻底弥补,口碑反超借助 Agent 自主翻阅和思考的能力,在个人和中小团队场景中实现了体验的完美逆袭。
  flowchart LR
    subgraph traditional["🛑 传统方案太折腾(针对普通人)"]
        direction TB
        A1[文档] --> B1[切片Chunking]
        B1 --> C1[(向量数据库)]
        C1 --> D1[配置检索]
        D1 --> E1[大模型]
    end
    
    subgraph new_way["✅ Markdown方案真简单"]
        direction TB
        A2[Markdown文件夹] ==>|Agent自动阅读和筛选| E2[大模型]
    end
    
    traditional ~~~ new_way

为什么 Agent 让 Markdown “可行”?

  • 自主检索:大模型可以自主决定是否检索,检索什么,怎么检索
  • 工具调用:Agent 可以使用各种系统工具来查找、读取文件和过滤内容等
  • 维护成本低:简单、可控、易维护,只需要了解简单的 Markdown 语法。

最小可用的 Markdown 知识库方案

1. 存储和编辑

Markdown 本质上就是纯文本,它的文件后缀是 .md。它唯一的魔法在于,你用一些简单的符号(比如用 # 表示标题,用 - 表示列表),就能让文本变得井井有条。

对于非技术用户,你完全不需要去记这些符号,现在的笔记软件都支持“所见即所得”,你点一下加粗,它自己就加粗了。

在选择工具时,我一般遵循一个原则:数据必须留在自己手里(本地优先)。目前比较流行的工具有 Obsidian、Typora,还有更极客的 Logseq 。

当然,如果你想了解一些 Markdown 语法,传送门在此:https://www.markdownguide.org/cheat-sheet/

2. 同步和备份

因为 Markdown 文件极其轻量,所以任何普通的网盘都能轻松搞定同步。

苹果生态用户: 直接把文件夹放在 iCloud Drive 里。

Windows/多平台用户: 使用 OneDrive 或其他网盘。

极客工具: Git, Syncthing 。

3. 接入大模型

因为每个人所熟悉的工具不一样,这里不展开每个工具怎么使用。可能是 AnythingLLM、Cursor、Claude Code、OpenAI Codex、GitHub Copilot 等等。

现在的 Agent 客户端非常聪明,你只要在软件里把你的 Markdown 文件夹选上,或者告诉它文件夹的路径,它就会自己去翻阅里面的文件。

你的专属知识库运转流程总览:

  flowchart TD
    Step1("📝 1.写作与存储<br>Obsidian/Logseq/Typora") -->|保存文件| Step2("☁️ 2.备份与同步<br>网盘/iCloud/Git")
    Step2 -->|文件夹挂载| Step3("🤖 3.接入大模型<br>各类Agent客户端")
    
    style Step1 fill:#d4edda,stroke:#28a745,stroke-width:2px,color:#333;
    style Step2 fill:#cce5ff,stroke:#007bff,stroke-width:2px,color:#333;
    style Step3 fill:#f8d7da,stroke:#dc3545,stroke-width:2px,color:#333;