Human-in-the-loop 按字面意思译为 人在回路, 或 人在循环中, 还是第一种译法更雅一些。从行为上来说 人工介入 更能表达它的意图，而 人在回路 听来让我回想起了 80 年代的一部电视连续剧《人在旅途》。人在回路 在 Agent 中很常见, 对于用户安全是必须的，只要是像 Claude, Copilot 那些编程 Agent 想要调用 bash, 或创建文件时都会有提示让用户介入, 比如在 Claude 控制台中让它创建一个 hello.txt 文件，立即就是下面熟悉的提示

1 Do you want to create hello.txt?
2╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌╌
3 ❯ 1. Yes
4   2. Yes, allow all edits during this session (shift+tab)
5   3. No
6
7 Esc to cancel · Tab to amend

也就是 Agent 在碰到某些敏感性的工具调用之前会停下来让人 Review 作出决策，是准许，拒绝，还是进一步编辑工具调用(更改工具名称或参数)。 LangChain 通过中间件和 interrupt 把控制权从 agent.invoke() 中让出来，人工决策后，再用 agent.invoke() 向模型发送 resume 的消息，多个 agent.invoke() 都处在同一个会话当中，所以我们需要用到短期记忆。

LangChain 1.0 于 2025 年 10 月 22 日发布，这是一个里程碑式的版本，听说在 0.x 要创建一个 agent 很麻烦， 那时候内部是真正的 链， 1.0 后虽然还叫 LangChain, 实际上内部实现是图(LangGraph), 用 create_agent() 创建 agent. 从数据结构来看，图 比 链表 更能直观的表达 Agent 与模型及工具的交互场景。很庆幸在 LangChain 1.0 之后才开始学习这个框架，不用体验 LangChain 0.x 的痛苦。

大概对 LangChain 的 tools 有些许了解之后，现在跳到 Model Context Protocol(MCP) 协议这一章，本人对 MCP 的初步理解是相对于工具， MCP 是一个远程(跨进程)的工具。为了方便的使用互联网上的各种资源，MCP 在实现一个完备的 Agent 也是一个非常重要的工具。

Model Context Protocol (MCP) 是 Anthropic 推出并开放的协议，用于构建 Agent 与外部资源的交互,下面会与工具对照着学习它. 以前也写过一篇关于 MCP 的文章，今天从不同的角度再次强化对 MCP 的理解。

在 LangChain 中要使用 MCP 需安装 langchain-mcp-adapters 依赖，然后使用它的 MultiServerMCPClient, 它是无状态的。要创建自己的 MCP 服务，使用 FastMCP 库。

学习了 Agent, Models 之后直接跳到 Short Term Memory 节，短期记忆能让我们更好的理解与模型的交互, 为什么与机器人越聊到最后它可能就 偏离主题，智商降低了。前面所用的手动拼接整个会话历史和使用 InMemorySaver 就是模型的短期记忆，如果会话历史过长，超过上下文件大小， 导致上下文丢失或错误，这就需要对会话进行压缩，压缩做了些什么事情呢，这就是本文要学习的内容。

之前写过一篇 LangChain - 关于会话记忆, 也是关于短期记忆的，这里重新阅读官方的文档，也是加以巩固。

模型是没有记忆的，所有你和模型说过的话你都必须记住，记忆就是让 Agent 记住你与模型的会话历史，短期记忆特指单一会话的历史。短期记忆与长期记忆这两 个概念总会让人有所迷惑的，简单的可以这么理解，比如使用 ChatGPT 时

1. 在同一个 Chat 中的对话就是短期记忆，即便你一年后再回到那个没有删的 Chat 中接着聊，也是短期记忆
2. 而长期记忆是跨会话的，比如在某个 Chat 中说过喜欢猪头饭，再点 New chat 打开一个新的 Chat，问今天吃什么，模型直接建议吃猪头饭，这就是长期记忆

还是那句话，大语言模型是没有记忆的, 和大语言模型对话就像和一个失忆症的人对话, 每次问话都必需把之前的对话复述一遍, 过程相当于:

学习了一段时间 LangChain，了解到用 create_agent() 创建的 Agent 的用法，以及底层 init_chat_model() 与模型的交互，决定以古法的方式 亲自创建一个 AI Agent, 要实现的功能是把原来用 Apache Airflow 做的一个从猫收留网站上查看有没有新进入收容所的猫，有则发邮件通知。换成 AI Agent 的话，功能列表是

1. 使用 AWS Bedrock 上的一个 Claude 模型
2. 用 Telegram 创建一个 Bot, 配置好 Bot Token 与 Chat ID
3. 工具方面，提供读文件，写文件，和更新文件的函数，web_fetch, 还有向 Telegram 发送消息的函数
4. AI Agent 从一个特定的网页上收集猫的信息，借助文件判定是否是新的
5. 发现新的猫，向 Telegram Bot 发送通知, 每只新猫一个消息，消息包含猫的基本信息，图片与链接

在上一篇 LangChain 核心组件之 Agent 有介绍到模型。模型其实是一个很粗泛的概念，放到任何领域都有立身之地， 比如各种建模，经济增长模型，Covid 感染模型等。但来到 AI 时代，会不会只要有人一开口说模型便默认为大语言模型(LLM)呢？而如今的 LLM 模型又基本就是 Transformer 模型，所谓的模型开源只是开放了一堆的 Token 的权重值，不同源软件开源，拿过来能随意定制使用。

大语言模型更像是人类知识的压缩包，可用它生成多种形式的内容，比如文本、图像、音频等。模型在生成内容的过程中，还支持下面几种形式的交互

1. 工具调用：可以引导模型通知 Agent 调用工具，如计算，互联网搜索，API 调用等
2. 结构化输出：模型本身就支持按照约定的规则格式化输出内容
3. 多模态：不仅能生成文本，还能生成图像、音视频等
4. 推理：模型可以进行推理，如数学计算、逻辑推理等，就是经常看到的 Thinking 的过程

最初在 Llama3 刚发布的年代，在使用 MCP 时还要查哪个模型支不支持工具使用，现在基本上以上特性是模型的标配了。现在几大商业模型就是 OpenAI 的 GPT， Anthropic 的 Claude，Google 的 Gemini, Musk 的 Grok 在下一梯队。国外的模型选择很清晰，反而中国的大语言模型众多， 仿佛不出个自己的大语言模型就像个互联网公司。

经过了一番 LangChain 的学习之后，我们开始跟随 LangChain 的官方文档系统性的学习。首先是它的核心组件，包括 Agents, Models, Messages, Tools, Short-term memory, Streaming, 和 Structured output. 现在从 Agents 开始。

创建 Agent

create_agent 是可用于正式产品中创建 Agent 的函数， 它返回的是一个 langgraph.graph.state.CompiledStateGraph 对象，而非一个 XxxAgent 样的东西。所以它创建的是一个状态图，图吗，就有顶点和边，Agent 就是这个图中移动，比如在 Model 和 Tools 之间往复, 或在中间加入的互动的(Human-in-the-loop).

LangGraph 把与模型，工具，以及人的交互做成一个图还是很表意的，下面是来源于官方文档的表示 Agent 的状态图。

所谓大语言模型的记忆功能，就是要在说当前这句话的时候让 LLM 知道整个对话的上下文。比如说与人对话

1. A: 给我讲个笑话
2. B: 有一天，有人问你：“你喜欢什么？”, 你回答：“我喜欢一切……只要不叫‘考试’。” 😄 够快，够短，有没有让你会心一笑？
3. A: 再来一个
4. B: 问：海里面最怕什么？ 答：脱水。

#3 当 A 问 "再来一个" 时候，B 因为有基于前面对话的上下文，所以能理解 "再来一个" 来一个笑话，而不是一个妞什么的，也记得曾经讲过一个笑话，而不 至于重复之前的笑话。如果突然有一天 A 对 B 突兀的说 "再来一个"，B 就会有些傻眼了，AI 在没有上下文的情况也是一样。

不过人与人之间对话的上下文是互相的，两方的共同记忆，双方都是建立在你知道我问了什么，你自己回复了什么的基础之上的。而于大语言模型的对话时， 大语言模型是没有记忆的，就好像和一个失忆的人对话一样，记忆责任全在一方，你和 LLM 每一次对话时都要不停的唠叨：

我曾经问了这个，你回复过那个，问过这个，你回复过那个......，我现在问一个问题，请基于我们的会话历史作出回答

和机器对话就是这么傻傻的，当对话历史过大的时候因为上下文大小限制的原因，就必须压缩总结之前的对话内容，压缩后总会失真，这就是为什么大语言模型会 不断降智的一个原因。

上一篇 LangChain 1.2 入门学习 中使用了特定的 ChatOllama/ChatGoogleGenerativeAI, 或统一的 init_chat_model 方式创建一个与 LLM 的交互程序，并以此基础实现了一个简单的 AI Agent, 工具调用是根据响应中消息格式手工调用的， 会话处理是自己拼接全部对话历史。现在知名的 LLM 都支持推理，所以顺代也用灰色字体显示了 'thinking' 的文本内容。

本文直接学习官方 Quickstart 中的一个 AI Agent, 该 Agent 实现了以下功能

1. 有了上下文，会记忆会话历史
2. 支持调用多个工具
3. 提供结构化一致性的响应数据格式
4. 能通过上下文处理用户特定的信息
5. 跨交互维护会话状态

AI 界日新月异，新名词层出不穷，像 Prompt Engineering, Context Engineering, 到如今又来了 Harness Engineering. 现在最怕两个人出来搞事情， Dario Amodei 和 Andrej Karpathy, 前者宣称 AI 可替代一切，人变得一文不值，后者专造名词。在大语言模型时代，搞机器学习了，专注模型的不用多少人， 多数人还能在 AI 上蹭热点的话就剩下 AI Agent 的这个赛道了，其余就是应用了，例如 Vibe Coding，或更贴近具体业务的应用。

像各大 AI 编程工具，如 Codex, Claude Code, OpenCode, GitHub Copilot， Gemini, Cursor, Antigravity, Trae 本质上都是在比拼各家 AI Agent 的能力。最近火的那个 OpenClaw 也是一个学习 AI Agent 的好范例。

而 AI Agent 方面的框架首当其冲就是 LangChain, 它提供了 Python 和 TypeScript 两种语言的支持，网上有人做了个 langchain4j, 这种跟随项目恐怕也坚持不了多久。其他 AI Agent 框架有 [Pydantic AI]， 微软的 AutoGen, Crew AI, AWS Strands Agents. 各大语言模型 OpenAI, Anthropic, Gemini 都有自己的 SDK, 但要开发一个 Multi Agent 的系统更需要一个第三方的 AI Agent 框架来整合各家模型的能力，提供统一的接口和工具，这个框架就是 LangChain.