AI智能体发展史-从符号主义到LLM驱动的Agent
*AI Agent 发展时间线 — 从1950年代符号主义到2023年 LLM Agent 元年的技术演进*
AI 智能体发展史:从符号主义到 LLM 驱动的 Agent
1.1 理解演进的正确方式:问题驱动,而非技术罗列
AI Agent 发展时间线 — 从1950年代符号主义到2023年 LLM Agent 元年的技术演进
很多技术史的写法是按时间轴列清单:某年出现了什么,某年又出现了什么。这种写法记住容易,但理解难——不明白为什么会出现,也不知道为什么会消亡。
理解 AI Agent 发展史的正确方式是问题驱动:每一代技术是在解决什么问题?它的解法引入了什么新问题?下一代技术是如何针对性解决这个新问题的?
这条因果链很清晰:
第一代(符号主义)的问题:知识要人工写,写不完,写好了也脆弱。
第二代(联结主义+强化学习)的回答:让机器从数据里学知识,不靠人写规则。但它带来了新问题:每个任务单独训练,无法共享知识,泛化能力差。
第三代(预训练 LLM)的回答:在海量通用语料上预训练,一个模型理解整个世界,再迁移到具体任务。但它带来了新问题:会"幻觉",可能自信地编造事实。
LLM Agent 是当前最好的方案,但不是终点。理解这条因果链,才能理解为什么 Agent 现在这样设计,也能预判下一代技术会在哪里发力。
本章梳理 AI 智能体的技术演进脉络,从 1950 年代的符号主义到今天的 LLM Agent。
理解这条路线不是为了背历史,而是为了看清楚一件事:每一代技术都是在前一代的具体失败上建立的。知道前人碰了哪堵墙,才能理解今天的 LLM Agent 为什么这样设计,以及它自己又在哪里碰了新的墙。
同样是"帮我订一张去上海的机票",2005 年的自动化系统和今天的 AI Agent 处理方式完全不同。2005 年,需要打开携程,一步步填表单:出发城市、到达城市、日期、座位偏好,然后系统按照固定流程返回结果。那套系统本质上是个规则引擎,流程由人提前写死,系统只负责执行。
今天,对 AI 说"下周三去上海开会,帮我订机票,要早上到,预算 1000 以内",它会自己去查时刻表,对比价格,考虑偏好,甚至在发现没有合适航班时主动询问要不要考虑高铁。
背后是半个世纪的技术演进,每一步都是在解决上一步留下的问题。
1.2 第一代:符号主义(1950s-1980s)
1.2.1 核心思想
符号主义(Symbolism,认为智能来源于对符号的逻辑操作,把知识编写成规则让计算机推理)的核心思想是:智能的本质是符号操作。人类之所以聪明,是因为能用逻辑推理。那把这套推理规则写进计算机,计算机不就聪明了?
这个思路有其合理性:人类在写说明书、制定法律、设计流程图时,确实是在用符号和规则编码知识。如果能把这种知识完整地输入计算机,计算机就应该能像专家一样推理。
这一思路导向了专家系统的兴起——把某个领域专家的知识翻译成 IF-THEN 规则,让计算机来执行。
1.2.2 代表作:MYCIN
1970 年代,斯坦福大学开发了 MYCIN,专门诊断细菌性血液感染。系统包含 600 多条规则,比如:
IF 感染类型是菌血症
AND 病人是烧伤患者
THEN 致病菌是假单胞菌的概率是 0.4
测试结果出乎意料地好——MYCIN 的诊断准确率超过了非专业医生,在某些病例上甚至达到了传染病专家的水平。当时的 AI 研究者非常兴奋,觉得通用人工智能指日可待。
另一个例子是 SHRDLU(1970),它能在一个虚拟的积木世界里理解自然语言指令:"把红色方块放到绿色圆柱上面"——能理解,能执行,还能回答问题。
1.2.3 致命缺陷
这套路子很快碰壁,有三个根本性问题:
知识获取瓶颈。规则要人工写。让专家把自己的知识翻译成几百条 IF-THEN,本来就很难;随着领域扩展,规则数量呈指数增长,维护成本失控。
脆弱性。系统只能处理规则覆盖到的情况。遇到规则之外的输入,直接崩溃。SHRDLU 在积木世界里表现完美,但问它"窗外天气怎么样",它完全不知道该怎么办——因为积木世界没有窗户。
框架问题。真实世界是动态的。当移动了一个积木,系统怎么知道哪些事实还成立,哪些已经改变了?用规则来追踪状态变化,计算量爆炸。
1.3 第二代:联结主义 + 强化学习(1980s-2010s)
符号主义的三个致命缺陷——知识要人工写、遇到未知情况崩溃、无法追踪动态变化——指向了一个共同的根源:知识是由人编码进去的,而人的编码能力永远有限。
这是一个根本性的瓶颈:要在系统里加入一条新知识,必须找领域专家、翻译成规则、测试、部署。随着领域扩展,规则数量呈指数增长,这条路走不通。
第二代的回答是:换一种方式获取知识,不靠人写规则,靠机器从数据里学。如果能让机器自动从大量样本中发现规律,知识获取问题就迎刃而解。
1.3.1 联结主义的突破
联结主义(Connectionism,认为智能来源于神经元之间的连接模式,通过大量数据训练神经网络来学习)的核心思想是:知识不是规则,而是分布在神经网络的权重里。喂给它大量样本,通过反向传播调整权重,系统自己找到规律。
这一代最大的成就是感知能力。2012 年,AlexNet 在 ImageNet 图像分类比赛中把错误率从 26% 砍到 15%,把第二名甩开十几个百分点。这宣告了深度学习时代的到来。
1.3.2 强化学习的里程碑
与此同时,强化学习(Reinforcement Learning,简称 RL,一种让 AI 通过与环境交互、根据奖惩反馈不断调整行为来学习最优策略的方法)在另一个方向爆发。RL 的思路是:不告诉系统规则,只给它反馈(奖励或惩罚),让它通过与环境交互自己学出策略。
2016 年,DeepMind 的 AlphaGo 击败了世界围棋冠军李世石。这件事的意义不只是"机器赢了人",而是证明了强化学习可以在极其复杂的决策空间里找到超人级别的策略——没有任何人告诉它怎么下棋,它完全靠自己摸索出来的。
1.3.3 这一代的局限
感知能力强,但理解能力弱。
深度学习能识别猫,但不理解"猫是哺乳动物"这个关系。AlphaGo 会下围棋,但换个游戏就要从头训练。每个任务需要大量专用数据,模型之间无法共享知识,泛化能力很差。
1.4 第三代:预训练 + LLM(2018-至今)
第二代解决了"知识怎么来"的问题——从数据中学,而不是靠人编写。但两个新问题暴露出来:每个任务需要专用数据单独训练,模型之间无法共享知识;以及感知能力强,但高层语义理解弱——AlphaGo 会下围棋,但换个游戏就要从头来。
核心矛盾是:第二代的每个模型都是领域专家,但人类知识是相互交织的——理解一个概念往往需要调用另外十个领域的知识。要让 AI 在开放领域工作,必须建立跨领域的通用理解能力。
第三代的突破口是:在一个极其庞大的通用语料库上做预训练,让模型先学会"理解世界",再迁移到具体任务。人类在互联网上写的所有文字——书籍、文章、代码、对话——都成了训练数据,模型从中学到的不是某个领域的规则,而是语言和概念的通用理解能力。
1.4.1 核心突破:隐式的世界知识
2018 年,BERT(Bidirectional Encoder Representations from Transformers,双向 Transformer 编码器,一种通过双向阅读文本来理解语义的预训练语言模型)出现了。它在海量文本上做预训练,学会了语言的深层表示,然后在下游任务上做微调。NLP(Natural Language Processing,自然语言处理)各项基准几乎全线刷新。
但真正引发质变的是 GPT-3(2020)。1750 亿参数,在互联网规模的文本上训练。它出现了一个之前从没见过的能力:In-context learning(情境学习——只需在提示词里给几个示例,不用重新训练,模型就能理解新任务并照做)——给几个例子,不用微调,模型就能理解新任务并执行。
这背后发生了什么?预训练阶段,模型读了无数人类写的书、文章、代码、对话,它隐式地学到了大量世界知识和推理模式。这不是符号主义的显式规则,而是压缩进几百亿参数里的隐式理解。
1.4.2 ChatGPT:让模型"听话"
2022 年底,ChatGPT 发布,5 天达到 100 万用户,2 个月达到 1 亿用户。
技术上的关键是 RLHF(Reinforcement Learning from Human Feedback,人类反馈强化学习——让人类标注哪些回答更好,以此训练出一个奖励信号,再用强化学习引导模型生成更符合人类期望的输出)。GPT-3 虽然强大,但输出不稳定,有时候答非所问,有时候产生有害内容。RLHF 用人类的偏好来训练奖励模型,再用强化学习让语言模型的输出向人类偏好靠拢。结果是一个更"听话"、更实用的模型。
1.4.3 LLM Agent:用 LLM 做大脑
从 2023 年开始,研究者开始思考:LLM 不只是对话工具,它可以作为智能体的大脑。
经典的 LLM Agent 架构包含四个部分:
- LLM 大脑:理解目标、制定计划、决定下一步行动
- 工具调用:搜索网页、执行代码、调用 API、操作文件
- 记忆:短期记忆(对话上下文)+ 长期记忆(向量数据库)
- 规划:把复杂任务拆解成子任务,逐步执行
这和第一代的专家系统有本质区别:规则不是人写的,是从数据里涌现出来的;系统能处理预定义之外的情况;能在多个领域之间灵活迁移。
1.5 三代演进对比
| 第一代(符号主义) | 第二代(联结主义+RL) | 第三代(LLM Agent) | |
|---|---|---|---|
| 知识来源 | 人工编写规则 | 从数据中学习 | 预训练 + 涌现 |
| 通用性 | 极差(单领域) | 差(单任务) | 强(跨领域) |
| 处理不确定性 | 无法处理 | 部分能力 | 较强 |
| 可解释性 | 强(规则透明) | 弱(黑盒) | 弱(黑盒) |
| 主要局限 | 知识瓶颈、脆弱性 | 泛化差、数据饥渴 | 幻觉、推理不稳定 |
| 引入的新问题 | 框架问题 | 灾难性遗忘 | 事实性错误、可信度 |
1.6 时间线
1.7 理解这条路线的意义
把这条演进路线放在一起看,会发现一个规律:每一代技术解决了前一代的核心问题,同时引入了新的问题。
| 这一代解决了… | 但引入了… |
|---|---|
| 符号主义:如何表示和推理知识 | 知识怎么来?遇到未知情况怎么办? |
| 联结主义:知识从数据中学,不靠人写 | 如何泛化到新任务?如何理解高层语义? |
| 预训练 LLM:泛化能力强,语义理解深 | 会编造事实(幻觉),推理链不稳定 |
所以 LLM Agent 是当前最好的方案,但也有它自己的局限,在设计时必须正视:
- 幻觉:会编造不存在的事实,尤其在知识盲区
- 推理不稳定:复杂的多步推理容易中途出错
- 不可撤销的行动:一旦执行了删除文件、发送邮件,无法回头
- 长上下文遗忘:对话太长时容易丢失早期的关键信息
这不是 LLM 的 bug,而是这一代技术的系统性局限。第 11 篇会专门讨论如何在 Agent 设计中应对这些限制。
1.8 思考题
符号主义的"脆弱性"和 LLM 的"幻觉",本质上都是"处理不了预期之外的情况"吗?它们的原因有什么不同?
AlphaGo 击败李世石之后,有人说"AI 已经超越人类了"。结合本文的分类,这个说法准确吗?它属于哪一类 Agent,局限在哪里?
如果要设计一个"医疗诊断辅助系统",你会倾向于哪一代的技术路线?为什么?(提示:可解释性在医疗场景里是刚需)
理解这条演进路线,不是为了背历史,而是为了在设计 AI 系统时有正确的预期——知道 LLM Agent 擅长什么、不擅长什么,才能做出合理的架构选择。
这是整个系列的起点。