智能体发展史¶
Abstract
智能体的发展主线可以理解为:从“手工写规则的符号系统”→“从数据中学习的模型”→“能规划、能调用工具、能协作的 LLM 智能体”;每一次范式转换都在解决上一代的核心痛点(尤其是“知识获取”与“开放世界适应”),同时也引入新的挑战(如不可控、幻觉、对齐与安全)。
发展时间线¶
符号主义 / 规则系统(约 1960s–1980s)¶
-
核心思想:智能 ≈ 符号表示 + 逻辑推理(用显式规则操控符号)。
-
代表:
-
SHRDLU:在“积木世界”里能理解指令、执行动作、回答问题(强封闭环境有效)。
-
MYCIN(专家系统):把专家经验编码成 IF-THEN 规则,在特定领域达到很强表现。
-
ELIZA(早期聊天机器人):关键词匹配 + 句式替换,营造“被理解”的错觉(ELIZA 效应)。
-
-
根本瓶颈:
-
知识获取瓶颈:知识要靠人一条条写,难规模化。
-
框架问题 / 脆弱性:开放世界状态变化复杂,规则系统对分布外输入很容易失效。
-
常识缺失:大量隐性常识难以形式化。
-
心智社会(1986,思想转折)¶
-
提出者:Marvin Minsky
-
核心观点:智能不是一个“全能中央控制器”,而是许多简单过程(小智能体/模块)协作的涌现。
-
影响:启发后来的多智能体系统(MAS)与“模块化协作”的工程设计;同时也提醒我们:复杂行为可以来自简单组件的组织方式,而不一定来自单体模型的完美推理。
学习范式崛起与融合(约 2010s–至今)¶
-
联结主义 / 深度学习:让模型从数据中学习表示,显著提升感知(视觉/语音/文本)能力。
-
强化学习(RL):通过试错学习策略,擅长序贯决策(如 AlphaGo)。
-
预训练-微调(Foundation Model / LLM):
-
用海量数据预训练,让模型“隐式”获得通用知识与能力,极大缓解“知识获取瓶颈”。
-
伴随出现:上下文学习、一定程度的分步推理等“涌现能力”(同时也带来幻觉、偏差与安全问题)。
关键概念¶
物理符号系统假说(PSSH)¶
-
要点:
-
充分性论断:物理符号系统具备产生通用智能行为的充分手段。
-
必要性论断:能展现通用智能的系统本质上必然是物理符号系统。
-
-
与现代 LLM 的关系(开放问题):
-
支持视角:token/文本可视作符号,模型在“物理系统”上对其进行操作并表现智能。
-
质疑视角:LLM 的知识多为隐式、分布式、连续表征,不是显式规则推理;其“推理”更像概率生成与模式组合,挑战了经典符号主义的必要性/充分性边界。
ELIZA 效应¶
人类很容易把“表面上像理解”的语言行为当作“真正理解”。这对今天评估大模型/智能体也很重要:流畅 ≠ 可靠,像人 ≠ 懂你。
现代 LLM 驱动智能体(工作闭环)¶
一种常见抽象是 感知 → 思考/规划 → 行动(工具调用)→ 观察 → 迭代:
-
感知:接收用户目标、环境状态、外部数据(文本/表格/网页/传感器等)
-
思考/规划:把目标分解成子任务,决定要不要查证、要不要调用工具、先做哪一步
-
行动/工具调用:检索、计算、写代码、操作系统/应用、调用 API
-
观察与修正:根据执行结果更新计划,直到完成或触发失败处理
部分问题¶
Question
-
为什么符号主义在封闭世界能成功,但在开放世界容易崩?(提示:知识覆盖、状态变化、分布外)
-
“心智社会”对今天的多智能体系统更像“解释框架”,还是“工程指南”?为什么?
-
预训练为何能缓解知识获取瓶颈,但又会带来“幻觉/不可控”?你如何在智能体系统里缓解?