第7章 专家系统与两次 AI 低潮
如果把“理解整个世界”暂时放在一边，只要求机器在一个狭窄领域达到专家水平，事情会不会容易得多？
在分析有机分子、诊断感染、配置计算机这些任务中，专家面对的对象有限，判断步骤有一定规律，错误也可以由领域人员检查。20 世纪 1960 年代后期到 1980 年代，研究者据此发展出专家系统（expert system）：把专业知识写入知识库，再由通用推理程序根据具体案例给出结论或建议。
这些系统不是只有演示效果。它们曾帮助科学研究，也在企业中节省实际成本。可是，越接近真实部署，新的问题越明显：谁把专家经验写成规则？不同专家意见冲突怎么办？产品更新后，几千条相互依赖的规则由谁修改？没有写进知识库的例外，系统能否知道自己不知道？
AI 的历史并不是“先有人吹嘘，后来全部失败”这么简单。更准确的图景是：局部成功提高了期待和投资，扩大部署暴露了成本与边界，承诺与交付之间的差距最终改变了资金方向。所谓两次 AI 低潮，正发生在这种循环中。
专家系统里有哪几部分
一个典型专家系统至少包含以下组件：
- 知识库：领域事实、判断规则、对象关系和例外；
- 工作记忆：当前案例已知的信息和中间结论；
- 推理引擎：匹配规则，选择触发顺序，更新工作记忆；
- 用户接口：提问、接收数据并显示建议；
- 解释模块：说明系统使用了哪些事实和规则。
例如，一条医学规则可能是：如果培养结果支持某类细菌、感染部位符合某模式，并且没有相反证据，那么提高某种诊断的可信度。推理引擎本身不懂医学，它负责匹配条件和传播结果；医学能力主要位于知识库的概念、规则和权重中。
这种分离有明显优势。程序员可以改进匹配效率，领域专家和知识工程师可以更新规则；同一推理框架也能服务不同任务。与把所有判断写进一大段程序相比，规则还更容易被逐条检查和解释。
核心机制
专家系统把能力拆为领域知识与通用推理。一次咨询通常沿“输入案例事实 -> 匹配规则 -> 生成中间结论 -> 继续匹配 -> 给出建议和解释”流动。系统的上限主要由知识覆盖、冲突处理和维护质量决定。
DENDRAL：先把问题缩到足够专业
DENDRAL 项目始于 1960 年代，目标之一是帮助有机化学家根据质谱等实验数据推断分子结构。可能的分子结构很多，仅靠枚举会迅速爆炸。系统利用化学价、分子组成、碎裂规律和专家经验生成并筛选候选。
这里仍能看到“表示 + 搜索 + 启发式”的骨架，但知识变得高度专业。化学约束排除不可能结构，专家规则预测哪些结构更符合观测峰，搜索因此集中在较小范围。DENDRAL 及后续 Meta-DENDRAL 工作表明，AI 不必先获得完整常识，也能在边界明确的科学任务中提供有效帮助。(Buchanan 和 Feigenbaum 1978年)
它同时改变了研究重点。早期项目常强调通用问题求解；DENDRAL 让研究者更清楚地看到，领域知识可能比更通用的搜索技巧更能决定性能。一个普通算法加上丰富、正确的专业知识，可能胜过一个精巧却缺少知识的求解器。
但“知识重要”立刻带来下一问：知识从哪里来？化学家能在具体案例中作出判断，不代表他能一次性说清所有线索、优先级和例外。知识工程师需要访谈专家、观察决策、整理术语、把叙述改写成规则，再用案例反复修正。这不是简单录入，而是建模。
MYCIN：建议、追问与不确定性
1970 年代开发的 MYCIN 面向严重细菌感染的诊断与抗菌药物建议。它会就患者、感染部位、检验结果和病史提问，再用数百条规则形成结论。(Shortliffe 1976年)
医学推理很少只有绝对真与假。检验可能不完整，症状可能由多种原因造成，规则只能提供强弱不同的支持。MYCIN 使用确定性因子（certainty factor, CF）表示证据对结论的支持或反对程度，并设计了组合方法传播这些数值。
确定性因子不是严格的概率。它们反映设计者对证据强度的工程化编码，使系统能表达“较可信”“有一些反证”，而不必假装每条规则都绝对成立。这在当时是一项实用选择，也提醒我们：看到系统输出 0.8，不能自动把它理解为经过统计校准的 80% 发病概率。
技术深潜：规则、数字与解释怎样协作
一条简化规则可以写成：
如果：感染部位是血液
并且：培养形态与某类细菌一致
那么：以 CF = 0.7 支持该细菌类别规则触发时，前提本身的可信度会限制结论强度。多条独立支持证据可以增强结论，反对证据则会降低它。MYCIN 使用一套特定代数组合这些值，目的不是从频率数据推导完整概率模型，而是让专家的定性判断能够一致地参与计算。
解释模块可以回答“为什么问这个问题”和“怎样得到这个建议”。它回溯触发过的规则，显示当前目标需要哪些子结论。这种解释对调试和沟通有帮助，但仍有边界：
- 它解释的是系统执行了哪条规则，不保证规则本身有充分临床证据；
- 一条可读的推理链不说明没有遗漏更重要的变量；
- 数值组合过程一致，不代表输出在新医院或新人群中已经校准；
- 用户能读懂解释，也不等于会在高风险场景中正确使用建议。
因此，可解释的过程是可靠性的一部分，不是可靠性的替代品。真实部署还需要数据质量、外部验证、责任边界和工作流程设计。
MYCIN 在受控评价中表现出很有竞争力的建议能力，但没有成为日常临床系统。(Shortliffe 1976年) 原因不能只归为“技术不够好”。当时计算机接入、病历数据采集、法律责任、医生接受度和系统维护都构成障碍。实验性能与组织部署之间，存在一整条社会技术链。
XCON：当规则系统进入企业核心流程
专家系统最著名的商业案例之一是 Digital Equipment Corporation 的 R1，后来常称 XCON。它帮助根据客户订单配置 VAX 计算机系统，检查组件兼容性并生成装配信息。配置任务规则繁多，人工容易遗漏；系统在 1980 年代为公司减少错误并节省了可观成本。McDermott 对 R1 的设计和运行作过详细总结。(McDermott 1982年)
XCON 的意义在于，它处理的不是玩具任务，而是企业中的重复、高价值流程。规则系统能够把组织经验稳定地应用到许多订单上，输出也可以被工程人员检查。
成功同时制造了维护压力。产品线会增加新部件，旧部件会停产，销售政策会变化，不同地区还有特殊配置。每次变化都可能影响一组规则。规则数量增长后，修改一条规则可能产生远处的连锁反应：新规则抢先触发，旧规则不再可达，两个局部合理的例外组合出意外结论。
这说明“把知识写下来”不是一次性投资。知识库更像需要持续测试的软件和持续更新的模型，只是它的依赖关系往往隐藏在条件匹配和触发顺序中。
知识获取瓶颈
专家系统的一项主要扩展困难被称为知识获取瓶颈（knowledge acquisition bottleneck）。
专家知识并不都以“如果 A，那么 B”存在。熟练人员可能通过整体形态识别异常，无法立即说出所有特征；不同专家使用不同术语；少见案例缺少共同经验；许多判断依赖机构流程、设备状态和默认背景。
把这些经验转成知识库至少要经过：
- 确定任务边界和词汇；
- 收集专家访谈、案例与决策记录；
- 把隐含判断改写成可执行表示；
- 用已知案例验证，并寻找反例；
- 解决专家之间的冲突；
- 在环境变化后持续更新。
任何一步都可能成为主要成本。规则越多，新增知识也越难孤立测试。系统在常见案例上表现很好，可能只是因为常见情形被细致编码；到了边界外，它未必会平缓变差，而可能突然给出看似有理的错误建议。
技术深潜：规则为什么会变得难维护
设知识库有一千条规则。不能由此简单断言需要检查一百万对规则，因为很多规则互不相关；但规则交互的潜在关系会随共享事实、优先级和推理链迅速增多。
常见失效模式包括：
- 冲突：两条规则在同一事实下给出不相容结论；
- 循环：A 推出 B，B 又重新激活 A，系统反复运行；
- 遮蔽：一条宽泛规则总先触发，使更具体规则失去机会；
- 陈旧依赖：规则仍引用已经停用的产品、检测方法或政策；
- 例外叠加：分别合理的两个例外同时成立时，产生未经测试的结果；
- 不可达规则：前提组合永远无法在当前系统中出现。
回归测试可以缓解这些问题。每次修改后运行一组历史案例和专门构造的边界案例，比较输出变化。可是测试集本身也需要维护，而且无法覆盖开放世界中的所有组合。
一些规则系统和数据库式知识库采用封闭世界假设（closed-world assumption）：没有记录的事实，被视为假或至少不可用于推理。在库存配置中，这可能合理；在医疗中，“没有记录药物过敏”不等于“确认没有过敏”。如果系统不区分“假”“未知”和“尚未检查”，缺失数据会被误当成可靠否定。
所以，规则规模不是唯一问题。更深的困难是知识的来源、时效、例外、缺失状态和相互依赖都必须成为工程对象。
第一次低潮：不是一个全球同步的冬天
“AI 寒冬”或“AI 低潮”是后来的概括，指期待、资金和机构支持明显收缩的时期。这个比喻方便，却容易把不同国家、不同研究路线和不同年份压成同一天。
1966 年，美国国家科学院的 ALPAC 报告评估机器翻译研究，认为当时的全自动高质量翻译没有达到承诺，继续同类投入的理由不足，并强调计算语言学等方向。(Automatic Language Processing Advisory Committee 1966年) 报告影响了美国机器翻译资金，但它不等于在全世界关闭了全部 AI 研究。
1973 年，James Lighthill 向英国科学研究委员会提交 AI 综述，批评许多方法在小问题上成功，却难以应对组合爆炸和现实规模。(Lighthill 1973年) 随后的资助审查对英国一些 AI 研究中心影响显著。
与此同时，早期神经网络研究也经历降温。Minsky 与 Papert 系统分析了特定感知机模型的表示局限；后来叙述有时把这本书简化成“终结神经网络”的单一原因。(Minsky 和 Papert 1969年) 更准确的图景还包括训练方法、硬件、数据、研究重点和资金环境，通用问题求解与机器人项目也未能按乐观预测扩展。(Nilsson 2010年) 在多条路线中反复出现的共同问题是：在受控任务上展示一个机制，与在开放环境中交付稳定系统之间的距离被低估了。
因此，第一次低潮更适合画成一条时间带，而不是一条竖线。不同领域收缩的原因不同，研究也没有停止。专家系统恰恰在随后兴起，并重新吸引商业兴趣。
第二次低潮：成功扩张后的成本反噬
1980 年代，企业对专家系统投入增加，专用 Lisp 工作站和相关软件形成市场。乐观再次上升：既然某些系统已能创造价值，似乎可以把专家知识复制到更多组织和任务。
可是，大规模部署使成本结构暴露出来。知识库开发周期长，领域专家时间昂贵；规则需要持续更新；系统与企业数据库、流程和责任机制的集成并不轻松。一些项目的收益不足以覆盖维护，另一些项目则因任务变化而迅速过时。
专用 AI 硬件也受到通用工作站性能提高和价格下降的冲击。技术替代、市场预期和投资收缩相互加强。到 1980 年代末和 1990 年代初，“AI”标签在部分商业环境中失去吸引力，一些公司倒闭或转型。(Nilsson 2010年)
第二次低潮同样不是“专家系统在某年被证明无效”。许多规则系统继续在配置、诊断、监控和业务流程中使用，只是不再总以 AI 名义出现。低潮描述的是生态变化：融资下降、产品市场缩小、研究承诺转向，而不是所有方法同时归零。
| 收缩因素 | 第一次低潮中较突出 | 第二次低潮中较突出 |
|---|---|---|
| 演示难以扩展到现实规模 | 是 | 是 |
| 对短期进展承诺过高 | 是 | 是 |
| 政府评估与资助调整 | 突出 | 部分存在 |
| 知识库开发和维护成本 | 尚未成为主角 | 突出 |
| 专用硬件受通用计算冲击 | 不突出 | 突出 |
| 商业项目收益不及预期 | 较少 | 突出 |
这张表也说明，两次低潮不能用同一个单因果故事解释。Nilsson 的 AI 史提供了更完整的项目与机构背景。(Nilsson 2010年)
冬天留下的不是一句“不要乐观”
从历史中只学到“不要夸大 AI”过于空泛。更有用的是识别从演示到系统之间缺失的环节：
- 任务边界：系统成功的环境是否与部署环境一致？
- 规模曲线：对象、规则、状态和用户增加时，时间与维护成本怎样增长？
- 知识来源：谁提供知识，怎样验证，多久过期？
- 失败行为：系统超出边界时会拒绝、降级，还是自信地给出错误答案？
- 总成本：计算成本之外，集成、监督、更新和责任成本是多少？
- 比较基线：系统比人工流程或普通软件究竟改善了什么？
这些问题对今天的 AI 同样有效。大模型减少了逐条编写规则的需要，却没有消除知识时效、缺失信息、评测边界和维护成本。检索系统需要更新文档，工具调用需要权限与错误处理，智能体需要监控长链任务。技术形式改变了，系统工程问题仍会回来。
从“写规则”转向“从样本调整”
专家系统表明，知识能够让窄领域程序变得有用；它的扩展经验也表明，全部依赖人工提取和维护知识很难覆盖不断变化的世界。
另一条路线逐渐获得更强吸引力：与其让人把每个判断条件写成规则，能否给机器许多样本，让它自动调整内部参数？如果系统看过垃圾邮件和正常邮件，能否学出区分它们的边界？如果看过带标签的图像，能否找到有效特征？
这并不是从“理性”退回“统计猜测”。它是改变知识进入系统的方式：从人直接指定大量判断规则，转向人定义模型、数据和学习目标，再由算法根据误差调整参数。
下一部将从这次范式变化开始。我们会先区分规则、数据和泛化，再进入感知机、概率模型、决策树与神经网络。搜索和符号不会消失，它们会在新的系统中与学习重新相遇。
本章小结
- 专家系统把领域知识放入知识库，由推理引擎对当前案例匹配规则、传播结论并生成解释。
- DENDRAL、MYCIN 和 XCON 分别说明专业知识可以支持科学分析、医学建议和企业配置，窄领域系统曾产生真实价值。
- MYCIN 的确定性因子是处理证据强弱的工程方案，不应直接解释为经过校准的概率。
- 知识获取瓶颈来自隐性经验、专家分歧、规则形式化和持续更新；规则交互与封闭世界假设进一步造成维护风险。
- 两次 AI 低潮都是跨年份、跨地区且原因不同的资金与期待收缩，不是一个报告或一次失败让全球研究同时停止。
- 从专家系统得到的关键教训，是把任务边界、规模曲线、知识时效、失败行为和总维护成本纳入能力评价。
- 规则维护的困难是研究转向数据学习的促成因素之一，但学习方法仍需面对表示、目标和可靠性问题。
思考问题
- 在学校选课、设备维修或贷款审核中，哪些知识适合写成规则，哪些更可能难以由专家完整说出？
- 一套专家系统能够给出完整推理链，但知识库三年没有更新。它的“可解释性”能弥补时效问题吗？
- 今天某个 AI 产品演示很成功时，可以用本章哪五个问题判断它能否稳定部署？
延伸阅读
- Buchanan 与 Feigenbaum 对 DENDRAL 的总结适合观察领域知识怎样约束搜索。(Buchanan 和 Feigenbaum 1978年)
- Shortliffe 的 MYCIN 专著系统描述了知识表示、咨询流程、确定性因子和评价。(Shortliffe 1976年)
- McDermott 的 R1 论文提供了专家系统进入真实生产流程时的规模与设计细节。(McDermott 1982年)
- ALPAC 与 Lighthill 报告应作为特定机构、时期和任务下的原始材料阅读，不能脱离语境当作整个 AI 领域的统一判决。(Automatic Language Processing Advisory Committee 1966年; Lighthill 1973年)