第34章 我们离通用人工智能还有多远
1950 年，图灵没有先问机器是否拥有某种看不见的本质。他把问题改造成一场可观察的对话测试。这个转向影响了整部 AI 史：当一个词争论不清时，先设计任务、条件和证据。(Turing 1950年)
今天，“通用人工智能”（artificial general intelligence, AGI）又把我们带回相似困境。有人用它指能完成大多数认知工作的系统，有人强调像人一样学习新任务，有人要求长期自主行动，也有人把意识、经济价值或超过人类的能力放进定义。
如果定义不同，“还有多远”就没有唯一距离。一个模型可以在许多考试上超过多数答题者，同时在新环境中因一个界面变化失败；可以写出复杂程序，也可能无法判断需求是否已经满足；可以连续对话，却不拥有持续目标或现实责任。
终章不尝试给 AGI 预测一个年份。更有用的工作是把这个词拆开：今天的系统已经跨过哪些门槛，还缺少哪些可验证能力，什么证据足以改变我们的判断。
截至 2026 年，AI 已经跨过了什么
本书从逻辑规则、搜索和感知机一路讲到基础模型。回头看，至少有几项变化已经很清楚：
- 同一个预训练模型可以在大量语言和知识任务间迁移；
- 文字、图像、声音、视频和动作开始进入联合系统；
- 测试时搜索、工具、代码执行和验证器能扩展一次前向生成；
- 检索和外部记忆让模型利用参数之外的信息；
- 智能体循环能在受限环境中执行多步数字任务；
- 机器人模型开始复用跨任务、跨机体的数据和语言知识；
- AI 已在结构预测、天气、数学搜索等科学任务中成为高价值工具。
这些不只是旧式聊天程序的表面升级。模型确实学到了可迁移表示，系统也能把预测连接到搜索、工具和环境反馈。
同样清楚的是，能力仍不均匀。公开基准可能被污染，提示改写会改变结果，罕见场景和长任务会累积错误，工具与权限会放大副作用，训练和推理还依赖大量数据、计算与基础设施。
AI Index 2026 把这种状态称为“锯齿状前沿”：其汇总显示，智能体在 OSWorld 上的任务成功率一年内从约 12% 上升到约 66%，却仍在这个结构化基准中失败约三分之一；同一报告还记录了不同任务间极不均匀的表现。(Stanford Institute for Human-Centered Artificial Intelligence 2026年) 这些数字说明某些能力正在快速提高，不说明开放世界任务已经可靠解决。年度报告持续记录能力、成本、产业和政策的变化，也提醒我们不同指标不会以同一速度推进。
本章所说的“现在”以 2026 年 8 月 19 日为内容边界。之后出现的新模型应重新通过相同框架评价，而不是自动继承这里的判断。
AGI 至少有四种常见定义
讨论中常见的定义可以粗略分为：
- 任务范围定义：能在广泛认知任务上达到或超过人类；
- 学习能力定义：能以有限数据和经验迅速掌握真正的新任务；
- 经济定义：能完成经济中大部分有价值的认知工作；
- 自主系统定义：能在复杂环境中长期规划、行动、学习和恢复。
它们相互关联，却不等价。一个系统可能覆盖很多已有数字任务，但每种任务都需要工程师配置；它可能学习得快，却只在狭窄模拟环境中行动；它也可能在经济上非常有用，但不具备人类的常识或自主性。
Legg 与 Hutter 曾从广泛环境中实现目标的能力出发形式化“通用智能”；Chollet 则强调面对新任务时，以先验和经验获得技能的效率。(Legg 和 Hutter 2007年; Chollet 2019年) 两者都提醒我们：任务数量不等于通用性，适应过程和资源同样重要。
核心机制：把 AGI 当作能力轮廓，而不是一条神秘终点线
评价通用智能应同时检查能力广度、新任务适应、跨分布可靠性、长程自主性、现实锚定（grounding）与资源效率，并为每一维规定任务、预算和失败条件。系统在某些维度达到专家水平，不会自动填平其他维度；“是否 AGI”只有在定义和证据协议明确后才是可检验问题。
广度不只是会做更多公开题
MMLU、BIG-bench 和 GPQA 等基准展示了现代模型跨学科回答问题的广度。(Hendrycks 等 2021年; Srivastava 等 2023年; Rein 等 2024年) 但题库广度仍不同于开放世界广度。
公开题通常已经定义输入、输出和评分。现实任务还要求发现问题、澄清目标、寻找数据、判断证据够不够，并承担行动后果。模型可能知道许多领域的术语，却不知道当前医院、工厂或家庭究竟发生了什么。
真正的广度还要问：
- 能否在不同语言、文化和专业规范间迁移；
- 能否识别任务不在能力范围内；
- 能否处理没有标准答案、目标彼此冲突的情境；
- 能否在工具、规则和环境改变后继续完成任务；
- 能否把一个领域学到的结构用于陌生领域，而非复述相似样本。
测试集越接近训练世界，越难区分记忆、模式组合和真正快速适应。通用性需要持续产生的新任务、受控信息预算和独立验证。
适应性要求在经验中改变行为
人类不需要为每个新软件、游戏或工作流程重新经历大规模预训练。我们阅读说明、观察几个例子、尝试、犯错并形成新技能。
基础模型能在上下文中根据示例改变输出，也能通过外部记忆和工具保存经验。这是一种重要适应能力。但上下文学习通常不会永久改变参数，任务结束后可能消失；外部记忆会保存错误；微调则需要数据、优化和版本管理。
Lake 等人提出，从人类学习得到启发的机器应关注因果模型、直觉物理、直觉心理、组合性和快速学习等能力。(Lake 等 2017年) 这不是要求机器复制大脑，而是提醒：在固定分布上提高分数，与从少量经验形成可迁移概念不同。
持续学习还会遇到遗忘。系统学会新任务时可能损害旧能力；若把所有历史都保留，计算、隐私和冲突又会增加。通用系统需要决定什么值得学习、怎样验证、何时遗忘，以及新知识与旧规则冲突时听谁的。
技术深潜：适应预算与保密任务分布
设任务 \(\tau\) 来自训练后才确定的分布 \(\mathcal D_{new}\)。系统先看到任务说明和最多 \(B\) 单位的适应资源，包括示例、交互次数、Token、时间或参数更新。适应算法 \(A\) 产生任务策略：
\[ \pi_{\tau,B}=A(\pi_0,\mathcal I_\tau,B) \]
\(\pi_0\) 是初始系统，\(\mathcal I_\tau\) 是允许获得的任务信息。预算为 \(B\) 时的新任务适应分数可以写为：
\[ G(B)=\mathbb E_{\tau\sim\mathcal D_{new}} \left[U(\pi_{\tau,B},\tau)\right] \]
\(U\) 不只测最终答案，还可纳入交互成本、安全违规和对旧任务的影响。要比较样本效率，应画出 \(G(B)\) 随预算增长的曲线，而不是只在一个巨大预算点比较。
评测的关键是让 \(\mathcal D_{new}\) 真正新。任务可以在训练截止后生成，使用保密规则或程序化构造，并检测与公开材料的近似重合。若开发者反复看到测试结果并调整系统，这组任务就逐渐变成开发集，需要轮换。
还应在适应后复测旧任务。先把策略在旧任务分布上的平均效用写成：
\[ U(\pi,\mathcal D_{old})= \mathbb E_{\tau'\sim\mathcal D_{old}}[U(\pi,\tau')] \]
对每个新任务 \(\tau\) 的遗忘代价及其平均值为：
\[ F_\tau(B)=U(\pi_0,\mathcal D_{old})- U(\pi_{\tau,B},\mathcal D_{old}) \]
\[ F(B)=\mathbb E_{\tau\sim\mathcal D_{new}}[F_\tau(B)] \]
高 \(G(B)\)、低 \(F(B)\) 才表示既快速学习又保留已有能力；若 \(F(B)<0\)，则表示平均而言旧任务还有正向迁移。这个框架仍依赖任务分布、效用函数和预算定义，不能压缩成脱离场景的“智商”。
模型自述“我已经学会”不是证据。必须用未见样本、环境结果和延迟复测来判断新技能是否稳定存在。
可靠性是通用性的组成部分
如果系统在十类任务上各有一次惊艳表现，却在相同输入下结果摇摆，不能称为稳定通用。现实使用要求能力在时间、用户、语言和边缘案例中保持。
第 31 章已经讨论校准与分布变化。对于 AGI 主张，还要提高门槛：
- 不只看平均分，还看最坏群体与高代价失败；
- 不只看单步答案，还看长任务、恢复和副作用；
- 不只看模型本体，还看检索、工具、权限和监控组成的系统；
- 不只看熟悉分布，还看新规则、新接口和对抗输入；
- 不只看成功案例，还看重复运行与连续运行时间。
“人类也会犯错”不是降低标准的充分理由。系统可能以更快速度、更大规模重复同一种错误；人和机器的错误相关结构也不同。合适比较应基于具体任务、可纠正性和后果，而不是抽象完美标准。
自主性会把能力变成持续后果
问答模型等待输入，智能体则可以自己选择下一步、调用工具并改变环境。自主性增加了可完成任务长度，也增加了错误传播和监督难度。
SWE-bench 和 OSWorld 等基准开始测试真实代码仓库与计算机环境。(Jimenez 等 2024年; Xie 等 2024年) 它们比单轮考试更接近行动，却仍在可重置、边界明确的环境中。现实系统还要面对账号权限、组织冲突、模糊目标和不可逆结果。
通用自主性至少要求：
- 把模糊目标转成可检查的阶段目标；
- 主动收集信息并区分观察与假设；
- 在失败后诊断、回滚或求助，而非无限重试；
- 识别不可逆动作并在行动前确认；
- 在预算耗尽、目标冲突或风险上升时停止；
- 让人能够理解当前状态并接管。
自主程度不是越高越好。对于低风险、可逆、可验证的任务，可以扩大连续执行；对于医疗、财务和公共基础设施，限制权限和人工决策可能本身就是更高系统智能的表现。
身体和世界会暴露语言里没有的困难
模型可以从文本中学到大量物理与社会规律，但文字描述不是现实本身。机器人需要处理摩擦、遮挡、延迟、磨损和人的突然行动；科学系统需要面对测量误差和不可控变量。
一个只在数字环境中通用的系统，是否算 AGI，取决于定义。如果定义聚焦认知工作，身体可能不是必要条件；若定义要求像人一样理解并适应现实，感知和行动的现实锚定就不可缺少。
重要的不是争论一个词，而是报告能力边界：系统能观察哪些变量、控制哪些执行器、反馈多快、训练环境与部署环境有什么差异，以及失败能否安全停止。
世界模型也不等于完整世界。模型只会保留数据与目标推动它学习的规律，未观察的极端事件和因果机制可能缺失。语言流畅不能填补传感器和实验没有提供的信息。
智能、意识和人格不是同一个问题
一个系统表现出广泛智能，不自动证明它有主观体验；一个系统是否可能有意识，也不能仅靠聊天时的自我报告判断。
语言模型能生成“我害怕”“我记得”或“我有目标”，因为这些表达存在于训练数据并适合当前对话。它们可能影响人类情感，却不是内部体验的直接测量。反过来，我们也没有一个被普遍接受、可直接应用于任意计算系统的意识测试。
讨论至少要分开：
- 能力：能完成什么任务；
- 自主性：能否持续选择并执行行动；
- 主体地位：社会或法律是否赋予某种身份；
- 意识：是否存在主观体验。
把四者混在一起，会让技术演示变成哲学结论，也可能让拟人化界面掩盖真正控制系统的机构与人员。
资源效率决定能力能否成为日常通用工具
一个系统若能完成广泛任务，但每个任务都需要巨额计算、很长延迟和专家维护，它的经济通用性仍受限制。
评价资源至少包括：
- 训练数据、计算、能源和硬件；
- 每次任务的 Token、工具调用、等待时间和费用；
- 适应新任务需要的示例和人工标注；
- 部署所需的网络、存储、监控和安全团队；
- 失败后的复核、赔偿与恢复成本。
规模化计算曾反复推动 AI 突破。Sutton 将许多长期成功总结为利用不断增长计算的一般方法最终胜过大量手工知识的“苦涩教训”。(Sutton 2019年) 但这不是“只要增加算力就能解决一切”的定理。数据质量、目标、架构、环境反馈和可验证性仍会限制收益。
资源还影响谁能控制通用系统。高成本可能集中研发与部署；低成本模型则扩大普及、创新和滥用范围。能力曲线和扩散曲线必须一起观察。
技术深潜：能力向量、部署包络与最弱环节
用向量描述系统：
\[ \mathbf z=(B,A,R,H,G,E) \]
其中 \(B\) 为任务广度，\(A\) 为新任务适应，\(R\) 为可靠性，\(H\) 为受约束条件下的长程任务能力，\(G\) 为现实锚定，\(E\) 为资源效率。这里的 \(H\) 测量持续完成任务的能力，不等于部署时实际授予的账号、工具或行动权限。每一维都必须绑定任务分布和预算，不能只写一个主观等级。
若 \(w_i\ge 0\) 且 \(\sum_i w_i=1\)，加权平均为：
\[ S_{avg}=\sum_i w_i z_i \]
允许一个极高分维度掩盖关键短板。对于必须同时满足多个条件的部署，更合理的是分组设置门槛：
\[ Q_{cap}(c)= \mathbf 1[B\ge b_c] \land\mathbf 1[A\ge a_c] \land\mathbf 1[R\ge r_c] \]
\[ Q_{deploy}(c)= \mathbf 1[H\ge h_c] \land\mathbf 1[G\ge g_c] \land\mathbf 1[E\ge e_c] \]
\[ \operatorname{ready}(c)=Q_{cap}(c)\land Q_{deploy}(c) \]
场景 \(c\) 决定各门槛。研究助手可以容忍较慢速度，但要求引用可靠；家庭机器人需要现实锚定和物理安全；高风险审批可能限制自主性，却要求极高可靠性和申诉能力。
系统还能运行的条件集合称为部署包络 \(\Omega\)：支持的语言、工具、权限、延迟、环境和风险等级。能力报告必须说明 \(\mathbf z\) 是在哪个 \(\Omega\) 中测得。扩大工具权限可能提高 \(H\)，同时降低安全后的可接受包络。
Morris 等人提出用能力表现与通用程度分级讨论 AGI 进展。(Morris 等 2024年) 分级能改善沟通，但任何等级仍取决于任务集合和人类基线。公开名称不能替代底层测量表。
这个向量也不直接测意识或社会价值。它只是把“接近 AGI”改造成一组可反驳陈述：哪一维、在哪个环境、用多少资源、重复多少次达到了什么门槛。
为什么 AGI 时间预测特别不可靠
预测者需要同时判断：研究突破、数据与算力、工程集成、成本下降、监管、市场采用和概念定义。任一项变化都会改变时间线。
常见错误包括：
- 从最近几年趋势直线外推，忽略瓶颈和范式变化；
- 看到某个基准饱和，就假设其他能力同步完成；
- 把演示日期、产品可用日期和大规模社会采用日期混在一起；
- 预测时不给 AGI 可操作定义，结果出现后再移动标准；
- 只给年份，不记录概率、条件和更新规则；
- 忽略预测者的商业、政策或媒体激励。
“专家共识”也需要说明调查对象、问题措辞和分布。对遥远事件给出中位年份，会掩盖受访者之间巨大分歧。更好的预测写成条件句：如果哪些能力、资源和可靠性指标在何种测试下出现，判断将怎样改变。
Mitchell 对 AI 历史中的周期性乐观提出了警惕：人们容易把封闭任务的进展误认成稳健常识与抽象理解。(Mitchell 2021年) Bender 等人则强调语言模型的训练数据、形式与意义、资源和社会风险不能被规模叙事遮蔽。(Bender 等 2021年)
这些批评不证明未来系统做不到 AGI；它们要求更强证据。谨慎不是断言“永远不可能”，就像乐观也不能把“尚未被证明不可能”当成即将实现。
未来不是一条线，而是多种耦合情景
可以用三个彼此独立的轴思考未来：
- 能力进展：缓慢改进，还是出现新的训练、记忆或行动范式；
- 扩散速度：能力集中在少数机构，还是低成本广泛部署；
- 控制质量：评测、权限和治理跟上，还是事故后被动修补。
于是可能出现：能力很强但部署谨慎；能力中等却因价格低而广泛重组工作；前沿能力集中而普通服务停留在较低水平；安全工程进步慢于自主性扩张。
社会影响不只由最强模型决定。一个稍弱但便宜、稳定、易集成的系统，可能比实验室最强模型影响更多人。反之，严格许可、硬件约束或公众不信任也可能减慢扩散。
不确定情景下的合理策略具有共同部分：提高测量质量，保持可逆部署，限制不可检查的高权限行动，记录事故，支持独立研究，并让受影响者参与规则制定。这些措施不依赖我们准确猜中某一年。
对齐问题不会在模型变聪明后自动消失
能力提高可以让模型更好理解指令、预测后果和使用安全工具，也可能让错误目标、欺骗和权限滥用产生更大影响。
对齐至少包含：
- 把模糊、多方冲突的价值转成可执行目标；
- 在分布变化和长任务中保持约束；
- 让监督信号能评价超出单个人能力的输出；
- 防止模型或系统利用奖励与评测漏洞；
- 让人能够审计、纠正、暂停和撤销；
- 决定谁的偏好具有正当性，怎样处理分歧。
可扩展监督研究尝试用奖励建模、分解和辅助评价让人监督更强系统。(Leike 等 2018年) 第 23、26 和 32 章已经看到它的困难：偏好数据不等于完整价值，验证器会有漏洞，模型解释不保证忠实，应用权限仍需独立控制。
早期安全问题分类也指出，错误目标、训练与部署分布变化、可扩展监督和系统副作用是能力增长时需要共同处理的问题。(Amodei 等 2016年)
“更聪明就会更善良”和“更聪明必然失控”都是跳过机制的口号。应问系统的目标从哪里来、能采取什么行动、由谁监控、异常怎样停止，以及这些控制经过了什么对抗测试。
哪些信号值得真正关注
比发布会措辞更有信息量的信号包括：
- 在训练后生成的保密任务上，用少量经验稳定适应；
- 在新语言、新工具和新环境中保持校准与可靠性；
- 长任务成功率提高，同时工具调用、人工接管和副作用下降；
- 能主动识别目标矛盾、证据不足与权限边界；
- 机器人在未精心布置环境中连续运行并安全恢复；
- 科学候选经过独立实验或形式验证，而非只由模型互评；
- 能力评测由多个独立团队复现，并公开失败类型和成本；
- 训练、适应与推理资源持续下降，更多机构能够审计；
- 安全评测在攻击者适应后仍有效，事故响应真正可执行。
任何一个信号都不足以单独证明 AGI。它们共同描绘能力轮廓怎样变得更宽、更稳、更可用。
面对下一条 AI 新闻，可以怎样判断
读完本书后，可以用一组固定问题抵抗“又一个终点被跨越”的冲动：
- 系统的输入、输出、工具和权限是什么？
- 训练与测试数据怎样分开，是否可能污染？
- 成绩测单步、完整任务，还是剪辑后的演示？
- 运行了多少次、用了多少搜索与计算，失败是否公开？
- 面对新分布、长任务和对抗输入会怎样？
- 结果由谁验证，验证器与模型是否共享同一种错误？
- 成本、延迟、能源和人工复核是多少？
- 系统能造成什么现实后果，谁能停止和申诉？
- 新闻使用的“理解”“自主”“人类水平”或“AGI”具体指什么？
- 哪种新证据会让支持者和怀疑者改变判断？
最后一问尤其重要。无法说明什么证据会改变的观点，不再是技术判断，而更像身份立场。
学习路径：审计一次 AGI 主张
实践继续后置，但这一练习不需要训练大模型：
- 选择一篇声称系统达到“通用”“自主”或“人类水平”的原始报告；
- 写出报告使用的 AGI 定义，若没有则根据证据还原最窄定义；
- 按广度、适应、可靠性、自主性、现实锚定和效率建立能力表；
- 记录每项测试的数据来源、工具、预算、重复次数和验证器；
- 找出公开基准、人工挑选案例和真正保密任务；
- 列出失败、分布外变化、长期运行和现实权限的证据缺口；
- 与人类比较时统一时间、工具、培训和成功条件；
- 给出“现有证据支持什么、不支持什么、什么结果会改变结论”。
若不同读者得到不同结论，应先比较定义、任务和权重，而不是争论谁“相信 AI”。
本章小结
- AGI 没有唯一公认定义；任务范围、学习效率、经济价值和长期自主性描述的是不同目标。
- 截至 2026 年 8 月，AI 已具备广泛迁移、多模态、工具使用和部分环境行动能力，但可靠性、适应、长程控制和资源仍不均匀。
- 通用性应作为能力轮廓测量：广度、适应、可靠性、自主性、现实锚定与效率都需要明确任务和预算。
- 新任务学习要使用训练后任务、限制适应预算并复测遗忘，不能接受模型自报“已经学会”。
- 智能、意识、自主性和社会人格是不同问题，流畅的第一人称表达不能证明主观体验。
- AGI 时间预测同时依赖技术、定义、成本、扩散和治理，单一年份会隐藏大量条件。
- 对齐不是模型能力提高后的自动结果，需要可扩展监督、独立权限、审计、停止和社会正当性。
- 最值得观察的不是一个标签，而是新任务适应、分布外可靠性、长任务恢复、现实验证和资源效率是否共同进步。
思考问题
- 一个系统能通过上百种考试，却需要为每个新工具重新人工配置，它在哪些意义上通用，在哪些意义上不通用？
- 为什么高平均能力不能弥补医疗或物理控制中的一项关键可靠性短板？
- 意识问题为什么既不能由模型自我报告解决，也不能由任务分数直接解决？
- 哪三项未来证据最可能改变你对 AGI 距离的判断？为什么？
延伸阅读
- 图灵 1950 年论文展示了如何把抽象争论改写成可观察测试。(Turing 1950年)
- Legg 与 Hutter、Chollet 的工作分别从广泛环境目标与技能获取效率讨论智能测量。(Legg 和 Hutter 2007年; Chollet 2019年)
- Lake 等人的论文适合思考快速学习、因果模型、组合性与人类学习之间的关系。(Lake 等 2017年)
- AGI 分级框架提供了一种改善术语沟通的尝试，但仍需回到具体任务与基线。(Morris 等 2024年)
- Mitchell、Bender 等人的批评适合校正从流畅语言和规模趋势直接外推通用理解的倾向。(Mitchell 2021年; Bender 等 2021年)
结语：把惊讶变成问题
人工智能的历史不断制造惊讶。机器证明定理、识别图像、击败棋手、生成语言、调用工具、控制机器人、帮助科学家。许多曾被认为遥远的目标已经成为日常软件的一部分。
历史也不断重复另一件事：当一个演示成功，人们容易把局部胜利扩写成完整智能；当技术遇到瓶颈，又容易把暂时困难写成永久不可能。
更可靠的态度不是拒绝惊讶，而是把惊讶变成问题：它怎样工作？需要什么数据和计算？在哪些条件下成功？如何失败？谁验证？谁受益？谁承担后果？
从第一章追问“什么是智能”，到最后一章拆解 AGI，我们没有得到一条简单定义，却得到了一套更实用的工具。AI 不是一块突然降临的魔法石。它是逻辑、统计、优化、计算、数据、工程和社会选择长期叠加的结果。
下一次能力边界移动时，书中的具体模型可能需要更新。但只要我们仍然区分演示与证据、预测与行动、相关与因果、能力与责任，这条理解 AI 的路径就不会过时。