第1章 人为什么想制造会思考的机器
一扇沉重的神殿大门，在祭坛火焰燃起后缓缓打开。没有守门人推动门轴，围观者也看不见绳索。火熄灭后，大门又自行关闭。
如果你生活在两千年前，这个场景可能像神意。古代工程文献中却能找到一种机械解释：火焰加热密闭容器中的空气，压力把水推向悬挂的桶；桶逐渐变重，通过绳索和转轴拉开大门。火焰熄灭，空气冷却，水回流，配重把门关上。
装置没有看见火焰，也不知道门是什么。它只利用热、压力、液体、重力与机械连接，让一连串物理变化呈现出有目的的动作。
这类自动机（automaton）贯穿很长的人类历史。它们会报时、鸣叫、演奏、书写、倒酒，甚至模仿动物。自动机不是现代人工智能的早期版本，却提出了一个现代问题：当人造物表现得像在行动时，我们如何判断它内部发生了什么？(Riskin 2016年)
为什么一台会动的机器如此迷人
人类制造工具的历史极长，但会自行改变状态的装置带来一种不同体验。锤子只有在人挥动时才敲击；自动机一旦启动，动作似乎从它内部连续生长出来。
这种体验触碰了几个深层愿望。
第一是复制生命的愿望。如果鸟的振翅、人的书写或乐师的演奏能够由机关重现，生命与机器之间的边界似乎不再绝对。
第二是把技能保存下来的愿望。工匠能够把动作顺序藏进凸轮、齿轮和带孔的圆筒。即使工匠离开，装置仍能重复表演。这已经带有“把知识写进物体”的意味。
第三是让物体代替人工作的愿望。自动开门、自动报时和机械计算都把一段劳动交给装置。今天的自动化仍延续这个目标，只是齿轮和水压换成了传感器、软件和模型。
第四是借机器反问人自身的愿望。如果一个动作能被机械复制，那么这个动作是否本来就包含某种机械性？心跳、反射、记忆、推理和创造，各自有多少可以分解成过程？
历史学者杰西卡·里斯金指出，几个世纪以来，自动机不仅是娱乐器具，也参与了关于生命是否能够由机械因果解释的争论。(Riskin 2016年) 机器的设计与人的自我理解，常常在同一面镜子两侧。
外表越像，越容易猜错内部
18 世纪，法国发明家雅克·德·沃康松制作了著名的鸭形自动机。它能够扇动翅膀、吞食，并以某种方式呈现“消化”后的结果。观众看到的是一只仿佛具有完整生理过程的机械鸭；装置内部实际实现的各部分，却未必与真实鸭子的消化相同。(Riskin 2016年)
这里出现了一个重要区分：
- 复制结果：让机器产生与目标相似的外部表现；
- 复制机制：让机器用与目标相同或相近的内部过程产生表现。
飞机能飞，却不靠鸟类肌肉振翅；潜艇能下潜，却不靠鱼鳃呼吸。工程常常只需复制功能，不需要复制自然机制。AI 也一样：一个模型能翻译句子，不表示它必须以人脑翻译时相同的方式工作。
但是，外表与机制的差距也可能被故意用来欺骗。
1770 年，沃尔夫冈·冯·肯佩伦展示了一台能够与人下国际象棋的“土耳其行棋傀儡”。木柜上坐着身穿东方服饰的人偶，表演者打开柜门，向观众展示齿轮与机械结构；比赛开始后，人偶能够移动棋子，战胜不少对手。(Nilsson 2010年)
它看上去像一台早到近两个世纪的下棋机器。秘密却不是高明的齿轮算法，而是柜体中藏着一名人类棋手。展示机械结构的柜门经过巧妙设计，使操作者能在不同区域之间移动并躲开视线。
“土耳其行棋傀儡”值得记住，不只是因为它是一场骗局。它揭示了一种反复出现的判断错误：我们先看到能力，再根据外观和讲解猜测能力来源。今天评估 AI 产品时，同样需要询问：结果由模型独立产生，还是有隐藏的人类筛选？演示是否挑选了最好一次？系统是否在后台调用了数据库、搜索或专门工具？
核心判断
系统做出了什么，与系统怎样做到，是两个问题。外部行为是证据，但仅凭行为外观无法确定内部机制。
从重复动作到机械计算
自动机擅长按照预设结构重复动作。另一类机器则处理数字和符号。
算盘把数的位置关系变成珠子的空间位置。17 世纪的机械计算器开始用齿轮表示数字，并执行加减等运算。帕斯卡制作的计算器可以帮助处理税务计算；莱布尼茨的步进计算器试图扩展到乘除。它们不需要理解交易、税收或几何，只需要可靠地保持数位和进位关系。
这带来一种新的抽象：机器不必复制一个人的外形，也能复制一部分人的工作。计算任务可以被拆成状态、操作和顺序；只要表示合适，齿轮的位置就能承担数字的角色。
机械计算器仍然由人决定每一步输入和操作。19 世纪，查尔斯·巴贝奇设想了更进一步的机器。
他的差分机用于自动计算和印刷数学表，以减少人工计算和抄写错误。后来的分析机设想则更一般：它拥有类似存储器的“仓”和执行运算的“磨坊”，通过穿孔卡输入数据与操作，并能够根据条件改变执行路径。(Lovelace 1843年)
分析机没有在巴贝奇生前完整建成，但它在概念上跨过了一道重要门槛。机器不再只对应一种固定算术任务；改变卡片上的操作序列，同一套机构就可能执行不同计算。
这正是后来通用计算机的关键气质：机器的功能不只由金属结构决定，也由交给它的符号指令决定。
洛夫莱斯真正说了什么
1843 年，奥古斯塔·艾达·洛夫莱斯翻译了一篇介绍分析机的文章，并加入篇幅远超原文的注释。她讨论了如何让分析机计算伯努利数，也注意到机器操作的对象不必只被理解为数量。
如果音乐中的音高与和声关系能够用机器可处理的符号表达，分析机原则上也可能组合出复杂乐曲。(Lovelace 1843年) 这个判断并不是说机器已经会作曲，而是把“计算”从狭义算术扩展成对形式关系的操作。
同一组注释中还有一句更著名的话：分析机“没有任何自称能创造什么的企图”；它只能做我们知道如何命令它做的事情。(Lovelace 1843年)
这句话后来常被改写成“机器永远不能创造”。原文的意义更细致。
一方面，洛夫莱斯拒绝把机器拟人化。分析机不会凭自身意图选择目标，它的操作能力来自人设计的结构和指令。
另一方面，她并没有说人能轻易预测机器的每个具体结果。复杂程序可以产生设计者未逐项写下、甚至没有事先想到的输出。现代生成模型更让这种差别变得明显：人设计训练方法和目标，却不会预先指定模型将生成的每一句话。
所以，“机器只能按机制运行”与“机器能产生让人意外的新结果”可以同时成立。真正需要追问的是：变化来自固定规则的复杂组合、从数据学到的参数、随机采样、环境反馈，还是系统形成了自己的目标？这些来源不能都用“创造”一个词含混带过。
智能不是一个旋钮
日常语言把许多能力压缩成“聪明”。一个学生算得快、理解隐喻、善于规划或能体察他人，都可能被称为聪明。但制造机器时，这些能力必须被拆开。
AI 研究经常涉及：
- 感知：从图像、声音和传感器中提取信息；
- 记忆：保存并在需要时取回信息；
- 学习：根据经验改变未来行为；
- 推理：从已有信息得到新结论；
- 规划：选择一系列动作以接近目标；
- 语言：理解和产生符号序列；
- 适应：在环境变化后调整策略；
- 社会认知：推测他人的知识、意图和情绪。
一个系统可以在其中一项极强，在其他方面几乎没有能力。计算器的算术超过普通人，却不会理解自己正在计算；棋类程序能规划大量变化，却不能把棋盘经验直接迁移到交通管理；语言模型能谈论众多领域，也可能在简单事实或持续执行上失败。
这意味着“它是否智能”常常不是最佳问题。更精确的问题是：它具备哪些能力，每种能力在什么分布和约束下成立？
智能、意识、自主性与拟人化
另有四个概念尤其容易混在一起。
智能
这里把智能理解为解决问题、学习、推理、适应或有效行动的能力集合。它可以通过任务表现部分测量，但不存在所有场景公认的单一刻度。
意识
意识涉及是否具有主观体验，例如疼痛是什么感觉、红色怎样被体验。一个系统表现出复杂智能，不会自动证明它有主观体验；反过来，一个有感受的生物也不必擅长抽象推理。
自主性
自主性描述系统在多大程度上能够在较少外部干预下设定或维持目标、选择行动并应对变化。恒温器可以在局部闭环中自主开关，自动驾驶系统可以在限定道路环境中自主控制，但这不等于它们拥有人的自由意志或普遍自主性。
拟人化表现
拟人化表现指系统呈现出像人的语言、外形、声音或社交反应。人形机器人可能高度拟人却行动笨拙；没有脸和声音的优化程序可能在特定任务上非常强。
| 维度 | 要问的问题 | 不能由什么直接推出 |
|---|---|---|
| 智能能力 | 它能解决哪些问题？ | 不能直接推出有意识 |
| 意识 | 它是否具有主观体验？ | 不能只凭语言流畅确认 |
| 自主性 | 它能独立维持多长、多开放的行动？ | 不能只凭一次自动执行确认 |
| 拟人化 | 它多像人在表达或行动？ | 不能推出内部机制像人 |
概念深潜：四个维度可以独立变化
设想四个系统。
第一个是会眨眼和微笑的机械玩偶，动作完全按固定顺序播放。它的拟人化程度高，自主性和问题解决能力低。
第二个是没有外形的物流优化器。它每天调整数千辆车的路线，在限定任务上能力很强，却不使用自然语言，也没有理由被认为具有意识。
第三个是能调用工具的对话助手。它可以围绕目标执行若干步骤，表现出一定自主性；但目标由人给出，权限由外部系统限制，长程可靠性也可能不足。
第四个是一名刚出生的婴儿。婴儿在许多标准任务上远不如计算机，却通常被认为具有感受，并拥有巨大的发展潜力。
把四个维度分开，不是为了回避“机器能否思考”，而是为了让问题能够被证据逐项约束。
目的可以来自哪里
祭坛点火后，神殿门开启，看上去仿佛装置“响应了仪式”。恒温器让房间保持设定温度，看上去仿佛它“希望”房间不要过冷。下棋程序选择胜率较高的棋步，看上去仿佛它“想赢”。
这些目的性表现可能来自不同层次：
- 设计者把目标直接写进结构；
- 控制系统通过反馈减少目标与现状的差距；
- 学习系统根据奖励或误差调整行为；
- 规划系统比较未来方案并选择动作；
- 人在解释行为时赋予系统意图语言。
说“系统想把温度维持在 22 摄氏度”在工程沟通中很方便，只要我们知道这是目标函数和反馈回路的简称。危险出现在比喻悄悄变成事实判断时：从“好像想要”跳到“拥有与人相同的欲望”。
这种语言问题会伴随整本书。我们会说神经网络“关注”某个词、模型“学习”特征、智能体“决定”调用工具。它们是有用的功能描述，但每次都需要问：具体机制是什么？
为什么梦想先于技术
直到 20 世纪，人类才拥有足以承载复杂 AI 程序的电子计算机。为什么会思考的机器却那么早就进入想象？
因为愿望不需要等待零件成熟。人希望减轻劳动、保存知识、预测未来、复制生命，也希望通过制造物理解自己。自动机给这些愿望一个可见外壳，机械计算给它们一个符号基础，通用机器的设想则让同一装置可能执行不同任务。
不过，从“机器可以执行步骤”到“思考可以写成步骤”，中间仍缺一座桥。数字运算容易检查，日常推理却充满含义、上下文和模糊表达。怎样把“所有人都会死；苏格拉底是人；所以苏格拉底会死”写成机器无需常识也能执行的形式？怎样保证每一步有效？是否存在一种通用规则，能够解决所有写成符号的问题？
第 2 章将进入逻辑学的道路。它先取得一场巨大胜利：把一部分推理从自然语言中剥离出来，变成可以机械检查的符号操作。随后，这条道路又亲自发现了自己的边界。
本章小结
- 自动机能够呈现有目的的动作，但外部表现不能单独说明内部机制。
- 工程可以复制功能而不复制自然机制；像人一样输出，不等于以人的方式工作。
- 机械计算把数字关系交给物理状态，分析机设想又把操作序列与机器结构分开。
- 洛夫莱斯既看见了通用符号操作的潜力，也警惕把机器拟人化；“按机制运行”与“产生意外结果”并不矛盾。
- 智能、意识、自主性和拟人化表现是不同维度，评价系统时应分别寻找证据。
- 下一步的关键问题，是能否把思考中可重复、可检查的部分写成形式规则。
思考问题
- 一个系统如果外表完全不像人，却能在某项任务上稳定超过人，它是否比人形玩偶更“智能”？为什么？
- “土耳其行棋傀儡”对今天观看 AI 演示有什么启发？
- 机器产生了设计者没有预料到的输出，是否足以称为创造？你还需要哪些证据？
- 当我们说导航软件“认为这条路更快”时，这句话省略了哪些机制？
延伸阅读
- 洛夫莱斯的分析机注释适合直接阅读。注意她如何同时讨论机器的广泛用途和能力来源。(Lovelace 1843年)
- 《The Restless Clock》把自动机放入更长的生命机械论争论中。(Riskin 2016年)
- Margaret Boden 的《Mind as Machine》系统梳理了认知科学与 AI 的多条思想来源。(Boden 2006年)