序章 今天，当我们谈论 AI
你在手机上说出一句话，几秒后便得到一封措辞得体的邮件。你把一张植物照片交给模型，它能描述叶片形状，猜测可能的种类，并提醒你不要只凭照片判断是否有毒。你让另一个系统根据文字生成图像，画面里有光线、材质和透视；再给它一段视频，它能寻找某个动作发生的时刻。还有一些系统能够调用搜索、计算器和代码工具，把一个问题拆成若干步骤再执行。
十多年前，这些能力分散在不同实验室，需要不同模型和专门接口。今天，它们开始出现在同一个对话框里。AI 不再只是一项藏在后台的技术：人可以直接用日常语言向它提要求，并立刻看到结果。
变化太快，语言反而容易失控。一个系统写出流畅回答，人们会说它“懂了”；它连续完成几步操作，人们会说它“会自主思考”；它犯下低级错误，又有人断言它只是毫无能力的“随机拼字”。这些判断看似相反，却经常犯同一种错误：从一次表现直接跳到系统的本质。
本书将从更慢、更可靠的问题开始：输入是什么？输出是什么？信息怎样在系统中流动？哪些参数来自训练？哪些步骤来自搜索、检索或工具？它在什么条件下成功，又会在哪里失败？
先看一次并不完美的成功
设想你向一个 AI 助手提出任务：
阅读一份三十页的设备说明书，找出故障代码 E17 的含义，计算维修窗口还剩多少小时，再起草一封给客户的通知邮件。
这个任务表面上只需一个回答，内部却可能包含多种能力：
- 识别 PDF 中的文字和表格；
- 在长文档中定位故障代码；
- 区分说明、警告与处理步骤；
- 从当前时间和截止时间计算间隔；
- 根据客户身份调整语气；
- 把事实、计算和措辞组合成邮件。
如果系统全部完成，我们当然获得了有用结果。但这次成功仍留下许多问题：它真的找到了说明书中的 E17，还是根据相似设备猜测？时间计算由语言模型心算，还是交给了计算器？引用是否指向正确页面？如果说明书版本不同，它会提醒还是悄悄沿用旧答案？邮件发送前是否需要人确认？
在短演示中，这些差别不容易被看见。到了医疗、财务、工业控制或公共服务场景，它们却可能决定系统是否可用。
核心判断
AI 的能力不是一句“会”或“不会”就能概括。至少要同时说明任务、数据、工具、成本、成功率和失败后果。
“AI”不是一种单独的机器
人工智能（Artificial Intelligence，AI）通常指研究和制造具有感知、学习、推理、语言、规划或行动等能力的计算系统。这个定义故意很宽，因为 AI 从来不是一项固定技术。
国际象棋程序、垃圾邮件过滤器、人脸识别、推荐系统、自动驾驶、蛋白质结构预测和对话助手都可以被归入 AI。它们的输入、输出、内部结构和风险彼此差别极大。把它们放在同一领域，不是因为机器内部存在某种统一的“智能物质”，而是因为这些系统都在处理过去通常需要人类认知能力参与的问题。
“AI”还是一个会移动的标签。计算机刚出现时，符号计算、下棋和定理证明具有强烈的智能色彩；当某项能力成熟并成为基础设施，人们有时只称它为搜索、优化、控制或软件功能。AI 的边界不仅由技术决定，也受历史和社会习惯影响。
因此，本书不会寻找一条能把所有 AI 与所有普通程序完美分开的细线。更有用的办法，是看一套系统使用了哪些机制，以及我们凭什么把某种能力归给它。
六个容易混用的词
谈论今天的 AI，先要把几个经常互换使用的词分开。
程序
程序是计算机可以执行的指令和数据组织。浏览器、计算器、操作系统和神经网络训练代码都是程序。程序可以非常复杂，却不一定属于 AI；AI 系统也必须通过程序运行。
算法
算法是解决一类问题的明确步骤或方法。排序、最短路径、梯度下降和采样都属于算法。一个产品通常包含许多算法；算法也不等于某份具体代码。
模型
模型是对对象、过程或关系的简化表示。机器学习模型通常包含从数据中调整得到的参数；给定输入，它用这些参数产生预测、分数或新内容。天气模型、信用风险模型和语言模型的任务不同，但都试图用有限结构捕捉现实或数据中的某些规律。
机器学习
机器学习（machine learning）让系统从样本和目标中调整模型参数，而不是由程序员逐条写出所有判断规则。程序员仍然决定数据如何准备、模型怎样组织、误差如何计算以及训练怎样运行；“从数据学习”不等于系统脱离人类设计。
生成式 AI
生成式 AI（generative AI）产生文本、图像、音频、视频、代码或其他新样本。所谓“新”，通常表示输出不是从数据库原样取回，但它会受到训练数据、提示、采样方法和工具结果的共同影响。生成不自动意味着创造意图，也不保证内容真实。
智能体
在今天的工程语境中，智能体（agent）通常指能够围绕目标反复执行“观察、决定、行动、再观察”的系统。语言模型可能负责提出下一步，外部程序负责浏览网页、调用工具或修改文件，状态管理器负责保存进度，人类确认负责约束高风险动作。智能体是一套系统组织方式，不只是给聊天机器人换一个名称。
| 术语 | 最简问题 | 例子 |
|---|---|---|
| 程序 | 计算机执行什么指令？ | 浏览器、训练脚本 |
| 算法 | 用什么步骤解决一类问题？ | 排序、梯度下降 |
| 模型 | 参数怎样把输入映射为输出？ | 分类器、语言模型 |
| 机器学习 | 参数怎样从数据中改变？ | 监督学习、自监督学习 |
| 生成式 AI | 怎样产生新的内容样本？ | 文本、图像、音频生成 |
| 智能体 | 怎样围绕目标持续行动？ | 检索、调用工具、检查结果 |
这些概念会在后文逐层展开。现在只需记住：当一个产品被称为“AI”时，内部往往同时存在普通程序、经典算法、一个或多个学习模型、外部数据与人为规则。
今天的系统强在哪里
截至本书首稿的核查日期 2026 年 8 月，先进 AI 系统已经在若干方向表现出明显的通用化趋势。
第一是统一接口。同一个模型可以接受自然语言指令，完成摘要、改写、问答、分类、信息抽取和代码辅助。任务不再都需要工程师分别训练一个专用模型。
第二是多模态。文字、图像、语音和视频开始进入共同系统。模型能够描述图片、读取截图、听取语音、回答跨媒体问题，也能生成多种媒体。长上下文研究还使模型能够一次接收更大的文档、代码库或音视频片段。(Gemini Team 2024年)
第三是从回答到行动。模型可以生成结构化参数，调用搜索、计算器、代码执行器或业务接口。它不必把所有知识都储存在参数中，也不必用语言猜测精确计算。
第四是增加推理时计算。一些模型在给出最终答案以前生成中间步骤、搜索候选、调用验证器或通过强化学习形成更长的解题过程。DeepSeek-R1 等公开技术报告展示了强化学习与推理行为之间的一条实现路线。(DeepSeek-AI 2025年)
这些进展不是单一算法独自造成的。更大规模的数据和计算、Transformer 架构、自监督预训练、指令微调、偏好优化、检索系统、工具接口和推理基础设施共同构成了今天的产品。AI Index 对研究、产业、成本、应用与治理的长期记录也显示，能力提升与资源投入、应用扩散和风险事件是同时发生的。(Stanford Institute for Human-Centered Artificial Intelligence 2026年)
流畅为什么会让人高估系统
语言是人类判断心智的重要线索。一个对象能够接住话题、解释比喻、修改语气并承认错误，我们很自然地会把意图、信念和理解归给它。这种反应并不愚蠢：在日常生活中，流畅语言通常确实来自另一个人。
但语言模型改变了这个经验前提。它通过预测和生成 Token（词元，即模型处理文本时使用的离散单位），能够产生高度连贯的语言形式。规模扩大后，模型还表现出知识问答、少样本学习、代码生成和多步解题等能力。GPT-4 等技术报告同时记录了广泛能力与幻觉、偏见、对抗性输入和评测局限。(OpenAI 2023年)
于是出现了一个需要全书反复保持的区分：
- 行为描述：系统在某个条件下给出了正确、连贯或有用的输出；
- 机制解释：这种输出由哪些训练、表示、搜索或工具过程产生；
- 心智判断：系统是否理解、相信、想要或意识到某事。
第一层可以通过实验观察；第二层需要研究内部与系统流程；第三层还牵涉哲学、认知科学和定义争议。看到一次出色回答，足以肯定这次行为，不足以自动解决后两层问题。
错误也不能用一句话概括
AI 系统会犯错，但“AI 不可靠”仍然过于笼统。错误可能来自完全不同的位置：
| 错误来源 | 表现 | 可能的改进方式 |
|---|---|---|
| 训练数据 | 知识缺失、偏见、过时 | 改进数据与训练 |
| 提示和上下文 | 指令含糊、重要信息被淹没 | 重写任务、结构化输入 |
| 生成过程 | 编造引用、计算不精确 | 检索、工具、验证器 |
| 外部工具 | 搜索失败、接口返回错误 | 重试、校验、降级 |
| 系统流程 | 多步错误累积、状态丢失 | 状态管理、检查点、人类确认 |
| 评价方法 | 测试集污染、指标不贴近现实 | 独立测试、真实任务评估 |
不同错误需要不同修复。让模型“再想一想”有时能改善推理，却不能保证补回缺失事实；接入搜索可以提供新资料，却可能检索到错误页面；增加智能体步骤能完成更长任务，也会增加工具调用和权限管理的风险。
这正是为什么本书不仅介绍模型，还会在后半部讨论检索、工具、记忆、智能体、机器人、评测和治理。今天的 AI 已经越来越像系统工程，而不只是一个模型文件。
判断未来时的两种对称误区
谈论 AI 的未来，还要避免另外两种对称的误判。
一种是把今天的演示直接延长成明天的必然。某个系统能完成十分钟任务，不表示扩大参数后就必然能可靠完成十天任务。长程行动会积累错误，还涉及成本、权限、环境变化和责任。
另一种是把今天的缺陷当成永久定律。早期语音识别、机器翻译和图像识别都曾被具体限制困住，后来数据、算法和硬件改变了可行边界。说“当前系统经常失败”是经验判断；说“机器永远不可能做到”则需要强得多的论证。
本书会把判断放回时间和条件中：
- 已经被可靠展示的能力是什么？
- 只在受控评测或精选演示中出现的能力是什么？
- 研究者正在尝试、但尚未稳定解决的问题是什么？
- 原则上是否可能，与工程上何时可行，是不是被混为一谈？
这本书怎样回答“AI 从哪里来”
今天的 AI 看上去像一次突然发生的爆发，实际上它背后至少有几条漫长道路。
一条道路试图把思考写成逻辑和规则；一条道路研究怎样在大量可能中搜索；一条道路让机器从数据中调整参数；一条道路从神经系统获得连接与学习的灵感；还有一条道路持续提供更大的数据、更快的芯片和更适合训练的软件。
这些道路时而竞争，时而合流。符号 AI 曾经占据中心，后来遭遇知识获取和组合爆炸；神经网络经历过兴起、冷落与复兴；概率方法让不确定性能够进入模型；Transformer 把注意力变成可扩展架构；预训练和对齐又让语言模型变成面向普通人的助手。
本书采用两层速度。主线从问题、人物和实验现象出发，让没有编程背景的读者也能追踪变化；技术深潜在关键节点停下来，检查矩阵、概率、训练目标和数据流。技术深潜可以跳过，后文不会把其中推导当作所有读者的必修前提。实践则放在更靠后的位置，等核心内容稳定后再逐步完善。
从一个古老愿望开始
现在，把对话框关掉，把时间向前拨动两千多年。
在人类拥有电子计算机以前，工匠已经制造会开门、倒酒、报时和演奏的装置；哲学家已经争论身体是否像机器；数学家已经梦想用符号解决争论。那些装置不会训练，齿轮也不会生成语言，但它们提出了一个延续至今的问题：
当一个人造物表现得仿佛有目的、有判断，甚至像一个人时，我们究竟看见了什么？
第一章从这个问题开始。它不是 AI 技术史的装饰性前传，而是我们理解今天系统时仍然需要的一次概念清理。