第33章 AI 将怎样改变人的生活
早晨，一个人让 AI 整理邮件；中午，医生用模型辅助查看影像；下午，学生请助手解释一道题；晚上，一段真假难辨的视频出现在社交平台。
这四件事使用的可能是相似的模型，产生的社会问题却完全不同。整理邮件出错，通常可以撤销；医疗建议出错，代价可能很高；学习助手给出答案，也可能让学生失去练习；合成视频即使很快被澄清，也可能已经改变公众判断。
因此，“AI 会带来什么影响”没有脱离场景的统一答案。技术能力只是起点，真正结果还取决于价格、组织流程、法律权利、人的选择，以及错误由谁承担。
从能力到影响，中间隔着一条采用链
模型能完成某项演示，不等于组织会立刻采用，更不等于采用后产生预期收益。一项能力要进入生活，通常需要经过：
每一层都可能阻断或改变影响。一个模型可以生成合同草稿，但企业可能因为保密、责任和审查成本而限制使用；一个翻译工具技术上可用，却可能因专业术语和数据合规无法进入医疗场景。
社会影响还会反过来改变技术。用户行为产生新数据，企业根据成本重新设计产品，学校改变考试规则，创作者和权利人推动许可安排，攻击者则寻找新的欺骗方式。部署不是实验室结果的简单复制，而是一个反馈循环。
核心机制：社会影响由能力、采用与制度共同生成
AI 先改变某些任务的成本、速度和可执行范围，组织再决定怎样重组工作、教育和服务，法律与社会规范则分配权利、责任和收益。技术上可行只回答“能不能做”；实际影响还取决于是否经济、是否可靠、是否允许、是否被接受，以及失败后能否纠正。
工作不是一个标签，而是一组任务
“会计”“教师”或“程序员”看起来像一个整体，日常工作却由许多任务组成。会计要收集凭证、核对记录、解释规则、发现异常并与客户沟通；教师要准备材料、讲解、观察学生、反馈、评价和管理课堂。
AI 可能自动化其中一部分，增强另一部分，同时创造新的检查、整合和责任任务。Autor 回顾自动化历史时强调，技术既替代劳动，也常与劳动互补；Acemoglu 与 Restrepo 则用任务框架讨论自动化造成的替代和新任务带来的恢复。(Autor 2015年; Acemoglu 和 Restrepo 2019年)
这解释了为什么“某职业接触到 AI”与“该职业会消失”不是同一句话。文字生成模型可能覆盖大量文书任务，但岗位还包含面对面判断、组织协调、实物操作、法律签署和结果负责。相反，一个岗位即使不消失，所需技能、人数、节奏和议价能力也可能明显变化。
国际劳工组织对生成式 AI 与职业任务的分析也区分了任务暴露和完整岗位自动化，并指出增强工作的可能性。(Gmyrek 等 2023年) 这类估计依赖职业任务数据库、能力假设和采用条件，不是对某个国家、行业或年份的确定预言。
提高单项生产率，不等于所有人都受益
受控实验可以测量 AI 对特定任务的即时帮助。Noy 与 Zhang 在一组职业写作任务中发现，使用生成式 AI 的参与者平均完成得更快，输出质量也提高，且不同能力参与者的收益并不相同。(Noy 和 Zhang 2023年)
在真实客服环境的研究中，生成式 AI 助手提高了部分工作人员的生产率，经验较少、技能较低者获得的帮助更明显；工作还观察到客户情绪与员工留任等变化。(Brynjolfsson 等 2025年)
这些研究很重要，但结论不能自动外推到所有职业：
- 任务通常有明确范围和可比较产出；
- 使用者知道自己正在参加研究或接受新工具；
- 组织已经完成了一部分系统接入和培训；
- 短期速度与长期能力、创新和工作质量不是同一指标；
- 研究中的模型、界面和成本会随时间变化。
生产率收益如何分配还取决于组织。节省的时间可以变成员工更有价值的工作、更短的工时，也可以变成更高工作量和更严密监控。技术没有独自决定分配结果。
技术深潜：任务暴露、可采用性与岗位变化
设职业 \(j\) 包含 \(K\) 类任务，第 \(k\) 类任务占工作时间或价值的权重为 \(w_{jk}\)，且：
\[ \sum_{k=1}^{K}w_{jk}=1 \]
若模型对职业 \(j\) 中任务 \(k\) 的技术覆盖程度为 \(c_{jk}\in[0,1]\)，职业的技术暴露可以写成：
\[ E_j=\sum_{k=1}^{K}w_{jk}c_{jk} \]
\(E_j\) 高，只说明较多任务在技术上可能受到影响。实际自动化还需要任务层采用系数 \(a_{jk}\)，它受可靠性、成本、数据、流程、法规和组织选择影响：
\[ D_j=\sum_{k=1}^{K}w_{jk}c_{jk}a_{jk} \]
\(D_j\) 仍不是岗位减少比例。自动化可能降低单位产出的用工需求，却也可能降低价格、扩大需求；AI 还可能创造审查、整合、维护和新产品任务。一个简化分解是：
\[ \Delta L_j=-R_{disp}+R_{scale}+R_{new}+R_{reorg} \]
\(R_{disp}\) 是任务替代引起的劳动减少，\(R_{scale}\) 是产出扩大带来的需求，\(R_{new}\) 是新任务，\(R_{reorg}\) 是组织重构的净影响。四项必须使用同一时间窗口和同一种劳动量单位；它们受行业竞争、工资、培训和时间尺度影响，不能只由模型基准分数算出。
数据流应明确：职业任务清单进入暴露估计，模型能力测试提供 \(c_{jk}\)，企业成本与约束提供 \(a_{jk}\)，真实就业和工资数据再检验结果。若任务数据库过时、权重只按时间而忽略责任，或把一次成功演示当作稳定能力，估计就会偏高。
因此，可信报告应同时给出职业内部任务分布、能力假设、采用情景和不确定区间，并按地区、教育、性别、年龄和企业规模分析，而不是只发布一个“多少岗位将被替代”的数字。
岗位变化还包括工作质量和权力
即使就业总量不变，工作体验也可能改变。AI 可以减少重复记录、提供实时翻译和帮助新人，也可以把工作拆成更细的可监控步骤，使速度指标压过专业判断。
组织若把模型建议设为默认答案，员工可能需要花力气证明为什么不同意；若绩效只看处理量，人工核验会被视为拖延。相反，允许员工反馈错误、修改流程并分享收益，AI 更可能成为能力放大器。
需要观察的不只有岗位数，还有：
- 工资、工时和工作强度；
- 技能是否积累，还是因长期依赖而退化；
- 员工能否理解、质疑和覆盖模型建议；
- 监控数据是否超出完成任务的必要范围；
- 错误责任是否与实际控制权匹配；
- 生产率收益由员工、消费者还是平台获得。
这些问题说明劳动力政策不只是教授提示词。基础教育、职业转换、在职培训、社会保障和员工参与流程设计同样重要。
人机协作不是把“人”放在最后一环
许多系统声称“有人类在环”，实际可能只是让一个人快速批准大量模型输出。如果审查者时间不足、看不到原始证据、长期面对高正确率建议，就很容易机械接受。
Parasuraman 与 Riley 早已把自动化问题区分为误用、弃用和滥用：人可能过度依赖，也可能因不信任而拒绝真正有用的自动化。(Parasuraman 和 Riley 1997年)
有效协作需要设计人的工作：什么时候必须复核，展示哪些证据，怎样表达不确定性，如何反对模型，多久休息，如何学习事故，以及系统失败时谁有权停止。
还要避免形成“道德缓冲区”：复杂系统由组织设计和部署，出错后却把责任集中到最后点击确认的一线人员。Elish 用“moral crumple zone”讨论了自动化系统中责任不成比例地压向人的问题。(Elish 2019年)
人的责任必须与信息、时间、权限和专业能力相匹配。没有真实选择权的确认，不是有意义的监督。
教育助手可以同时帮助表现、伤害学习
学生完成一道题与真正学会，是两个时间尺度。AI 直接给出漂亮答案，能提高眼前作业质量，却可能跳过检索记忆、尝试、犯错和修正这些学习过程。
生成式 AI 在教育中可以承担多种角色：
- 用不同例子重新解释概念；
- 根据学生回答生成提示，而非直接给答案；
- 帮助教师制作练习、反馈草稿和多语言材料；
- 为残障学习者提供转写、朗读和表达辅助；
- 模拟对话、口语练习和低风险演练；
- 帮助整理资料，但要求学生回到原始来源核验。
它也可能给出错误解释、强化偏见、泄露学生数据，或让学生把流畅回答误当成理解。教育研究综述与 UNESCO 指南都强调机会与风险需要结合教学目标、年龄、隐私和教师能力判断。(Kasneci 等 2023年; UNESCO 2023年)
最关键的问题不是“允许还是禁止”，而是这次学习需要练习什么。如果目标是形成论证能力，学生就不能把论证全部外包；如果目标是评价资料核验，AI 可以生成待检查材料；如果目标是理解概念，系统应优先提问、提示和反馈。
评价方式必须跟着工具变化
当课外作业可以由 AI 生成，单靠最终成品很难判断学生是否掌握过程。学校可以增加：
- 课堂内的解释、口试和现场解决问题；
- 草稿、修改记录、来源与工具使用说明；
- 要求比较模型答案、定位错误并提出改进；
- 个人项目与真实数据，减少统一模板答案；
- 在允许工具和禁止工具的条件下分别评价；
- 对特殊需要学生提供一致而明确的便利安排。
检测“是否由 AI 写作”的分类器不能成为唯一证据。文本分布会变化，改写容易影响检测，误报又可能对学生造成严重后果。教育评价应依据可观察过程和多种证据，并保留申诉。
教师也需要知道工具的边界。把每位教师变成模型安全专家不现实，学校和平台应提供经过评估的系统、数据保护、培训和事故处理，而不是只发一份使用原则。
创作工具改变的是创作链，而不只是作品外观
摄影、录音、采样和数字编辑都曾改变创作。生成式 AI 的特殊之处在于，它能从简短输入快速产生大量文字、图像、音乐和视频，并可能在训练阶段吸收海量既有作品。
创作过程可以包括构思、检索、草图、生成、选择、编辑、组合和发布。不同创作者把 AI 放在不同位置：有人用它尝试配色，有人生成占位素材，有人让模型输出主体，再进行大量人工修改。
评价一件作品时，至少要区分三个问题：
- 训练材料的收集与使用是否有权利基础；
- 输出是否与既有作品构成受法律规制的相似或替代；
- 人对最终表达作出了多少可识别的创作控制。
版权规则依国家、作品类型和事实而不同，也仍在变化。以美国版权局 2025 年关于可版权性的报告为例，其分析强调人类作者身份与具体表达控制，并不把单纯提供提示自动视为对生成结果全部表达要素的作者控制。(U.S. Copyright Office 2025年) 这是一份特定法域和时间的报告，不是全球通用判决。
法律之外还有合同、平台条款、行业惯例和职业伦理。一个行为即使未明确违法，也可能不符合委托方关于保密、署名或原创性的约定。
隐私风险发生在输入、记忆与推断中
用户可能把病历、合同、未发布作品和工作机密输入模型。系统还可能保存对话用于日志、改进或个性化。即使没有直接姓名，内容组合也可能重新识别个人。
隐私问题至少包括：
- 训练数据中包含未经预期使用的个人信息；
- 用户输入被服务商或插件保存；
- RAG 检索把无权限文档送入上下文；
- 模型从看似普通信息推断健康、身份或偏好；
- 长期记忆在错误用户或错误任务中被检索；
- 删除原始数据后，模型或备份仍保留影响。
第 32 章已经讨论训练数据提取。面向用户的实用原则是数据最小化：不输入完成任务不需要的信息，对敏感内容优先使用经过批准的系统，明确保存期限与访问者，并让删除和导出真正可执行。
“个性化”也不是越多越好。系统记得用户偏好可能提高便利，但记忆越多，泄漏、误用和过时的风险越大。用户需要看到、修改和关闭这些记忆，而不是只能相信一句“我们重视隐私”。
技术深潜：选择性自动化、复核和责任
设模型对输入 \(x\) 给出预测 \(\hat y_m\) 与风险分数 \(r(x)\)。系统用阈值 \(\tau_1,\tau_2\) 把任务分为自动通过、人工复核和拒绝处理：
\[ d(x)=\begin{cases} \text{自动},&r(x)<\tau_1\\ \text{复核},&\tau_1\le r(x)<\tau_2\\ \text{拒绝},&r(x)\ge\tau_2 \end{cases} \]
最终风险不是模型错误率加一个“人工兜底”。设自动区错误率为 \(e_a\)，复核区中模型错误概率为 \(e_m\)；当模型出错时，人工正确发现并纠正的条件概率为 \(q_h\)；当模型原本正确时，人工引入新错误的条件概率为 \(e_h\)。一个简化期望损失可写为：
\[ R=P_a e_a C_a+P_r\big[e_m(1-q_h)C_m+(1-e_m)e_h C_h\big]+P_d C_d \]
\(P_a,P_r,P_d\) 是三类任务比例，\(C_a,C_m,C_h,C_d\) 分别表示不同错误与拒绝的代价。降低 \(\tau_1\) 会缩小自动区、扩大复核区；在仍满足 \(\tau_1<\tau_2\) 时，降低 \(\tau_2\) 会扩大拒绝区。前者可能减少未经复核的错误，却会增加人工队列；队列过长又会降低 \(q_h\)。这些效果还要求风险分数确实能把高风险样本排在前面。
人工复核能力不是常数。界面是否显示来源、模型建议是否默认选中、审查时间、疲劳、培训和申诉反馈都会改变 \(q_h\) 与 \(e_h\)。如果只用随机简单案例培训人，再把困难分布外案例全部转交人工，估计会过于乐观。
完整评测应在真实工作负载下测端到端结果：自动覆盖率、人工处理时间、模型错误被发现比例、人工新增错误、不同群体结果、拒绝代价和事故恢复。还要记录谁能改变阈值、谁承担决定，以及审查者是否拥有足够权限。
模型的解释文字可以帮助审查者定位证据，但不能证明模型真实内部推理过程，也可能让错误答案更具说服力。复核应优先看到原始数据、可验证来源和规则检查，而不是只看模型自述。
合成内容同时制造欺骗和普遍怀疑
生成图像、声音和视频降低了制作伪造内容的门槛。政治欺骗、冒充诈骗和未经同意的合成影像会因此更容易规模化。
实验研究表明，深度伪造政治视频不只可能造成直接欺骗，也可能增加不确定感、降低对新闻的信任。(Vaccari 和 Chadwick 2020年) 这带来一个“说谎者红利”：真实证据也可以被当事人声称为 AI 伪造。
检测器有价值，却存在模型更新、压缩、截图和对抗修改造成的竞赛。内容来源标准采用另一条路线：在拍摄、编辑和发布过程中附加可验证的来源与变换记录。C2PA 技术规范定义了这类内容凭证的结构。(Coalition for Content Provenance and Authenticity 2025年)
来源凭证能回答文件来自何处、经过哪些已签名处理，不能自动判断内容是否真实、公正或完整。没有凭证也不等于虚假，因为旧设备、转发和隐私需求都可能移除记录。
公共信息防护因此需要多层组合：平台限制冒充和协调操纵，媒体保留原始材料和核验流程，机构快速发布可验证信息，用户学习横向查证，受害者拥有举报与救济渠道。
数字鸿沟会从“能否联网”扩展到“能否有效使用”
AI 服务需要设备、网络、语言支持、支付方式、数字技能和可信内容。国际电信联盟持续记录全球联网差距；即使连接率提高，地区、收入和性别差异仍然存在。(International Telecommunication Union 2024年)
新的鸿沟可能表现为：
- 小语种和地方知识在训练数据中覆盖不足；
- 免费服务能力、速度和隐私保护弱于付费服务；
- 学校和小企业没有预算购买系统或培训人员；
- 无障碍功能存在，但没有覆盖真实设备和工作流；
- 少数平台控制接口、价格和数据迁移；
- 受影响群体没有参与系统设计或申诉渠道。
AI 也可能降低获取知识、翻译和辅助技术的成本。结果取决于公共基础设施、开放教育资源、无障碍设计、竞争和采购政策。只把模型放到网上，不等于机会已经平等。
判断社会影响要通过四道门
面对“AI 将替代教师”“AI 会让创作免费”之类判断，可以依次问：
| 门槛 | 核心问题 | 常被忽略的条件 |
|---|---|---|
| 技术上可行 | 模型能否在代表性任务上稳定完成？ | 分布变化、长程错误、成本与验证器 |
| 经济上合算 | 接入、复核和事故成本后仍值得吗？ | 数据整理、培训、延迟、供应商依赖 |
| 法律上允许 | 数据、用途、责任和权利符合规则吗？ | 法域、合同、行业义务和规则更新 |
| 社会上接受 | 相关人是否认为过程公平且可申诉？ | 尊严、信任、权力、文化与收益分配 |
只有第一道门来自模型能力测试。其余三道需要经济数据、法律分析、组织实践和公众参与。四道门也不是一次通过：成本、模型版本、事故和社会规范变化后，需要重新判断。
人本 AI 研究强调可靠、安全、可信的系统与人的控制和责任共同设计。(Shneiderman 2020年) “以人为本”不应只是界面友好，而要包括谁定义目标、谁获得收益、谁承受风险和谁能拒绝。
学习路径：审计一个真实工作流
实践继续后置。本章最有价值的练习不是预测整个社会，而是选择一个边界明确的流程：
- 选取课程反馈、客服回复或文档审查等低风险任务；
- 把岗位拆成输入、子任务、决定、输出和责任，不只写职业名称；
- 标出 AI 可辅助、可自动化和必须人工负责的部分；
- 计算模型调用、接入、复核、培训和错误的总成本；
- 分别测速度、质量、学习效果、工作负担和群体差异；
- 加入错误、敏感数据、分布外输入和用户申诉；
- 比较“无 AI”“建议模式”和“部分自动化”三种流程；
- 写出四道门结论，并明确证据不能支持什么。
实验不应收集真实敏感信息。若涉及学生或员工，应先处理同意、匿名化、退出权和评价后果。
本章小结
- AI 的社会影响由技术能力、接入成本、组织采用、法律权利和社会规范共同产生。
- 职业由任务组成；任务暴露、实际采用、岗位数量和工作质量是不同问题。
- 短期生产率实验能证明特定条件下的帮助，不能直接预测整个劳动力市场或收益分配。
- 有效人机协作需要信息、时间、权限和申诉，不能把最后点击确认的人当作无限责任兜底。
- 教育工具既能个性化解释，也可能替代必要练习；评价应更多观察过程、解释和来源核验。
- 创作、版权与隐私必须分别检查训练材料、输出、人的控制、合同和法域，不能只凭“AI 生成”判断。
- 合成内容既会欺骗人，也会损害对真实证据的信任；检测、来源凭证、核验与救济需要组合。
- 数字鸿沟包括联网、语言、能力、价格和控制权；服务上线不等于机会平等。
思考问题
- 为什么一个职业的任务暴露率很高，岗位数量仍可能增加？
- 学生使用 AI 后作业分数提高，为什么不能直接证明学习效果提高？
- “有人类在环”在什么条件下只是责任转移，而不是真正监督？
- 内容来源凭证能够证明什么，又不能证明什么？
延伸阅读
- Autor 以及 Acemoglu 与 Restrepo 的文章适合建立任务、替代、互补和新工作的长期框架。(Autor 2015年; Acemoglu 和 Restrepo 2019年)
- 两项生成式 AI 工作研究展示了受控写作任务与真实客服部署中生产率证据的不同边界。(Noy 和 Zhang 2023年; Brynjolfsson 等 2025年)
- UNESCO 指南与教育综述适合继续分析年龄、教学目标、隐私和评价设计。(UNESCO 2023年; Kasneci 等 2023年)
- 自动化使用、责任缓冲区与人本 AI 文献可用于设计真正可执行的人类监督。(Parasuraman 和 Riley 1997年; Elish 2019年; Shneiderman 2020年)
- 深度伪造研究与 C2PA 规范分别讨论认知影响和内容来源技术。(Vaccari 和 Chadwick 2020年; Coalition for Content Provenance and Authenticity 2025年)