验证权在谁手里

——

思维研究 · 深圳启迪文化教育 · AI 与判断力系列 · 成人篇

发布于 2026-10-14 · 深圳启迪文化教育 · AI 与判断力系列 · 成人篇 · 约 3800 字 · 参考文献 8 条 · 本文为原创研究内容,版权归深圳启迪文化教育所有,转载须注明出处

AI 与判断力系列:成人篇《验证权在谁手里》 · 教育篇《政策已经到了门口,方法还没进教室》
相关阅读:《当 AI 替我们“懂了”》(信息与认知系列 · 应用篇)——本文“三个问题”与该文的“外化三检”同骨架,是其 AI 时代成人版的论证

一、分层:同一个 AI,不同的东西

同一个 AI,落在不同人手里,是完全不同的东西。有人从没接触过大模型;有人每天在用免费产品;有人在数学和编程里拿前沿模型做专业工作;极少数人接触得到内部的前沿系统。这个分层不是估算出来的,是看得见的——Andrej Karpathy(OpenAI 联合创始人)2025 年 4 月在 X 上发过一则帖文,给这个分层标了刻度:约 60 亿人几乎没接触过大模型,约 10–20 亿人是免费产品的轻度用户,约 2,000 万人在数学与编程领域专业使用前沿模型,约 5,000 人接触内部前沿系统。他把这个分布称为"一道陡峭的漏斗"(a sharp funnel),并指出此刻的怪异之处在于:所有层级同时存在、同时发生。

需要说明:他本人声明这是粗略估算(napkin math),不是测量数据,也不是任何机构的调查结论。 刻度可能不准,但分层的形状是可观察的——有人从未用过,有人每天用,有人靠它做专业工作。数字会过时,分层不会。

这个分层提示一件事:成年人之间正在拉开的那道缝,不在"用不用 AI"。那道缝在哪,是这篇文章想讨论的问题。

二、裂缝:产出提升了,然后呢

先把问题钉死:一个成年人用 AI,怎样才算真的提升了自己,而不是只提升了产出?

这个问题的陷阱在于——它问"怎样算提升",而"提升了"这件事,恰恰不是自己能判的。这不是感觉敏锐不敏锐的问题,是有数据的方向性偏差。

先看一组外部裁决的指标,它们在涨:

  • Noy 与 Zhang(Science 2023)做过一项随机对照试验:453 名有大学学历的专业人员完成写作任务,用 AI 的一组时间减少 40%,由独立小组盲评的质量高 18%,低技能者受益最大。需要说明的是:任务是短时、有激励的写作任务,不是在职务场景里的真实工作,作者本人提示这可能高估短期效应。
  • Brynjolfsson、Li 与 Raymond(QJE 2025)分析了 5,172 名客户服务岗位的真实业绩数据:引入 AI 辅助后,每小时解决量平均提高 15%,经验较浅的员工提高 34%。

这两项研究的裁决指标都是外部的——盲评小组、每小时解决量——所以读数可信。它们说明:在有外部裁决的任务上,AI 确实放大产出。

但另一组证据,方向相反:

  • METR 2025 年做了一项随机对照试验:16 名有经验的开发者完成 246 个真实任务,用 AI 后实际用时多了 19%。
  • 关键是同一项研究里的判断数据:这些开发者事前预期会快 24%,事后仍然以为自己快了 20%。

事前预期、事后的感觉、实际的结果,三者指向三个方向。 人在 AI 辅助下,连"自己变快了还是变慢了"都判断错——而且不是个别人判错,是整个样本系统性偏乐观。

还有两条相关证据。MIT 的一项脑电研究(arXiv:2506.08872)让 54 名受试者用 ChatGPT 完成写作,发现使用组在神经活动、语言表现和文本评分上出现下降,研究者用"认知债务"(cognitive debt)描述这种累积——需要说明的是:这是小样本研究,证据类型是相关性,不能当定论读。另一条是研究者提出的"元认知懒惰":把认知任务长期外包给聊天机器人,省掉的恰恰是"判断自己懂没懂"那一份劳动。这个提法来自 Gašević 团队(发表于《British Journal of Educational Technology》),OECD《数字教育展望 2026》是采纳并引述,不是提出者。

两组证据并排,是一个不太舒服的形状:在有外部裁决的任务上,AI 能放大产出;在只有自我判断的地方,人的判断系统性偏乐观。 而"我懂了""我提升了",恰好发生在后者。

这就是那个问题的答案位置:判断不能寄放在自己这里。用一句话说——验证权不能交出去。这里说的验证权,不是"有没有资格验证"的资格问题,是"验证这件事由谁把关"的执行问题;现成的说法要么落在能力上(会不会判断),要么落在资格上(有没有资格判断),这里谈的是第三件事——这个环节由谁来做。

两处必须讲干净的地方。其一,那两项显示 AI 有效的研究,恰恰证明的是"有外部裁决时 AI 有用"——这一点没人否认;它们没有测量的是"撤掉 AI 之后还能不能做",也没有测量使用者对自己状态的判断,而这两件事才是"提升了自己"的靶心。其二,正面研究里也有同向信号:Brynjolfsson 等报告,最资深的员工速度小升、质量小降——与 METR 的方向一致,但机制可能不同,这里只取"方向"不取"机制"。他们还报告了另一个信号:AI 辅助下国际客户服务岗位的英语流利度提升了。这是一条真实的学习证据,不打算抹掉;它集中在可外部测量的子技能上,是工作场景的副产品,不覆盖"判断自己懂没懂"这一层——这类子技能的提升能否迁移到其他能力,同样没有证据,本文不做这个推论。

三、判据:不问领域,问环节

那么,什么任务可以借力,什么任务借力即让渡?

常见的问法是"我属于哪个领域"——创意还是技术,文科还是理科。这个问法不好用。法律推理既要逻辑一致,也要证据可靠,还要理解当事人的处境;临床问诊同时用到诊断逻辑、实验证据和共情;经济预测三者都有。真实的认知任务大多是混合的,按领域对号入座会失效。

换个问法:不问领域,问环节。 任何任务都可以拆成环节,每个环节只问一句——它的裁决标准是什么?

环节的裁决标准借力规则
符号或逻辑内可裁:对错当场可见可以让 AI 生成,人当场裁决
物理世界或事实可裁:测得准、可复现、可查证可以让 AI 生成候选,人执行验证
只有第一人称能裁:感受、意义、取舍借力即让渡——AI 给的是参考,不是答案

举个拆法的例子:准备一次向客户的提案。市场判断——数据可查证、结论可被事实修正,属于事实可裁的环节;报价与测算——算错一眼可见,属于符号可裁的环节;客户关系怎么走、话说到几分——只有你自己能裁,属于第一人称环节。三个环节的借力规则因此不同:测算可以让 AI 生成、你核算;市场判断可以让 AI 汇总候选、你核对来源;关系判断 AI 给的是参考,不是答案。这是其中一种拆法,不是唯一拆法——复杂任务的环节边界会重叠,拆得不完美不影响问出那句话:这个环节由什么裁决?

Dario Amodei(Anthropic)在 2024 年 10 月的长文《Machines of Loving Grace》里给过一个一手例证:足够强的 AI 有可能把原本需要 50 到 100 年的生物学进展压缩进 5 到 10 年;但机理不是让科学家变聪明,而是大幅增加进入验证流程的假设数量——瓶颈从"生成假设"转移到"物理验证"。生成环节与验证环节可以分离,而验证那一端,从来不属于 AI。他在 2026 年 7 月接受 STAT 采访时还承认,AI 尚未达到"每年产出十年科学进展"的程度,受能力、使用者能力、科研基础设施三方面限制——这个自我修正本身也是个提醒:生成能力的放大,不自动等于验证能力的放大。

这是我们的操作框架,没有实证检验过,也不敢说它新颖——它只是把"这个环节由什么裁决"摆到桌面上。对拿不准的任务,它给的是一个起点:有外部裁决标准的环节,可以用 AI 生成、人裁决;没有外部裁决标准的环节,验证不可外包。

四、动作:三个可观察的问题

判据要落到动作上。三个问题:

  • 讲得出吗——AI 给的东西,你能不能用自己的话重讲一遍?
  • 验得过吗——不看 AI,你能不能独立把它重做一遍?
  • 用得出吗——换一个它没见过的情境,还用不用得出?

这三个问题不是从"孩子该怎样学"平移来的,是从第二节那些失效模式反推的:人系统性高估自己,所以需要外化——讲不出来,语言不配合你高估;加工可能被替代,所以需要独立重做——这是检查加工是否真发生过;现有的外部证据测的都是"同一个任务上表现得更好",没有测"换一个任务还行不行"——而后者才是能力是否随人走。

需要立一条规矩:这三个动作必须是撤掉 AI 做一次,不是问自己能不能。 我们旧文里写过一句可以照抄的话:"应用必须在没有 AI 辅助的情况下进行。如果需要 AI 辅助才能应用一个概念,说明这个概念还没有被你内化到可独立调用的程度。"METR 的数据说明了为什么不能"问自己"——事前预期快 24%、事后仍以为快 20%、实际慢 19%。问自己,问出来的就是那个 20%。

还有一条必须交代清楚:撤掉 AI,去掉的是 AI 在场的系统性偏差源;撤掉之后,自评是否恢复可靠,没有直接证据,我们也不做这个假设。 所以这三个动作是自检的起点,不是验证的完成态——起点由自己发起,完成不由自己签字。完成的形态在下一节:它要能被追问。

还有一层:路径可以外借,动作必须归己。 尺子、清单、别人整理好的框架,借来就能用;但借来的路径质量,取决于设计者的见识。"撤掉 AI 做一次",保的是后半句——别把动作也借出去;三个问题,保的是前半句——借来的尺子,量不了你没外化的部分。

五、出口:产出在哪里变成价值

三个问题回答的是"我能不能"。但认知要产生价值,还得再走一步——它影响了谁。

我们把出口分成三型:

出口型判什么例子
形式化对不对代码跑起来、编译过、被独立复核
实证对不对实验复现、测得准
社会有没有用讲出去、被追问、对方因此改变做法

这里必须说清楚一件事:前两型判"对不对",第三型判"有没有用",它们不是同一根尺子上的东西。 形式化出口的硬度内嵌在符号系统里——编译不过就是不过;社会出口的读数受权力、地位、关系、表达方式的影响,对方改变做法,未必因为你的认知对。

所以社会出口给的是一个影响力阶梯,不是认知质量的高低:讲给自己(无反馈)< 对方能复述(弱)< 被追问答得上(中)< 对方因此改变做法(强)。这个阶梯衡量的是认知在外部世界产生了多大影响,不衡量它有多正确。

拆开这两件事之后,掉出来一个真问题:正因为社会出口不判对错,大多数成人才更需要一个能判对错的校验。 主出口给你"产生了影响"的感觉,不给"想清楚了"的证据。所以成人需要的不是更大的出口,是在主出口之外,保留一个追问型校验——能被连续问"为什么"且答得上的那种。

追问问的是"为什么",不是"是什么":问"是什么",复述就能应付;问"为什么",才逼出加工是否真发生过。什么样的追问算数?这里给一个操作定义——连续问三层且不垮:第一层问"为什么"(这个结论的依据是什么),第二层问"这个依据为什么成立",第三层换一个条件问"还成立吗"。第一层复述能应付,第二层逼出结构,第三层考迁移。准备好的答和答得上,是两种东西——所以追问的情境里要有没演练过的意外。

三条防伪,缺一条,"有出口"就会退化成表演:

  1. 当场——撤掉 AI 做,不是准备完再做。准备过的"做一次",测的是准备,不是你。
  2. 可被追问——对方能问"为什么",不只是"是什么"。
  3. 含意外——问题里要有没演练过的情境。

顺带一个对照:2024 年 11 月教育部通知提出 2030 年前基本普及中小学人工智能教育——这是对照性提及,不是本文的论据——它提示的反而是:成人世界没有对应的普及路径。成人的出口,只能自己建。

也有这篇文章不装的部分:它没有、也不声称给出一把通用的尺子,能告诉你哪些任务该外包、哪些必须自己扛。 第三节那个"问环节"只是起点,三问也只是自检的起点。这篇文章能说出口的只有一件事:验证权不能交出去——至于你的任务怎么拆、出口建在哪,它不替你做主。

这个要求也指向它自己:三问是从失效模式反推的,没有对照数据;这篇文章给出的框架,同样是待追问的提案,不是结论。 我们用出口纪律要求世界,也用同一纪律要求自己——如果哪一天,这篇文章也经不起"撤掉 AI 做一次",它就该被改写。

AI 放大产出,出口决定产出是不是价值。没有出口的产出,是存货。

文中提到的研究

[1] Karpathy, A.(2025)X 帖文,2025-04-09 首发、2026-10-11 重发。文中数字为作者本人声明的粗略估算(napkin math),非测量数据。

[2] Noy, S., & Zhang, W.(2023). Experimental evidence on the productivity effects of generative artificial intelligence. Science, 381(6634), 187–192.

[3] Brynjolfsson, E., Li, D., & Raymond, L.(2025). Generative AI at Work. Quarterly Journal of Economics, 140(2), 889–942.

[4] METR(2025). Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity(随机对照试验;16 名有经验开发者,246 个任务)。

[5] Kosmyna, N., 等(2025). Your Brain on ChatGPT. arXiv:2506.08872.(小样本研究,相关性证据)

[6] Fan, Y., 等(Gašević 团队). British Journal of Educational Technology, 56(2), 489–530.("元认知懒惰"的提出者;OECD《数字教育展望 2026》为采纳并引述)

[7] Amodei, D.(2024). Machines of Loving Grace.(2026 年 7 月 STAT 采访的相关表述为采访记录)

[8] 《当 AI 替我们"懂了"》(本网站旧文,"应用必须在没有 AI 辅助的情况下进行"一节)

(深圳启迪文化教育)