验证权在谁手里
——
思维研究 · 深圳启迪文化教育 · AI 与判断力系列 · 成人篇
发布于 2026-10-14 · 深圳启迪文化教育 · AI 与判断力系列 · 成人篇 · 约 3800 字 · 参考文献 8 条 · 本文为原创研究内容,版权归深圳启迪文化教育所有,转载须注明出处
相关阅读:《当 AI 替我们“懂了”》(信息与认知系列 · 应用篇)——本文“三个问题”与该文的“外化三检”同骨架,是其 AI 时代成人版的论证
一、分层:同一个 AI,不同的东西
同一个 AI,落在不同人手里,是完全不同的东西。有人从没接触过大模型;有人每天在用免费产品;有人在数学和编程里拿前沿模型做专业工作;极少数人接触得到内部的前沿系统。这个分层不是估算出来的,是看得见的——Andrej Karpathy(OpenAI 联合创始人)2025 年 4 月在 X 上发过一则帖文,给这个分层标了刻度:约 60 亿人几乎没接触过大模型,约 10–20 亿人是免费产品的轻度用户,约 2,000 万人在数学与编程领域专业使用前沿模型,约 5,000 人接触内部前沿系统。他把这个分布称为"一道陡峭的漏斗"(a sharp funnel),并指出此刻的怪异之处在于:所有层级同时存在、同时发生。
需要说明:他本人声明这是粗略估算(napkin math),不是测量数据,也不是任何机构的调查结论。 刻度可能不准,但分层的形状是可观察的——有人从未用过,有人每天用,有人靠它做专业工作。数字会过时,分层不会。
这个分层提示一件事:成年人之间正在拉开的那道缝,不在"用不用 AI"。那道缝在哪,是这篇文章想讨论的问题。
二、裂缝:产出提升了,然后呢
先把问题钉死:一个成年人用 AI,怎样才算真的提升了自己,而不是只提升了产出?
这个问题的陷阱在于——它问"怎样算提升",而"提升了"这件事,恰恰不是自己能判的。这不是感觉敏锐不敏锐的问题,是有数据的方向性偏差。
先看一组外部裁决的指标,它们在涨:
- Noy 与 Zhang(Science 2023)做过一项随机对照试验:453 名有大学学历的专业人员完成写作任务,用 AI 的一组时间减少 40%,由独立小组盲评的质量高 18%,低技能者受益最大。需要说明的是:任务是短时、有激励的写作任务,不是在职务场景里的真实工作,作者本人提示这可能高估短期效应。
- Brynjolfsson、Li 与 Raymond(QJE 2025)分析了 5,172 名客户服务岗位的真实业绩数据:引入 AI 辅助后,每小时解决量平均提高 15%,经验较浅的员工提高 34%。
这两项研究的裁决指标都是外部的——盲评小组、每小时解决量——所以读数可信。它们说明:在有外部裁决的任务上,AI 确实放大产出。
但另一组证据,方向相反:
- METR 2025 年做了一项随机对照试验:16 名有经验的开发者完成 246 个真实任务,用 AI 后实际用时多了 19%。
- 关键是同一项研究里的判断数据:这些开发者事前预期会快 24%,事后仍然以为自己快了 20%。
事前预期、事后的感觉、实际的结果,三者指向三个方向。 人在 AI 辅助下,连"自己变快了还是变慢了"都判断错——而且不是个别人判错,是整个样本系统性偏乐观。
还有两条相关证据。MIT 的一项脑电研究(arXiv:2506.08872)让 54 名受试者用 ChatGPT 完成写作,发现使用组在神经活动、语言表现和文本评分上出现下降,研究者用"认知债务"(cognitive debt)描述这种累积——需要说明的是:这是小样本研究,证据类型是相关性,不能当定论读。另一条是研究者提出的"元认知懒惰":把认知任务长期外包给聊天机器人,省掉的恰恰是"判断自己懂没懂"那一份劳动。这个提法来自 Gašević 团队(发表于《British Journal of Educational Technology》),OECD《数字教育展望 2026》是采纳并引述,不是提出者。
两组证据并排,是一个不太舒服的形状:在有外部裁决的任务上,AI 能放大产出;在只有自我判断的地方,人的判断系统性偏乐观。 而"我懂了""我提升了",恰好发生在后者。
这就是那个问题的答案位置:判断不能寄放在自己这里。用一句话说——验证权不能交出去。这里说的验证权,不是"有没有资格验证"的资格问题,是"验证这件事由谁把关"的执行问题;现成的说法要么落在能力上(会不会判断),要么落在资格上(有没有资格判断),这里谈的是第三件事——这个环节由谁来做。
两处必须讲干净的地方。其一,那两项显示 AI 有效的研究,恰恰证明的是"有外部裁决时 AI 有用"——这一点没人否认;它们没有测量的是"撤掉 AI 之后还能不能做",也没有测量使用者对自己状态的判断,而这两件事才是"提升了自己"的靶心。其二,正面研究里也有同向信号:Brynjolfsson 等报告,最资深的员工速度小升、质量小降——与 METR 的方向一致,但机制可能不同,这里只取"方向"不取"机制"。他们还报告了另一个信号:AI 辅助下国际客户服务岗位的英语流利度提升了。这是一条真实的学习证据,不打算抹掉;它集中在可外部测量的子技能上,是工作场景的副产品,不覆盖"判断自己懂没懂"这一层——这类子技能的提升能否迁移到其他能力,同样没有证据,本文不做这个推论。
三、判据:不问领域,问环节
那么,什么任务可以借力,什么任务借力即让渡?
常见的问法是"我属于哪个领域"——创意还是技术,文科还是理科。这个问法不好用。法律推理既要逻辑一致,也要证据可靠,还要理解当事人的处境;临床问诊同时用到诊断逻辑、实验证据和共情;经济预测三者都有。真实的认知任务大多是混合的,按领域对号入座会失效。
换个问法:不问领域,问环节。 任何任务都可以拆成环节,每个环节只问一句——它的裁决标准是什么?
| 环节的裁决标准 | 借力规则 |
|---|---|
| 符号或逻辑内可裁:对错当场可见 | 可以让 AI 生成,人当场裁决 |
| 物理世界或事实可裁:测得准、可复现、可查证 | 可以让 AI 生成候选,人执行验证 |
| 只有第一人称能裁:感受、意义、取舍 | 借力即让渡——AI 给的是参考,不是答案 |
举个拆法的例子:准备一次向客户的提案。市场判断——数据可查证、结论可被事实修正,属于事实可裁的环节;报价与测算——算错一眼可见,属于符号可裁的环节;客户关系怎么走、话说到几分——只有你自己能裁,属于第一人称环节。三个环节的借力规则因此不同:测算可以让 AI 生成、你核算;市场判断可以让 AI 汇总候选、你核对来源;关系判断 AI 给的是参考,不是答案。这是其中一种拆法,不是唯一拆法——复杂任务的环节边界会重叠,拆得不完美不影响问出那句话:这个环节由什么裁决?
Dario Amodei(Anthropic)在 2024 年 10 月的长文《Machines of Loving Grace》里给过一个一手例证:足够强的 AI 有可能把原本需要 50 到 100 年的生物学进展压缩进 5 到 10 年;但机理不是让科学家变聪明,而是大幅增加进入验证流程的假设数量——瓶颈从"生成假设"转移到"物理验证"。生成环节与验证环节可以分离,而验证那一端,从来不属于 AI。他在 2026 年 7 月接受 STAT 采访时还承认,AI 尚未达到"每年产出十年科学进展"的程度,受能力、使用者能力、科研基础设施三方面限制——这个自我修正本身也是个提醒:生成能力的放大,不自动等于验证能力的放大。
这是我们的操作框架,没有实证检验过,也不敢说它新颖——它只是把"这个环节由什么裁决"摆到桌面上。对拿不准的任务,它给的是一个起点:有外部裁决标准的环节,可以用 AI 生成、人裁决;没有外部裁决标准的环节,验证不可外包。
四、动作:三个可观察的问题
判据要落到动作上。三个问题:
- 讲得出吗——AI 给的东西,你能不能用自己的话重讲一遍?
- 验得过吗——不看 AI,你能不能独立把它重做一遍?
- 用得出吗——换一个它没见过的情境,还用不用得出?
这三个问题不是从"孩子该怎样学"平移来的,是从第二节那些失效模式反推的:人系统性高估自己,所以需要外化——讲不出来,语言不配合你高估;加工可能被替代,所以需要独立重做——这是检查加工是否真发生过;现有的外部证据测的都是"同一个任务上表现得更好",没有测"换一个任务还行不行"——而后者才是能力是否随人走。
需要立一条规矩:这三个动作必须是撤掉 AI 做一次,不是问自己能不能。 我们旧文里写过一句可以照抄的话:"应用必须在没有 AI 辅助的情况下进行。如果需要 AI 辅助才能应用一个概念,说明这个概念还没有被你内化到可独立调用的程度。"METR 的数据说明了为什么不能"问自己"——事前预期快 24%、事后仍以为快 20%、实际慢 19%。问自己,问出来的就是那个 20%。
还有一条必须交代清楚:撤掉 AI,去掉的是 AI 在场的系统性偏差源;撤掉之后,自评是否恢复可靠,没有直接证据,我们也不做这个假设。 所以这三个动作是自检的起点,不是验证的完成态——起点由自己发起,完成不由自己签字。完成的形态在下一节:它要能被追问。
还有一层:路径可以外借,动作必须归己。 尺子、清单、别人整理好的框架,借来就能用;但借来的路径质量,取决于设计者的见识。"撤掉 AI 做一次",保的是后半句——别把动作也借出去;三个问题,保的是前半句——借来的尺子,量不了你没外化的部分。
五、出口:产出在哪里变成价值
三个问题回答的是"我能不能"。但认知要产生价值,还得再走一步——它影响了谁。
我们把出口分成三型:
| 出口型 | 判什么 | 例子 |
|---|---|---|
| 形式化 | 对不对 | 代码跑起来、编译过、被独立复核 |
| 实证 | 对不对 | 实验复现、测得准 |
| 社会 | 有没有用 | 讲出去、被追问、对方因此改变做法 |
这里必须说清楚一件事:前两型判"对不对",第三型判"有没有用",它们不是同一根尺子上的东西。 形式化出口的硬度内嵌在符号系统里——编译不过就是不过;社会出口的读数受权力、地位、关系、表达方式的影响,对方改变做法,未必因为你的认知对。
所以社会出口给的是一个影响力阶梯,不是认知质量的高低:讲给自己(无反馈)< 对方能复述(弱)< 被追问答得上(中)< 对方因此改变做法(强)。这个阶梯衡量的是认知在外部世界产生了多大影响,不衡量它有多正确。
拆开这两件事之后,掉出来一个真问题:正因为社会出口不判对错,大多数成人才更需要一个能判对错的校验。 主出口给你"产生了影响"的感觉,不给"想清楚了"的证据。所以成人需要的不是更大的出口,是在主出口之外,保留一个追问型校验——能被连续问"为什么"且答得上的那种。
追问问的是"为什么",不是"是什么":问"是什么",复述就能应付;问"为什么",才逼出加工是否真发生过。什么样的追问算数?这里给一个操作定义——连续问三层且不垮:第一层问"为什么"(这个结论的依据是什么),第二层问"这个依据为什么成立",第三层换一个条件问"还成立吗"。第一层复述能应付,第二层逼出结构,第三层考迁移。准备好的答和答得上,是两种东西——所以追问的情境里要有没演练过的意外。
三条防伪,缺一条,"有出口"就会退化成表演:
- 当场——撤掉 AI 做,不是准备完再做。准备过的"做一次",测的是准备,不是你。
- 可被追问——对方能问"为什么",不只是"是什么"。
- 含意外——问题里要有没演练过的情境。
顺带一个对照:2024 年 11 月教育部通知提出 2030 年前基本普及中小学人工智能教育——这是对照性提及,不是本文的论据——它提示的反而是:成人世界没有对应的普及路径。成人的出口,只能自己建。
也有这篇文章不装的部分:它没有、也不声称给出一把通用的尺子,能告诉你哪些任务该外包、哪些必须自己扛。 第三节那个"问环节"只是起点,三问也只是自检的起点。这篇文章能说出口的只有一件事:验证权不能交出去——至于你的任务怎么拆、出口建在哪,它不替你做主。
这个要求也指向它自己:三问是从失效模式反推的,没有对照数据;这篇文章给出的框架,同样是待追问的提案,不是结论。 我们用出口纪律要求世界,也用同一纪律要求自己——如果哪一天,这篇文章也经不起"撤掉 AI 做一次",它就该被改写。
AI 放大产出,出口决定产出是不是价值。没有出口的产出,是存货。
文中提到的研究
[1] Karpathy, A.(2025)X 帖文,2025-04-09 首发、2026-10-11 重发。文中数字为作者本人声明的粗略估算(napkin math),非测量数据。
[2] Noy, S., & Zhang, W.(2023). Experimental evidence on the productivity effects of generative artificial intelligence. Science, 381(6634), 187–192.
[3] Brynjolfsson, E., Li, D., & Raymond, L.(2025). Generative AI at Work. Quarterly Journal of Economics, 140(2), 889–942.
[4] METR(2025). Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity(随机对照试验;16 名有经验开发者,246 个任务)。
[5] Kosmyna, N., 等(2025). Your Brain on ChatGPT. arXiv:2506.08872.(小样本研究,相关性证据)
[6] Fan, Y., 等(Gašević 团队). British Journal of Educational Technology, 56(2), 489–530.("元认知懒惰"的提出者;OECD《数字教育展望 2026》为采纳并引述)
[7] Amodei, D.(2024). Machines of Loving Grace.(2026 年 7 月 STAT 采访的相关表述为采访记录)
[8] 《当 AI 替我们"懂了"》(本网站旧文,"应用必须在没有 AI 辅助的情况下进行"一节)
(深圳启迪文化教育)