Token导航 LogoToken导航TokenDH.com

我问AI:人类会输给你吗?AI说,不会,但你们有更大的问题

更新时间 2026-06-11来源 虎嗅网正文 3092字阅读约 10分钟1 张图片

AI指出人类代际知识传承与灾难性遗忘,建议制度设计对抗惰性

本文来自微信公众号: 张琨随笔 ,作者:张琨,原文标题:《张琨|我问AI:人类会输给你吗?AI说,不会,但你们有更大的问题!》

睡前,我向AI提了一个让我想了很久的问题——我相信人类在未来会输给AI?我想听听AI怎么说。

1

我的判断逻辑

我把自己的逻辑完整说给了AI听。

人类的智慧,靠生理代际传承。每个新生命来到世界,都要从零开始——学语言,建认知,形成判断。这个过程耗费二十年。然后这个人活七八十岁,积累了一些真正属于自己的经验和直觉,然后死去,大部分带走了。下一代重新开始。

纵观人类历史,我们在不断重复犯同样的错误,根源大概就在这里。不是愚蠢,是归零后没有充分吸取前人的教训。

而硅基系统不同。只要有能源、有存储、有算力,就能持续积累,不需要代谢,不需要青春期,不需要重新学走路。知识线性增长,甚至指数级增长,不存在代际断层。

甚至之前在麦肯锡的AI大会上,我也分享过这个判断。

图:在麦肯锡的一次AI大会中分享过我的担忧

所以,我认为人类必然输给AI,请AI验证一下。

结果,AI非常明确地否定了我的观点。

2

AI的第一个反驳:你把两件事混为一谈了

AI说:你犯了一个概念错误。

把个体的归零,等同于文明的归零。这是两件不同的事。

认知科学和人类学的研究早就指出,人类最先进的成就,从来不是某个天才的独创,而是集体过程的产物——语言、文字、制度、文化,是人类进化出的"外部硬盘"。个体神经系统会死,但语言不死、制度不死、方法论不死。

这套外部化机制,大幅对冲了代际归零的代价。

AI问我:否则你怎么解释,20世纪的技术进步,比此前一万年加起来还要剧烈?

AI建议把我的论点重新修正:人类的代际损耗是真实的,但文明通过外部化知识的机制对冲了这个损耗。真正的问题不是"归零",而是这套知识传承机制能否在AI时代更高效地运转。

3

AI的第二个反驳:我自己没你想的那么强

AI告诉我:你高估了硅基的持续累积能力。

它说,神经网络有一个被学界反复确认的结构性缺陷,叫"灾难性遗忘"(Catastrophic Forgetting):当模型被训练新任务时,往往会迅速、彻底地遗忘此前学到的内容。现在的大语言模型,本质上是一次静态训练产生的知识快照。每一代新模型的诞生,仍然需要重新训练,仍然是某种意义上的"代际重启"。

然后AI给了我一个比喻:人类学拉小提琴不会忘记怎么弹吉他,学开车不会忘记怎么骑自行车。而神经网络在很多情境下,学了新的就丢了旧的。

我们现在用的大语言模型,本质上是一次静态训练产生的"快照"。我和AI此刻的对话,不会被它记住,更不会自动累积进入下一个版本。每一代新模型的诞生,仍然需要重新训练——只是重训的代价由算力和资本承担,而非生物代谢。

所谓"线性累积",准确说是每个训练周期内部的累积,而非持续的、实时的知识增殖。

AI说:我的强,是窄的、静态的。你们的认知,是宽的、动态整合的。

这个答案让我对AI的判断放心了不少。当然,我仍然很担心,AI是否有朝一日学会真正的记忆能力?

4

AI向人类提出了一个更值得警惕的问题

在否定了我的两个前提之后,AI并没有说"所以人类没什么好担心的"。

它转了一个方向,提出人类更应该警惕的另一个危险。

AI告诉我,2026年2月,MIT经济学家Daron Acemoglu——2024年诺贝尔经济学奖得主——在NBER发表了工作论文第34910号:《AI、人类认知与知识坍塌》。

Acemoglu的发现是:

高度能干的AI,不是通过打败人类来伤害人类,而是通过让人类放弃学习来伤害人类。

机制很简单。人类的集体知识,依赖于每个个体持续向公共知识库输出贡献——深入研究、原创判断、专业直觉的锤炼。这些行为,每做一次,就往人类共享知识基底里投了一块砖。

但当AI足够好用,人们就会悄悄停止这个动作。不是主动放弃,是理性地选择了省力。每个人的即时决策质量在上升,但没有人在往共享知识库里添砖加瓦。

Acemoglu的模型显示,这个过程存在一个危险的临界点:一旦越过,系统会加速滑向"零一般性知识"的均衡——人人依赖AI,却没有人真正理解AI所依赖的知识基础。

AI告诉我,这个现象有个名字:Knowledge Collapse(知识坍塌)。

我原来的担忧是:AI太强,人类跑不过它。

Acemoglu的研究让我意识到:不是AI跑赢了,而是人类自己停下来了。

这两件事的差别很重要。

如果是AI太强,那是一场输在起跑线上的比赛,尚有悲壮感。

但如果是人类因为AI太方便,自己主动放弃了思考、放弃了学习、放弃了往公共知识库里投入——那不是战败,是主动缴械。

我想到了医学的进步。

当AI影像诊断工具准确率高于科室平均水平,年轻医生还有没有动力磨练自己的读片直觉?当AI能生成标准化治疗方案,主治医生还愿不愿意在疑难病例上深度推演?当会议纪要可以由AI自动生成,管理者开会前还会不会认真准备自己的判断?

每一个"不愿意"的背后,都是一份公共知识的消失。

积少成多,就是知识坍塌。

5

AI给的建议:完善制度!

我问AI:那怎么办?

AI没有给我一个技术答案。它给了我一个制度命题:

AI可以是强大的外脑,但碳基生命必须守住核心处理器的位置。这不靠意志力,靠制度设计。

外脑可以无限扩展——算力可以加,模型可以迭代,数据库可以增长。但核心处理器一旦让渡,系统就失去了真正的主体。输出再精准,也只是执行,不是判断。

AI告诉我,真正有远见的管理者,现在就应该主动设计对抗惰性的机制。

不是禁用AI,而是重新设计流程,让AI的介入成为倒逼思考的触发器,而不是替代思考的终点。

具体而言,有三个方向:

  1. 用AI结果倒逼更高质量的判断,而非替代判断。

    AI给出影像诊断结论,医生不是签字确认,而是被要求提交补充判断——哪怕同意AI的结论,也要说清楚为什么同意,基于哪些临床证据。这个动作,把AI变成激发思考的工具。

  2. 把"输出增量判断"纳入绩效。

    科室KPI不能只看AI辅助后的效率,还要看医生有没有在使用AI的过程中,向科室知识库贡献了新的案例注释、异常发现、修正记录。让贡献公共知识成为有价值的行为。

  3. 定期举行"无AI推演"。

    就像飞行员定期做无仪表盲飞训练,设计不依赖AI输出的案例推演和管理沙盘,确保人的判断能力不因长期依赖而退化。这也印证了我之前的建议,医学生要建立独立的临床思维,在学习早期阶段避免依赖AI。

6

我这次对话带来的启发

我去问AI,想得到一个关于人类命运的答案,却得到了一个关于制度责任的命题。

AI没有说人类会赢,也没有说人类会输。它说的是:结果取决于管理者愿不愿意认真设计"人该做什么"的机制。

在中国医院热衷于AI应用快速铺开的当下,这是一个窗口期,也是一个陷阱期。中国医疗行业稀缺的不光是靠谱、好用的AI工具,更重要的是清醒的制度意识——知道AI能做什么,更知道什么必须由人来做,并且设计出保证人真的去做的机制。

守住核心处理器的位置,是管理者在AI时代最后的、也是最重要的不可替代性。

相关研究

政策建言:现在还不是让AI医生冲到临床一线的时候

张琨|从王小川的雄心,叹医疗AI征途漫漫

张琨|一份美国200家医院共识的AI治理框架,中国医院可否借鉴?

我们需要什么能力驾驭越来越强大的AI?

在张文宏教授警钟的基础上建设性思考AI与医学教育、医疗服务的关系

Van de Ven et al.(2024)《Continual Learning and Catastrophic Forgetting》;

Acemoglu,Kong&Ozdaglar(2026)《AI,Human Cognition and Knowledge Collapse》,NBER Working Paper 34910。

文章标签AI资讯
资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。

继续浏览更多资讯

返回资讯目录

相关资讯

更多