作   者：Daron Acemoglu、Dingwen Kong  、Asuman Ozdaglar 

来   源：微信公众号「勿食我黍」（2025年7月31日）

随着生成式人工智能（如聊天机器人、智能助手和自动决策系统）的快速发展，人们越来越多地依赖AI来获取信息、完成任务甚至做决策。《人工智能、人类认知与知识崩溃》（AI, Human Cognition and Knowledge Collapse）这篇论文提出了一个值得深思的问题：当AI变得越来越强大时，人类社会的知识体系会不会反而变得越来越脆弱？

本文通过构建一个动态学习与决策模型，系统分析了生成式人工智能（尤其是具备自主决策能力的 agentic AI）对人类学习行为以及社会知识体系长期演化的影响。作者的核心观点是：尽管AI在短期内能够显著提升个体决策质量，但其对人类学习激励的削弱可能在长期导致社会总体知识积累的衰退，甚至出现“知识崩塌”（knowledge collapse）的极端情形。

作者提出的这个重要概念“知识崩塌”，指的是一种极端情况：社会整体的知识积累逐渐减少，人类越来越依赖AI，而真正掌握知识的人却越来越少。最终，社会虽然表面上拥有强大的智能工具，但人类自身理解世界的能力却在衰退。

要理解这一问题，首先需要区分两种不同类型的知识。论文区分了两种关键类型的知识：一般性知识（general knowledge）与情境特定知识（context-specific knowledge）。一般性知识是社会共享的知识基础，例如医学基础理论、金融市场结构或科学原理等；情境特定知识则与个体具体情境相关，如患者症状、个人风险偏好或具体任务条件等。作者认为，在大多数现实决策中，这两类知识是互补关系：一般知识提供理解框架，而情境知识决定具体行动。换言之，仅有情境信息而缺乏一般知识时，决策往往难以有效实施。 

其次，论文强调人类学习过程具有范围经济（economies of scope）。当个体投入学习努力时，通常会同时产生两种成果：一方面获得针对自身情境的私有信息，另一方面也会产生可以被社会共享的“公共信号”，逐渐积累为社会的一般知识存量。然而，由于这种一般知识具有公共品属性，个体在决策时往往不会完全内部化其社会价值，从而形成一种“学习外部性”。

在这一框架下，作者将agentic AI理解为一种能够直接提供情境特定建议的技术。例如，AI可以根据用户数据提供投资组合建议、医疗诊断建议或工作决策方案。这种能力使AI在功能上成为人类学习努力的替代品：当AI已经能够提供较准确的情境建议时，人们投入学习以获得这些信息的动力就会下降。与此同时，社会的一般知识却依赖于人类学习和探索过程不断产生。如果学习努力下降，公共知识积累也会随之减缓甚至停滞。

基于这一机制，论文提出一个重要的动态结论：AI可能带来短期收益但长期风险。在静态层面，AI提高了信息可获得性，因此个体决策往往更准确。然而，在动态层面，人类减少学习努力会削弱社会知识生产。当AI足够精确且学习努力对激励变化高度敏感时，系统可能进入一种“知识崩塌稳态”，即社会的一般知识逐渐消失，即使AI仍能提供个性化建议，整体知识体系也难以维持。 

进一步地，模型显示AI准确度与社会福利之间呈现非单调关系。在AI能力较低或中等水平时，其提供的信息可以提升个体决策效率，同时不会显著削弱学习动力，因此社会福利可能上升。但当AI精度过高时，人类学习努力被大量替代，公共知识存量下降，最终可能降低整体福利。因此，理论上存在一个最优的AI信息精度水平，超过这一水平后，社会福利反而下降。

此外，论文指出社会知识体系的稳定性还取决于知识聚合能力（aggregation capacity），即社会共享和传播一般知识的效率。例如，教育体系、科研社区、互联网平台或知识共享机制都可以提高知识聚合能力。当聚合能力较强时，个体学习产生的知识能够被更有效地传播，从而增强社会知识存量并提高系统对AI替代效应的抵抗力。相反，如果知识传播机制较弱，社会更容易陷入知识崩塌。

在政策层面，作者提出一种具有启发性的观点：为了维持长期知识生态，可能需要通过信息设计（information design）对AI进行一定程度的调节。例如，通过限制AI建议的有效精度或在某些场景下保留人类参与，以维持学习激励。这种“有意降低AI精度”的政策看似反直觉，但在长期福利最大化的视角下可能是合理的。

综上所述，本文的主要贡献在于从动态社会学习的角度提出了“知识崩塌”理论框架。该框架揭示了生成式AI发展中的一个重要悖论：技术越强，可能越削弱人类学习；而人类学习的减少又会削弱AI赖以存在的知识基础。因此，未来社会需要在利用AI提升效率与维持人类知识生产能力之间寻找平衡。本文发出了一个震耳欲聋的警告：我们正处于一个极具诱惑力的陷阱边缘。如果我们将所有的认知任务都交给代理化 AI，我们可能会赢得短期的效率，却在不知不觉中输掉整个人类文明长期赖以生存的进化动力。

通往知识崩塌的路，是由无数个“方便的建议”铺成的。从更大的角度来看，这篇论文提醒我们：技术进步并不自动意味着知识进步。如果社会过度依赖工具，而忽视知识的创造和积累，人类可能会在不知不觉中失去理解世界的能力。

因此，未来的关键问题并不是“要不要使用AI”，而是如何在利用AI提高效率的同时，继续保持人类的学习能力和创造力。毕竟，AI可以帮助我们回答问题，但提出新的问题、探索未知世界的能力，仍然属于人类本身。