AI 与认知科学 | Guaifinition Docs

AI 可以从认知科学的其他领域中学到很多，同时也能够反过来为这些领域做出重要贡献。

核心要点

认知科学是一个多学科领域，其形成受到 AI 的重要启发，尤其是“计算能否成为理解认知的科学语言”这一假设。
AI 与认知科学其他分支之间持续存在的一些互动已经产生重要成果，尤其是在认知架构方面。
扩大这种互动可能同时推动 AI 与认知科学取得重要进展。

本章主席： Kenneth D. Forbus

背景与历史

AI 是第一个建立在这样一种思想假设上的学科：无论智能的物质载体是什么，计算都可以成为理解智能本质的科学语言。认知科学是第二个，它把 AI、心理学、语言学、神经科学、人类学以及其他领域的研究者汇集到一起。

AI 的计算思想对早期认知科学影响巨大。但随着时间推移，由于多种原因，AI 与认知科学其他分支逐渐分离 [3]。

报告认为，今天重新建立这些联系具有重要价值：一方面，可以探索 AI 的进步如何帮助理解人类认知以及更广泛的动物认知；另一方面，认知科学其他领域的进展也能够帮助构建更好的 AI 系统。

在某些情况下，目标是学习如何在软件中实现生物体具有的认知能力；在另一些情况下，则可以有意识地让 AI 与人类认知不同，通过互补来提高人机团队的生产力。

当前状态与趋势

认知科学领域非常广，因此本章重点讨论三个可能与 AI 形成协同的方向。

1. 类人学习与推理

很多动物都会学习，但人类在多种学习和推理能力上极为突出。

从机器学习角度看，人类学习的一个惊人特点是：它通常是增量式、持续式且数据高效的，并且经常能够产生可以清晰表达的模型。

当代工业知识图谱已经拥有数百亿条事实，但其表达能力仍不如人类概念结构丰富 [4]。

另一方面，SAT 求解器和模型检查器等现代推理系统，在可处理问题规模和生成解决方案复杂度上常常超越人类 [2]。然而，现有 AI 推理系统仍无法像人类一样，在领域理论不完整或部分错误的情况下稳健推理，也无法从大规模经验中自然进行推理。

2. 认知架构

认知架构是一类用于探索认知固定结构假设的系统，研究这些结构如何定义认知所使用的过程与表示 [7]。

认知架构既用于研究如何构建能够跨多任务实时整合感知、认知和运动控制的 AI 系统，也用于更好理解人类智能。

例如，认知架构被用于模拟认知心理学和认知神经科学中的实验发现，并产生新的预测 [1,8]。

每一种认知架构都包含多个过程与表示，但它们关注的人类认知范围以及所采用假设的粒度差别很大。

3. 社会智能体

人类的一个标志性特征是，我们生活在协作世界中；我们通过与他人互动来了解彼此，并学习特定文化中的社会规范。

理解如何构建社会智能体，对于开发能够作为合作伙伴生活在人类世界中的 AI 系统非常重要 [9]。

目前的社会 AI 往往独立于社会科学已有的理论与发现发展，其社会行为学习方式也与人类获得社会技能的过程显著不同。

研究挑战

解决这些挑战有望带来：

适应性更强的 AI；
更低的计算与环境负担；
对人类认知尤其社会认知的更深入理解；
更好的思维工具。

类人学习与推理

如何开发类人的、增量式且数据高效的学习方法，并能够产生可清晰表达的模型？
如何建立形式化本体，覆盖人类概念结构的广泛范围，包括抽象概念以及以感觉—运动为基础的概念？
AI 如何在领域理论不完整或部分错误的情况下稳健推理，并在接近人类规模的知识体系中利用经验参与推理？

认知架构

扩展认知架构的高层能力，使其能够根据任务需求动态整合更广泛的人类能力，包括多种推理形式、元认知、在线持续学习、终身学习、跨模态与跨知识类型学习，以及持续的人类互动 [6]。这需要系统能够围绕物理世界、抽象概念和其他智能体建立模型，并利用符号关系表示和模态特定表示，对当前、未来和过去情境进行学习与推理。
探索基础模型与认知架构的整合，包括利用基础模型作为知识来源，以及用于理解和生成自然模态 [10]。认知架构的增量学习能力能否克服基础模型知识过时的问题？
建立全面的基准任务集，以评估人类认知能力的广度及其在端到端性能中的整合。任务应该足够多样、广泛，并具有诊断性，能够分别隔离认知能力及其互动，从而揭示具体优势和弱点。

社会智能体

通过互动促进学习。
当前 AI 系统通常通过被动观察社会行为学习，而不是参与社会行为。人类则持续通过相互适应共同塑造互动行为。即使 RLHF 等方法使用被冻结的模拟用户，它们也无法真正建模相互适应。因此，需要研究如何大规模支持或模拟互动式学习。
发展隐私保护的社会数据获取方法。
人类社会信号如面孔和声音通常泄露身份。解释社会线索又需要收集高度情境化的信息，例如微笑的含义取决于环境中还有谁、他们在做什么，以及具体物理环境。法律有理由限制这类信息收集，例如欧盟 AI 法案，但这同时大幅限制了社会数据获取和应用部署。

需要开发算法，在识别有意义社会信息的同时，可以证明未来任何算法都无法从存储数据中恢复侵犯隐私或匿名性的信息。能够收集、同时可证明去标识化的社会数据方法，对于社会智能体发展十分关键。
开发互动式基准。
如果 AI 的目标之一是建立具有一般社会能力的系统，就需要可靠方法衡量新模型是否真正进步。这包括偏见、价值对齐、欺骗倾向等问题。目前常见的是临时任务集合，但需要系统研究来建立完整的任务和指标分类。

相比之下，社会科学已经建立了理论驱动的社会情境本体。AI 需要进一步研究，如何把这些成果转化为系统、全面的人类社会和互动行为基准。

社区意见

约 30% 的受访者回答了本章问题。

在这些回答者中，认知科学其他领域对其研究的影响程度如下：

18%：总是
32%：通常
32%：有时
12%：很少
2.8%：从不

也约 82% 的回答者在合理程度上受到认知科学其他领域影响。

最主要的影响来源：

心理学：82%
神经科学：44%
语言学：40%
人类学：22%
其他领域：13%，其中哲学最常见

关于最相关问题，受访者给出了非常多样的开放回答，其中一些非常有创造性，例如研究“与人类心智完全不同的心智可能如何运作”。

参考文献

原报告列出 Anderson、Biere、Forbus、Gentner、Gluck、Laird、Kotseruba、Lugrin、Sumers 等相关工作，共 10 项。