超越 AI 研究社区的研究

AI 研究需要吸纳核心 AI 社区之外的不同视角和专业知识。

核心要点

应把社会科学家、伦理学家和政策制定者等群体的观点纳入 AI 研究，以促进技术的负责任、符合伦理的开发与部署。
AI 不仅是工程学科，也是一种会重塑治理、文化、经济和伦理的社会力量，因此需要整体性方法。
应开发“智能支持”工具，使 AI 研究者与不同领域专家能够顺畅合作，并支持符合伦理、可解释、特定应用导向的 AI 解决方案。

本章主席： Jihie Kim

背景与历史

“超越 AI 研究社区的研究”强调：AI 研究必须扩展到核心 AI 社区以外，吸纳不同视角和专业知识。

这种扩展至少有三个方向：

纳入社会科学、伦理学、数字人文、批判数据研究、传播与媒体研究、科学技术与社会研究以及政策制定视角，以保证 AI 被负责任地开发和部署。
让越来越依赖 AI 的其他学科——例如生物学、法律、商业、神经科学、认知科学——反过来影响 AI 研究本身。
随着多学科工作增加，开发“智能支持”工具和框架，帮助不同社区有效协作。

AI 引发的社会、伦理、法律和文化问题表明，多学科方法是必要的。偏差决策、隐私侵犯、治理、责任和包容性都无法仅靠工程技术解决。

必须结合人文和社会科学，使 AI 系统与人权、社会价值和全球公平保持一致。

AI 已不再只是工程学科，而是会重塑社会结构、文化规范、经济模式和伦理框架的变革力量。它既影响社会，也受到社会因素影响。

通过纳入伦理学家、法律专家、社会科学家和政策制定者，可以建立更有效的治理与责任机制，并处理偏差、不平等和非预期社会影响。提高 AI 设计中的包容性和多样性，也有助于降低风险并扩大收益。

当前状态与趋势

社会科学家和伦理学家更多参与 AI 治理

他们越来越多地参与个人数据使用、监控限制和负责任 AI 使用的指导原则制定。欧盟 AI 法案等治理框架也推动 AI 更符合人权、正义和社会需求。

其他领域反向影响 AI 研究

医疗、法律、商业等领域越来越依赖 AI。这些应用通常要求高准确性、可解释性、透明度和问责，从而推动 XAI 和领域特定算法研究。

跨领域协作工具

GitHub、Kaggle 和研究资料库等工具已经被广泛用于合作。未来加入智能能力的协作平台可能进一步提高多学科互动效率。

研究挑战

社会动态

AI 会改变人类互动、劳动力市场和社会治理。必须研究自动化、算法决策和 AI 系统如何影响民主、社会正义和平等，避免加剧既有差距。

伦理整合

伦理应从 AI 设计早期纳入。隐私、责任和公平不能只靠技术检查解决，还需要文化、哲学和社会视角。

法律与监管

需要重新审视知识产权、法律责任和人权相关规则。多学科合作对于建立可信、安全、保护公共利益的治理模式不可缺少。

文化适应与多样性

AI 在不同文化和地区普及时，需要适应不同社会规范、语言和传统。具有文化敏感性的设计是实现包容和公平技术收益的重要条件。

教育与公众理解

AI 的广泛影响要求重构教育体系。工程师、社会科学家、政策制定者和公众都需要跨学科 AI 素养。

环境可持续性

AI 开发与部署本身产生能源消耗。研究既要探索 AI 如何支持资源优化和气候解决方案，也要减少 AI 自身生态足迹。

智能支持方向

易用 AI 开发平台

让缺乏编程经验的其他学科人员也能构建 AI 方案或训练模型，并在开发过程中获得伦理指导。智能界面和可视化还可帮助理解模型输出。

领域特定 AI 工具

面向医疗诊断、网络安全、法律等领域构建定制工具。未来系统应理解一线工作者的需求，并支持真实领域工作流和推理过程。

AI 增强协作工具

构建智能环境，帮助 AI 研究者与其他领域专家共同工作。

社区意见

社区认为最重要的活动前三项是：

推动 AI 跨学科协作；
为医疗、法律、商业等具体领域开发 AI；
提高公众对 AI 影响的理解。

之后还包括：

把 AI 教育纳入非计算机专业；
建立责任和法律责任标准；
从多学科视角处理 AI 社会与文化影响；
提高 AI 设计包容性。

重点应用领域：

医疗：88%
气候：50%
教育：45%
生物学：43%
制造业：38%
商业：19%
法律：18%
金融：15%

其他候选领域包括农业、交通、脑疾病、物理、老年照护、灾害响应、媒体分析和网络安全。

支持跨学科合作的工具中：

易用 AI 开发平台：65%
AI 增强协作工具：57%
领域特定 AI 工具：53%

社区还建议提供教育支持、合作激励、建立跨学科研究组，以及长期可持续资金。

约三分之一参与者回答本主题，其中约 90% 的主要研究领域仍是 AI，因此来自其他学科的直接输入较少。这一限制应在解读结果时考虑。

参考文献

原报告列出大语言模型偏差与公平综述、文化感知图像描述、欧盟 AI 法案、医疗 AI、法律 AI、商业 AI 和可解释药物响应模型等资料。完整条目见原报告第 74 页。