微软研究院在 CHI 2025 会议上展示了人工智能作为认知工具 (Tools for Thought) 的研究，探讨 AI 如何辅助人类进行批判性思考、决策和问题解决。
微软研究院在 CHI 2025 会议上重点展示了其"认知工具 (Tools for Thought)"计划，该计划旨在探索人工智能如何超越优化工作流程，真正帮助人们更好地思考。研究包括通过调查知识工作者，了解人工智能对他们思维方式的影响，以及介绍三个旨在支持不同认知任务的原型系统。研究发现，人工智能在一定程度上降低了知识工作者的认知负担，但同时也可能减少批判性思考。研究还探讨了如何利用人工智能来增强决策能力，通过对比 RecommendAI 和 ExtendAI 两种工具，发现 ExtendAI 更有助于用户深入思考。此外，还研究了人工智能如何通过被动和主动的方式来改善会议效率。最后，介绍了一个名为 YES AND 的人工智能原型，旨在通过模拟与不同专业知识的代理的对话，促进集思广益。
主要内容
-
- 人工智能工具应激发批判性思维
通过质量标准、技能培养等方式，激发知识工作者进行批判性思考的内部驱动力，并减少时间限制、认知不足等外部制约因素。
-
- 人工智能工具应支持知识工作者进行批判性思考
人工智能工具应主动提示，提供推理说明、引导性评论和交叉引用，从而增强批判性思维，将人工智能视为思考伙伴。
-
- ExtendAI 通过引发和建立在用户自身认知过程之上，提供更有效的认知增强
与直接提供"即用型解决方案"的 RecommendAI 相比，ExtendAI 鼓励用户深入思考，从而更有效地增强认知能力。
-
- 人工智能系统应动态调整其干预级别，以平衡参与和中断，从而改善会议效率
人工智能系统应根据预设的时间阈值，动态调整其干预的强度和频率，从环境和轻量级到更直接，从而在不中断自然工作流程的情况下增强生产力。
AI 工具能否做更多于简化工作流程------它们能否真正帮助我们更好地思考？这就是 Microsoft Research Tools for Thought 项目背后的驱动力。在今年的 CHI 会议上，我们将展示四篇新的研究论文，并共同举办一个深入探讨 AI 与人类认知交汇点的研讨会。
本文将概述我们最新的研究成果，首先探讨 AI 如何改变我们的思考和工作方式。我们还将介绍三个原型系统，旨在支持不同的认知任务。最后，通过我们的 Tools for Thought 研讨会，我们邀请 CHI 社区帮助定义 AI 在支持人类思考方面的作用。
AI 对工作中的思考影响
通过一个提示，AI 可以生成各种输出，从文档和会议议程到答案和自动化工作流程。但当人们将这些任务委托给 AI 时，他们的思考过程会受到什么影响？
我们的一个目标是了解知识工作者如何使用 AI，他们如何看待其价值，以及它如何影响认知努力。
我们的研究，"生成式 AI 对批判性思维的影响：来自知识工作者的调查报告，表明自述认知努力和信心减少的效果"，调查了 319 名使用 AI 的专业人士，涉及各种职业。参与者分享了 936 个实际的 AI 使用案例，并反思了这些案例如何影响他们的批判性思维和心理努力。我们在此总结了这些发现。
定义和部署批判性思维。 知识工作者将批判性思维描述为包括设定明确目标、细化提示以及验证 AI 输出与外部来源和他们自己的专业知识。他们依靠这些实践来在使用 AI 时保持工作质量------受到避免错误、产生更好结果和提高技能的驱动。
发现
平衡认知努力。 参与者关于批判性思维和所付出努力的报告与长期以来人们在工作中管理认知负荷的人类倾向一致。对于高风险任务需要准确性时，他们表示使用 AI 进行批判性思维时比不使用 AI 时付出更多的努力。相反，在时间紧迫的低风险任务中，他们报告说使用 AI 时比不使用 AI 时在批判性思维上付出更少的努力。
信心效应。 研究发现，对 AI 的信心越高，批判性思维越少，而对自己的能力的信心越高，批判性思维越多------尽管认知成本更高。这表明在使用 AI 提高效率和保持积极的批判性参与之间存在微妙的平衡。
思维方式的本质转变。 参与者报告了思维方式的转变，更加注重信息验证、响应整合和任务管理。尽管 AI 自动化了知识工作中的某些方面，但它也要求更多地评估 AI 生成内容的准确性和相关性。
阻碍批判性参与的障碍。 研究发现，当使用 AI 时，存在一些阻碍批判性思维的障碍。这些障碍包括对需要批判性评估的意识不足、由于时间压力或认为工作范围有限而导致的动机不足，以及在不熟悉领域中难以精炼提示。
建议
为了在工作中培养批判性思维，我们建议 AI 工具积极鼓励意识、动机和技能的发展。
AI 工具应该增强促进批判性思维的动力因素 （例如，质量标准，技能培养），并减轻抑制因素（例如，时间限制，低意识）。主动提示可以突出未完成的任务，而反应性功能可以提供即时帮助。可以通过将批判性反思定位为职业成长的一部分------而不仅仅是额外的工作------来增强动力。
AI 工具还应支持知识工作者的批判性思维能力 ，通过提供推理解释（如一些新的 AI 模型现在所做的），引导式批评和交叉引用。这种转变必须在技术设计和知识工作者的心态中同时发生。与其将 AI 视为提供答案的工具，我们建议将其视为思想伙伴------它也可以起到挑衅的作用。
除了这些见解，我们其他 CHI 论文还探讨了设计增强人类认知的 AI 的实际方法。
利用 AI 增强决策制定
决策是知识工作的核心，人工智能越来越多地被用于帮助人们在医疗和金融等复杂领域做出决策。然而，当人工智能介入时，知识工作者保留了多少自主权？
我们的研究，"AI，帮我思考------但要为我自己：探索 1001#如何通过提供不同形式的认知支持来协助人们在复杂决策中"，与伦敦大学学院合作进行。我们首先进行了一项涉及 10 名参与者的初步研究，随后进行了另一项涉及 21 名参与者并使用了两种不同的人工智能支持决策系统的比较研究。
对于一项复杂的金融投资任务，我们比较了两种不同的人工智能工具（图 1）：RecommendAI ，提供人工智能生成的建议，以及 ExtendAI，鼓励用户在接收人工智能反馈之前表达自己的推理。
图 1. 与两种类型的人工智能交互时思维过程的示例比较：RecommendAI 和 ExtendAI。
发现
两种系统都被发现能够增强认知并解决知识工作者调查中识别出的一些批判性思维挑战，这表明平衡的方法具有潜在价值。
RecommendAI 提供了具体的建议，激发用户探索决策的新方向。这通常导致新的见解和反思。然而，有时建议与用户自己的推理脱节，减少了参与的深度。
相反，ExtendAI 通过提供对其推理的反馈，鼓励用户更深入地反思他们的决策。这帮助他们审视自己的思维过程并考虑其他视角。然而，一些用户发现反馈过于笼统，不够具体可行。
在用户如何将这些工具融入决策过程方面，RecommendAI 提供了促使用户超越常规思维模式的新视角。通过推荐基于用户自身推理之外的选项，它鼓励用户探索他们可能未曾考虑的想法。然而，一些用户认为这些推荐是一个"黑箱"解决方案。这种缺乏透明度使得这些推荐更难理解、信任和应用于自己的思维过程中。
而 ExtendAI 则与用户现有的推理方式相契合，使其反馈更容易被接受。这有助于用户保持控制感和连续性。然而，由于反馈往往重复了他们最初的思考，有时会限制新的见解，并有可能强化现有的偏见。
这些发现表明，像 ExtendAI 这样的 AI 工具，旨在激发和建立用户自身的认知过程，可能比仅仅提供用户必须弄清楚如何解释和应用的"现成解决方案"更有效的增强方式。
我们是否正走在正确的道路上？用 AI 使会议更高效
会议经常被批评无效。虽然这有时是由于不良的实践------如缺乏明确的议程、延迟开始和不清晰的主持------但我们认为更深层次的问题是缺乏 会议意图性 ：知道会议为何召开，并在整个会议中保持讨论集中在这一目的上。一个关键挑战是保持目标的清晰性贯穿整个会议。
在论文《我们正走在正确的道路上吗？会议中的人工智能辅助目标反思》中，我们探讨了 AI 工具如何通过促进反思 （即对会议目标的认识以及当前对话与这些目标的契合程度）来实时改善会议。
我们的研究对象是 15 名知识工作者，他们分别使用了两种基于 AI 的设计范式： 被动目标辅助 ，通过环境可视化（一个实时图表，显示对话主题与会议目标之间的关系）和主动目标辅助 ，通过互动提问（促使参与者考虑当前对话是否符合会议目标）。这些方法在图 2 中有所说明。
图2. 探索保持会议聚焦于既定目标的被动和主动技术原型。
建议
研究结果突显了 AI 在帮助团队实现会议目标方面的潜力。我们发现了被动支持与主动支持之间的三个关键设计权衡。基于这些发现，我们提出以下 AI 设计建议。
信息平衡。 在被动方法中，环境可视化可能会导致信息过载的风险；而在主动方法中，互动式提问可能会缺乏细节。为了有效，AI 应该在适当的时间提供适量的信息，并根据最需要这些内容的个人定制内容------既不要让用户感到不知所措，又能提供有意义且及时的反思支持。
参与度与打断之间的平衡。 当参与者深度参与讨论时，重要的打断可能会压倒并打断讨论的流畅性。相反，在困惑或不一致的时刻，微妙的提示可能不足以让团队回到正轨。 AI 系统应该动态调整其干预水平------从轻量级和背景式的到更直接的干预------根据时间阈值进行升级或降级，这些阈值可以为每个团队量身定制。
团队目标与个人目标意识的平衡。AI 辅助可以推动团队行动，例如调整议程。 这种影响在主动方法中更为明显，该方法需要团队响应，而被动方法则支持个人思考而不直接干预团队行为。团队范围内的参与取决于 AI 提示的可见度以及它们在讨论中是如何引入的。
这项研究帮助我们理解 AI 设计选择如何在会议中支持意图性，同时提高生产力而不打断自然的工作流程。
关于微软研究
推动科学和技术进步，造福人类
Opens in a new tab
鼓励使用 AI 进行多样化的解决问题头脑风暴
多元化的视角可以推动组织中的创造性问题解决，但个人往往缺乏接触不同观点的机会。在论文"YES AND：一种基于 AI 的促进多元思考的问题解决框架"中，我们基于"设计即兴"的理念，探索了一个基于角色代理的多智能体 AI 原型，模拟与代表不同专长的代理进行对话。
这些代理遵循经典的对话轮流模式，并结合信心模型来决定何时进行或回应对话。这使得代理和用户能够自然地在彼此的想法上进行扩展，并提出澄清性问题。该系统允许多方面的自由流动的想法生成，同时避免了群体头脑风暴中常见的常见陷阱，如社会惰化、生产性阻塞和团体思维（图3）。
图 3. YES AND 系统支持代理和用户之间的对话轮换，以围绕问题生成想法。
在一个会话结束时，一个名为 Sage 的 AI 代理总结讨论内容，让用户自行发展解决问题的结论性方法。这样，YES AND 有助于在解决问题时打破僵局，同时保留知识工作者塑造自己想法的自主权。
下一步：扩大 Tools for Thought 社区
我们相信，通过汇集各种视角和方法，是推动下一代思考工具发展的最好方式。除了我们的四篇论文外，我们还在 4 月 26 日与来自工业和学术界的合作者共同举办了一个研讨会：思考工具：利用生成式 AI 理解、保护和增强人类认知的研究与设计。****
在本 session 中，超过 60 名研究人员、设计师、实践者和 provocateurs 将聚集在一起，探讨理解并塑造 AI 对人类认知影响的含义。我们将共同探讨 AI 如何改变工作流程，设计的机会和挑战，以及哪些理论、视角和方法越来越相关------或者仍然需要开发。
这次研讨会的热情响应凸显了人们对 AI 在人类思维中作用的兴趣日益增长。我们的目标是培养一个跨学科的社区，致力于确保 AI 不仅能够加速工作，还能增强我们批判性、创造性以及战略性的思考能力。****
我们期待在 AI 辅助认知领域持续的讨论、新的合作以及 CHI 2025 下一波的创新。