并行智能体：加速AI系统性能突破的新范式

人工智能领域正经历着前所未有的发展，而并行智能体的出现为提升AI系统性能开辟了新的路径。随着AI能力通过更多训练数据、训练时计算和测试时计算不断扩展，让多个智能体并行运行已成为一种进一步扩展和改进性能的技术手段。

传统AI扩展方式的局限

传统上，AI模型的性能随着数据量和训练计算量的增加而可预测地提升。百度和OpenAI的研究已经证实了这一点。然而，随着推理模型和智能体工作流的发展，性能进一步提升的同时也带来了新的挑战。

推理模型是顺序生成标记的，运行时间可能很长。同样，大多数智能体工作流最初也是以顺序方式实现的。这种顺序处理方式虽然逻辑清晰，但在处理复杂任务时往往效率低下，无法满足用户对实时响应的需求。

并行智能体工作流程示意图

随着大语言模型(LLM)每标记价格的持续下降，这些技术变得更加实用，而产品团队希望更快地向用户提供结果，因此越来越多的智能体工作流正在被并行化。

并行智能体的核心优势在于它们能够在不显著增加用户等待时间的情况下提高结果质量。通过同时运行多个智能体，系统可以并行处理不同部分的任务，从而大大缩短整体处理时间。

许多研究代理现在会同时获取多个网页并并行检查其文本，以尝试更快地合成深入的研究报告。这种并行处理方式使得研究代理能够在短时间内处理大量信息，显著提高了研究效率。

一些智能体编程框架允许用户编排许多智能体同时在代码库的不同部分上工作。我们的Claude Code短期课程展示了如何使用git worktrees实现这一点。通过并行处理代码的不同部分，开发团队可以显著加快软件开发速度。

一个迅速增长的设计模式是让计算密集型智能体工作数分钟或更长时间来完成一项任务，同时另一个智能体监控第一个智能体并向用户提供简要更新，以保持他们了解情况。从这里开始，并行智能体可以在后台工作，而UI智能体保持用户知情，并将异步用户反馈路由到其他智能体。

对于人类管理者来说，将复杂任务（如构建复杂的软件应用程序）分解为更小的任务供人类工程师并行工作具有挑战性；扩展到大量工程师尤其困难。同样，为并行智能体分解任务也具有挑战性。

然而，LLM推理成本的下降使得使用更多标记变得值得，而并行使用这些标记可以在不显著增加用户等待时间的情况下实现这一目标。

混合智能体(mixture-of-agents)架构是组织并行智能体的一种出奇简单的方式：让多个大语言模型提出不同的答案，然后让聚合器大语言模型将它们组合成最终输出。这种方法不仅简单，而且非常有效。

Ryan Ehrlich等人发表的"CodeMonkeys: Scaling Test-Time Compute for Software Engineering"展示了并行代码生成如何帮助探索解决方案空间。这一研究为并行智能体在软件开发中的应用提供了重要参考。

Junlin Wang提出的混合智能体架构是一种组织并行智能体的创新方法。通过让多个大语言模型同时工作，然后聚合它们的输出，这种方法能够产生比单一模型更高质量的 result。

并行智能体领域仍有大量研究和工程探索空间，如何最好地利用并行智能体是一个开放性问题。我相信，能够有效并行工作的智能体数量——就像能够有效并行工作的人类数量一样——将会非常高。

随着技术的不断进步，我们可以预见并行智能体将在更多领域得到应用，从科学研究到工业生产，从内容创作到软件开发。这种并行处理不仅能够提高效率，还能够带来创新性的解决方案，推动人工智能技术的边界不断拓展。

对于希望采用并行智能体的团队和组织，以下是一些建议：

并行智能体代表了AI系统性能优化的一个重要方向。通过同时运行多个智能体，我们能够在不显著增加用户等待时间的情况下提高AI系统的性能和效率。随着技术的不断发展和研究的深入，并行智能体将在人工智能领域发挥越来越重要的作用，推动AI技术的创新和应用达到新的高度。

对于AI研究人员和开发者来说，理解并行智能体的原理和应用，将有助于构建更高效、更强大的AI系统，为用户带来更好的体验。在这个快速发展的领域，保持学习和创新的态度至关重要。