在当今快速发展的AI领域，智能体(Agent)系统的性能优化已成为开发者关注的焦点。本文将深入探讨如何通过系统性的评估(evals)和错误分析来提升智能体AI的性能，特别是大语言模型(LLM)如何为这一过程带来新的可能性。
错误分析的核心概念
错误分析是智能体AI开发中不可或缺的一环。以构建一个基础深度研究智能体为例，该智能体需要通过网络搜索来撰写关于特定主题的详细报告，例如"黑洞科学的最新发展"。一个完整的智能体工作流程可能包括以下步骤：
- 使用LLM生成与主题相关的网络搜索查询
- 调用网络搜索API获取结果列表
- 使用LLM识别最有价值的来源进行获取
- 要求LLM利用这些来源撰写最终报告
当最终报告质量不如人类研究员遵循相同步骤完成的工作时，性能差距可能源于上述任何一个步骤。基本的错误分析程序涉及收集一组输出质量不佳的主题样本，并检查工作流程中每一步的痕迹(traces)，以确定哪些步骤最频繁地产生明显逊色于人类水平的结果。
从简单到复杂的错误分析方法
初步错误分析
许多开发者对错误分析存在误解，认为它需要投入大量工作才能开始。实际上，关键原则是观察工作流程的各个步骤，并确定哪些步骤在给定输入上表现不佳，通常通过与人类水平性能(HLP)进行基准测试来评估。
假设我们正在自动化一个人类水平表现可取的任务，那么最重要的是系统性地检查痕迹，了解智能体何时未能达到人类水平。正如我们可以通过快速而粗糙的初步评估(可能仅使用少量示例)开始，然后通过迭代来改进一样，错误分析也可以采用类似方法。
具体而言，从非正式地阅读一个或少量痕迹开始，以了解可能出现的问题，这完全可行。例如，如果您发现深度研究智能体中的网络搜索查询术语经常没有意义，这指明了您应该优先关注的改进领域。
进阶错误分析
随着系统逐渐成熟，您可以逐步过渡到更严谨的错误分析方法。最终，您可能会建立一个定期更新的包含数千个性能不佳示例的数据集，并进行严格的评估，精确显示每个步骤(i)-(iv)在多大百分比的时间内对最终输出问题负责，以及这些步骤在哪些特定方面存在不足。
这种类型的分析对于决定将精力集中在何处以改进整个智能体工作流程的性能极为有用！
利用LLM改进工作流程设计
除了改进单个步骤的执行外，我们还可以改变如何将复杂任务分解为步骤。在构建使用机器学习或深度学习而非LLM的管道时，工作流程的结构——即如何将整体任务分解为要执行的步骤序列——很少发生变化。重新设计这一结构是一项重大工程！
然而，在过去几年中，由于LLM的快速改进，我观察到工作流程设计的迭代速度明显加快。
去除脚手架，让LLM承担更多
一个非常常见的模式是去除脚手架，让LLM承担更多工作。当您现在可以访问比首次构建工作流程时更智能的LLM时，这通常是一个很好的选择。例如，您可能曾经使用一个LLM通过删除导航链接、广告、多余的HTML等来清理下载的网页，然后由另一个单独的LLM使用清理后的页面撰写报告。由于LLM变得更智能，您可能会决定跳过第一步，将更杂乱的HTML直接放入最终的LLM中，而不进行初步清理步骤，但这可能会引入自身的错误。
从硬编码规则到LLM决策
另一个例子是：也许一年前，我们使用硬编码规则来决定获取哪些网页以及何时获取更多，但现在我们可能让基于LLM的智能体更自主地做出这些决策。随着LLM变得更智能，我看到许多团队重新设计工作流程，以移除先前为了防止系统失控而需要的硬编码步骤或约束。
发现此类机会的一种方法是，如果错误分析显示，尽管每个单独步骤的性能良好，但一系列步骤 collectively 表现不如人类，这可能表明这些步骤的执行方式过于僵化。
实践建议
从小处着手：不要一开始就追求完美的错误分析。从检查少量示例开始，识别明显的问题模式。
迭代改进：随着对系统的理解加深，逐步增加分析的严谨性和样本量。
关注人类水平基准：始终将智能体的表现与人类水平进行比较，这是评估改进方向的关键。
利用LLM进步：定期重新评估工作流程设计，看看哪些硬编码步骤现在可以交给更智能的LLM处理。
系统性追踪：建立机制记录工作流程中的每一步，以便进行详细的错误分析。
结论
错误分析是提升智能体AI性能的关键工具，而大语言模型的进步为这一过程提供了新的可能性。通过系统性地分析工作流程中的每一步，识别性能瓶颈，并利用LLM的不断增强的能力来重新设计工作流程，开发者可以显著提升智能体的性能和可靠性。
随着AI技术的不断发展，错误分析的方法和工具也将继续进化。保持对最新技术和最佳实践的关注，将帮助开发者在智能体AI的竞争中保持领先地位。
