CoA

CoA是什么

CoA（Chain-of-Agents）是谷歌开发的一种多智能体协作框架，旨在解决大语言模型（LLM）在处理长文本任务时面临的上下文限制问题。该框架将长文本分割为多个较短的片段，由多个工作智能体依次处理，并通过链式通信传递关键信息。最终，管理智能体整合所有信息，生成统一的输出。该方法无需额外训练，适用于多种任务类型，且具有良好的可解释性。

• 信息聚合与上下文推理：各工作智能体在处理各自片段时，会将关键信息传递给下一个智能体，最终由管理智能体整合信息并生成一致输出。
• 任务无关与无需训练：CoA适用于多种任务，如问答、摘要和代码补全等，且无需额外训练。
• 提升性能与效率：CoA通过多智能体协作显著提升长文本任务的性能，最高可达10%，并将时间复杂度从平方复杂度降低到线性复杂度。
• 可扩展性：CoA可根据输入长度调整工作智能体数量，具备良好的可扩展性。

CoA的设计原理

• 多智能体协作与信息聚合：第一阶段中，工作智能体依次读取并处理文本片段，将关键信息传递给下一个智能体。管理智能体最终整合所有输出，生成最终答案。
• 上下文推理与任务无关性：CoA通过自然语言通信实现多智能体协作，每个智能体专注于较短的上下文，从而缓解长上下文中的注意力分散问题。
• 时间复杂度优化：CoA将时间复杂度从传统的O(n²)降至O(nk)，其中n为输入token数，k为LLM的上下文限制，显著降低了计算成本。

CoA的项目地址

• arXiv技术论文：https://arxiv.org/pdf/2406.02818

CoA的应用场景

• 长文本问答：CoA能处理复杂的多跳推理问题，例如在家族关系推理中，将长文本分割后由多个智能体协作处理。
• 长文本摘要：CoA通过分块处理和多智能体协作，有效提取关键信息并生成准确摘要。
• 代码补全：CoA可用于代码补全任务，处理长代码片段并生成建议。
• 多领域任务：CoA具有高度灵活性，能够与多种大语言模型协同工作。