DuoAttention DuoAttention是由MIT韩松团队提出的新型框架，通过区分“检索头”和“流式头”两种注意力机制，显著提升了大型语言模型在处理长上下文时的推理效率。该框架有效减少了内存占用，加速了解码和预填充过程，并保持了模型的准确性。它适用于多轮对话、长文档处理、学术研究以及内容推荐等多个领域。 AI项目与工具 2025年06月12日 58 点赞 0 评论 206 浏览
CoA CoA是由谷歌开发的多智能体协作框架，用于解决大语言模型在处理长文本任务时的上下文限制问题。它将长文本分割成多个片段，由多个智能体依次处理并通过链式通信传递关键信息，最终由管理智能体整合生成结果。该框架无需额外训练，支持多种任务类型，如问答、摘要和代码补全，且具有高效性和可扩展性。其时间复杂度优化显著提升了处理长文本的效率。 AI项目与工具 2025年06月12日 57 点赞 0 评论 119 浏览
