优化
Project AVA
Project AVA 是一款由雷蛇开发的 AI 游戏辅助工具,支持 MOBA、FPS 和 ARPG 等多种游戏类型。它提供实时游戏指导、赛后复盘分析、游戏攻略生成以及硬件性能优化功能,帮助玩家提升操作水平与游戏体验。同时支持多平台交互,便于用户与 AI 交流。
DuoAttention
DuoAttention是由MIT韩松团队提出的新型框架,通过区分“检索头”和“流式头”两种注意力机制,显著提升了大型语言模型在处理长上下文时的推理效率。该框架有效减少了内存占用,加速了解码和预填充过程,并保持了模型的准确性。它适用于多轮对话、长文档处理、学术研究以及内容推荐等多个领域。
