AgentSquare AgentSquare是一款由清华大学团队研发的模块化设计工具，专注于在大型语言模型代理的设计空间内实现高效搜索。其核心功能包括模块化设计、模块重组与进化、性能预测及自动化搜索等，通过标准化接口支持模块间无缝集成，广泛应用于客户服务、个人助理、教育、医疗及金融等多个领域，旨在提升智能体性能并降低推理成本。 AI项目与工具 2025年06月12日 39 点赞 0 评论 451 浏览
Mooncake Mooncake是一个以KVCache为中心的分布式大模型推理架构，由Kimi联合清华大学等机构开源。它通过分离预填充和解码阶段，有效利用GPU集群的其他资源，显著提升推理吞吐量，降低算力消耗，同时保持低延迟。Mooncake支持长上下文处理、负载均衡及过载管理，适用于多种应用场景，包括自然语言处理、语音识别、搜索引擎优化等，推动大模型技术的高效应用。 AI项目与工具 2025年06月12日 57 点赞 0 评论 183 浏览
