推理
  1. 首页
  2. 推理

列表

Optima

Optima

Optima是一款由清华大学研发的框架，旨在通过迭代生成、排名、选择和训练过程，优化基于大型语言模型的多智能体系统。它不仅提高了通信效率和任务完成质量，还支持大规模复杂任务处理，同时集成了强化学习与蒙特卡洛树搜索技术以生成优质训练数据。Optima适用于信息不对称问答、复杂推理任务、软件开发等多个领域，具有高扩展性和低计算成本的特点。
AI项目与工具 2025年06月12日
Vid2World

Vid2World

Vid2World是由清华大学和重庆大学联合开发的创新框架，能够将全序列、非因果的被动视频扩散模型（VDM）转换为自回归、交互式、动作条件化的世界模型。该模型基于视频扩散因果化和因果动作引导两大核心技术，解决了传统VDM在因果生成和动作条件化方面的不足。Vid2World支持高保真视频生成、动作条件化、自回归生成和因果推理，适用于机器人操作、游戏模拟等复杂环境，具有广泛的应用前景。
AI项目与工具 2025年06月11日
o3

o3

o3-pro 是 OpenAI 开发的高级推理模型，继承并优化了 o3 的功能，在复杂问题解决和精确答案提供上表现出色。它集成了 ChatGPT 的多种工具，如网页搜索、文件分析、图像推理和编程等，适合科学研究、编程、教育和写作等领域。尽管响应速度稍慢，但在表达清晰度、逻辑准确性和答案完整性方面表现优异，并在数学、科学和编程等领域的性能上超越了前代模型。
AI项目与工具 2025年06月12日
APB

APB

APB是一种由清华大学等机构开发的分布式长上下文推理框架，通过稀疏注意力机制和序列并行推理提升大模型处理长文本的效率。采用更小的Anchor Block和Passing Block，结合查询感知的上下文压缩技术，减少计算开销并精准传递关键信息。在128K长度文本上，APB推理速度比Flash Attention快10倍，比Star Attention快1.6倍，适用于多种分布式环境和模型规模，广泛
AI项目与工具 2025年06月12日
Profiling Data

Profiling Data

Profiling Data是DeepSeek开发的开源性能分析工具，基于PyTorch Profiler收集程序运行数据，用于优化深度学习模型的训练和推理效率。它支持可视化分析，可定位性能瓶颈、分析资源利用情况、优化通信策略，并适用于分布式系统调优。通过提供详细的运行指标，帮助开发者提升计算与通信效率，实现更高效的系统性能。
AI项目与工具 2025年06月12日
OThink

OThink

OThink-MR1是由OPPO研究院与香港科技大学（广州）联合研发的多模态语言模型优化框架，基于动态KL散度策略（GRPO-D）和奖励模型，提升模型在视觉计数、几何推理等任务中的泛化与推理能力。其具备跨任务迁移能力和动态平衡探索与利用机制，适用于智能视觉问答、图像描述生成、内容审核等多个领域，具有广阔的应用前景。
AI项目与工具 2025年06月12日
VITA

VITA

VITA-Audio 是一款开源的端到端多模态语音大模型，具备低延迟、高推理效率和多模态交互能力。其核心创新包括轻量级 MCTP 模块和四阶段渐进式训练策略，使模型在语音识别、文本转语音和口语问答等任务中表现优异。支持实时对话、智能客服、教育辅助、医疗辅助及内容创作等多种应用场景，适用于各类语音交互系统。
AI项目与工具 2025年06月11日
Mini

Mini

Mini-Omni 是一个开源的端到端语音对话模型，具备实时语音输入和输出的能力，能在对话中实现“边思考边说话”的功能。模型设计无需额外的自动语音识别（ASR）或文本到语音（TTS）系统，直接进行语音到语音的对话。Mini-Omni 采用文本指导的语音生成方法，通过批量并行策略提高性能，同时保持了原始模型的语言能力。它支持实时语音交互、文本和语音并行生成、跨模态理解等功能，适用于智能助手、客户服务
AI项目与工具 2025年06月12日
SmoothCache

SmoothCache

SmoothCache是一种针对Diffusion Transformers（DiT）模型的推理加速技术，通过分析层输出的相似性实现自适应缓存和特征重用，有效减少计算成本并提升生成效率。该技术具有模型无关性、跨模态适用性和易于集成的特点，支持图像、视频、音频及3D模型生成，并在多种应用场景中展现出卓越的性能表现。
AI项目与工具 2025年06月12日
DeepClaude

DeepClaude

DeepClaude 是一款高性能开源 AI 工具，融合 DeepSeek R1 和 Claude 模型，具备推理、创造力和代码生成能力。它提供零延迟响应、端到端加密和本地 API 管理，保障数据安全。支持高度自定义，适用于智能客服、代码生成、推理分析及教育等多场景，满足多样化需求。
AI项目与工具 2025年06月12日