推理
  1. 首页
  2. 推理

列表

DeepEP

DeepEP

DeepEP 是 DeepSeek 开发的开源 EP 通信库，专为混合专家模型（MoE）的训练和推理设计。它提供高吞吐、低延迟的 GPU 内核，支持 NVLink 和 RDMA 通信，优化了组限制门控算法，兼容 FP8 等低精度数据格式。适用于大规模模型训练、推理解码及高性能计算场景，具有良好的系统兼容性和网络优化能力。
AI项目与工具 2025年06月12日
LocAgent

LocAgent

LocAgent是一款由多所高校联合开发的代码定位工具，通过构建代码库的图结构并结合大语言模型进行多跳推理，帮助开发者快速找到需修改的代码片段。支持多种开发任务，如错误修复、功能添加和性能优化，具备高效的搜索与定位能力，适用于大规模代码维护场景。
AI项目与工具 2025年06月12日
Profiling Data

Profiling Data

Profiling Data是DeepSeek开发的开源性能分析工具，基于PyTorch Profiler收集程序运行数据，用于优化深度学习模型的训练和推理效率。它支持可视化分析，可定位性能瓶颈、分析资源利用情况、优化通信策略，并适用于分布式系统调优。通过提供详细的运行指标，帮助开发者提升计算与通信效率，实现更高效的系统性能。
AI项目与工具 2025年06月12日
CLEAR

CLEAR

CLEAR是一种由新加坡国立大学推出的新型线性注意力机制，能够有效提升预训练扩散变换器生成高分辨率图像的效率。该机制通过局部注意力窗口和知识蒸馏技术，实现了线性复杂度，显著减少了计算量和时间延迟，同时保持了高质量的图像生成效果。CLEAR还支持跨模型泛化、多GPU并行推理以及稀疏注意力优化，广泛适用于数字媒体创作、虚拟现实、游戏开发等多个领域。
AI项目与工具 2025年06月12日
揽睿星舟

揽睿星舟

揽睿星舟是一款由翼方健数自主研发的云端AI训推一体化算力平台，提供高性能GPU计算资源、开箱即用的训练与推理环境、丰富的AI工具链及预训练模型，支持多机多卡分布式训练和隐私安全计算，旨在解决AI协作中的安全信任问题并加速AI价值的释放。它包含推理服务、工作空间、星舟API、镜像社区、应用版与专业版等多种功能和服务，适用于模型训练、推理、大模型API服务、隐私安全计算及数据集共享等多个应用场景。
AI项目与工具 2025年06月12日
TinyR1

TinyR1

TinyR1-Preview是由北京大学与360公司联合研发的32B参数推理模型，采用“分治-融合”策略，通过智能融合数学、编程、科学领域的子模型，实现高性能表现。其在数学领域（如AIME）表现优异，仅用5%参数量即可达到原版R1模型95%以上的性能。模型轻量且高效，适用于教育、科研、开发及企业等多种场景，具备良好的部署灵活性与实用性。
AI项目与工具 2025年06月12日
MetaStone

MetaStone

MetaStone-L1-7B 是一款轻量级推理模型，具备强大的数学和代码推理能力，性能达到行业领先水平。基于 DeepSeek-R1-Distill-Qwen-7B 架构，采用 GRPO 训练方式，支持多种计算架构并具备高效的云原生部署能力。适用于数学解题、编程辅助、智能客服、内容创作等多个场景，具有广泛的应用价值。
AI项目与工具 2025年06月12日
TPO

TPO

TPO（Test-Time Preference Optimization）是一种在推理阶段优化语言模型输出的框架，通过将奖励模型反馈转化为文本形式，实现对模型输出的动态调整。该方法无需更新模型参数，即可提升模型在多个基准测试中的性能，尤其在指令遵循、偏好对齐、安全性和数学推理等方面效果显著。TPO具备高效、轻量、可扩展的特点，适用于多种实际应用场景。
AI项目与工具 2025年06月12日
夸克灵知大模型

夸克灵知大模型

夸克灵知大模型是一款具备高阶推理能力的智能学习工具，专为不同阶段的学习者设计。它提供详尽的题目解析、启发式教学及实时互动功能，涵盖K12教育、高等教育及成人教育等多个领域，助力用户全面提升学习效率和理解力。
AI项目与工具 2025年06月12日
CogView

CogView

CogView-3-Plus是智谱AI研发的AI文生图模型，采用Transformer架构替代传统的UNet，优化了扩散模型中的噪声规划。它能够根据用户指令生成高质量、高美学评分的图像，支持多种分辨率，并具有实时生成图像的能力。该模型已被集成到“智谱清言”APP中，并提供API服务，适用于艺术创作、游戏设计、广告制作等多个图像生成领域。
AI项目与工具 2025年06月12日