推理
  1. 首页
  2. 推理

列表

Awesome Chinese LLM

Awesome Chinese LLM

整理了开源的中文大语言模型（LLM），主要关注规模较小、可私有化部署且训练成本较低的模型，目前已收录了100多个相关资源。
Ai学习资源 2025年06月05日
Mooncake

Mooncake

Mooncake是一个以KVCache为中心的分布式大模型推理架构，由Kimi联合清华大学等机构开源。它通过分离预填充和解码阶段，有效利用GPU集群的其他资源，显著提升推理吞吐量，降低算力消耗，同时保持低延迟。Mooncake支持长上下文处理、负载均衡及过载管理，适用于多种应用场景，包括自然语言处理、语音识别、搜索引擎优化等，推动大模型技术的高效应用。
AI项目与工具 2025年06月12日
LlamaV

LlamaV

LlamaV-o1是由阿联酋穆罕默德·本·扎耶德人工智能大学等机构开发的多模态视觉推理模型，具备结构化推理和透明性，支持文本、图像和视频等多种模态的信息处理。该模型引入了VRC-Bench基准测试，涵盖4000多个推理步骤，用于全面评估推理能力。其性能优于多个开源模型，适用于医疗影像分析、金融数据解读、教育辅助和工业检测等场景，具有高准确性和可解释性。
AI项目与工具 2025年06月12日
DeepSeek R1

DeepSeek R1

DeepSeek R1-Zero 是一款基于纯强化学习训练的推理模型，无需监督微调即可实现高效推理。在 AIME 2024 竞赛中 Pass@1 分数达到 71.0%，展现强大逻辑与数学推理能力。支持长上下文处理，具备自我进化、多任务泛化等特性，并通过开源和蒸馏技术推动模型应用与优化。
AI项目与工具 2025年06月12日
LayerSkip

LayerSkip

LayerSkip 是一种针对大型语言模型推理优化的技术，通过层 dropout 和早期退出损失机制，实现从早期层的精准退出，降低计算成本并提高解码效率。该方法结合自我推测解码技术，支持模型在早期层生成预测并通过后续层验证修正，广泛适用于文档摘要、编程任务、语义解析等自然语言处理任务，同时确保高精度与低延迟。
AI项目与工具 2025年06月12日
Kimi探索版

Kimi探索版

Kimi探索版是一款基于深度推理的AI搜索工具，具备强大的搜索、分析及自我优化能力。它能够将复杂问题分解成多个子问题，通过逐步推理与数据整合生成精确解答，并支持数学建模、编程处理及多语言交流。此外，其自我反思机制进一步提升了答案的准确性，广泛适用于学术研究、市场分析、学习辅导和技术支持等场景。
AI项目与工具 2025年06月12日
ReasonIR

ReasonIR

ReasonIR-8B 是由 Meta AI 开发的推理密集型检索模型，基于 LLaMA3.1-8B 训练，采用双编码器架构，提升复杂查询处理能力。结合合成数据生成工具，增强模型在长上下文和抽象问题中的表现。在多个基准测试中表现优异，适用于问答系统、教育、企业知识管理和科研等领域。
AI项目与工具 2025年06月11日
Insight

Insight

Insight-V是一款由南洋理工大学、腾讯和清华大学联合研发的多模态大型语言模型，专为提升长链视觉推理能力而设计。该模型通过多智能体系统将任务分解为推理与总结两步，并采用两阶段训练流程优化性能。其渐进式数据生成和多粒度评估方法进一步提升了模型的推理精度，在多个视觉推理基准测试中表现出色。
AI项目与工具 2025年06月12日
mPLUG

mPLUG

mPLUG-Owl3是一款由阿里巴巴开发的多模态AI模型，专注于理解和处理多图及长视频内容。该模型具备高推理效率和准确性，采用创新的Hyper Attention模块优化视觉与语言信息的融合。它已在多个基准测试中展现出卓越性能，并且其源代码和资源已公开，可供研究和应用。
AI项目与工具 2025年06月12日
T2V

T2V

T2V-Turbo 是一种高效的文本到视频生成模型，能够快速生成高质量视频，同时确保文本与视频的高度一致性。它通过一致性蒸馏技术和混合奖励机制优化生成过程，适用于电影制作、新闻报道、教育及营销等多个领域，支持从创意草图到成品视频的全流程加速。
AI项目与工具 2025年06月12日